Vol. 31 · Convenience as Surveillance 책임 · Deep read
Shoshana Zuboff · Surveillance Capitalism

편의로 들어와
감시로
남는다
같은 데이터가 나를 돕기도, 재기도 한다. 리더가 그을 것은 편의와 감시 사이의 선이다.

생산성 분석, 회의 요약, 활동 기록. 돕겠다며 들어온 AI 도구는 동시에 지켜보는 도구가 된다. 쇼샤나 주보프의 말처럼, 편의는 미끼이고 진짜 상품은 행동 데이터일 수 있다. 리더가 그을 것은 편의와 감시 사이의 선이다.

The Bait편의라는 미끼
The Paradox감시의 역설
The Line선을 긋는 설계
원전
The Age of Surveillance Capitalism Shoshana Zuboff (2019) · 직장 모니터링 통계 (2024)
Previously on Vol. 30
AI 1:1 설계도상태 보고는 도구가 대신할 수 있다. 그러면 1:1은 원래 목적, 곧 사람에게로 돌아간다.
용어 · 이 글에서의 정의
감시가 된 편의 Convenience as Surveillance

이 글에서 '감시가 된 편의'는 감시가 나쁘다는 고발이 아니다. 생산성 분석·회의 요약·활동 기록처럼 돕겠다며 들어온 도구가 동시에 지켜보는 도구가 되는 상태를 뜻한다. 쇼샤나 주보프의 말처럼, 편의는 미끼이고 진짜 상품은 행동 데이터일 수 있다.

Section Ⅰ · The Bait편의라는 미끼

도우러 들어온 도구가
지켜보기 시작한다

AI 도구는 대개 편의의 얼굴로 들어온다. 잡무를 줄여 주고, 회의를 요약해 주고, 흐름을 보여 준다. 그런데 그 편의가 지나간 자리에는 데이터가 쌓인다. 누가 언제 무엇을 얼마나 했는지가.

쇼샤나 주보프는 이 구조를 '감시 자본주의'라 불렀다. 기업은 사람의 경험을 공짜 원료로 삼아 행동 잉여를 모으고, 그것을 '이 사람이 다음에 무엇을 할지' 맞히는 예측 상품으로 바꾼다. 편의는 그 원료를 캐기 위한 미끼다. 진짜 상품은 서비스가 아니라, 서비스를 쓰는 동안 흘린 행동이다.

이 논리가 이제 직장 안으로 들어왔다. 미국 고용주의 74%가 온라인으로 직원을 모니터링하고, 전 세계 노동자의 71%가 어떤 형태로든 디지털 감시를 받는다. 61%의 기업은 AI 분석으로 생산성과 행동을 측정한다. 팬데믹 이후 이 시장은 몇 배로 커졌다. 대부분은 '돕는 도구'라는 이름을 달고 있다.

그래서 물음은 감시를 없앨 것인가가 아니다. 돕겠다며 들어온 도구가 어디까지 편의이고 어디부터 감시인지, 그 선을 누가 어떻게 긋는가이다.

Monitored
74%
온라인으로 직원을 모니터링하는 미국 고용주. 전 세계 노동자 71%가 디지털 감시를 받는다 (2024)
AI analytics
61%
AI 분석으로 직원의 생산성·행동을 측정하는 미국 기업 (2024)
Trusted use
30%
자사가 직원 데이터를 책임 있게 쓴다고 확신한 임원. 나머지 70%는 확신하지 못한다
The claim
22%
모니터링 도입 기업이 보고한 생산성 증가. 그러나 직원 다수는 긴장·스트레스를 호소한다

Section Ⅱ · The Paradox감시의 역설

지켜볼수록
지켜볼 것이 사라진다

감시가 성과를 올린다는 믿음이 이 시장을 키웠다. 그런데 같은 데이터가 어디를 향하느냐에 따라, 편의는 조용히 감시로 방향을 튼다.

Where the Same Data Goes
같은 데이터가 향하는 세 방향
01
나를 돕는 데이터
For the worker · 편의
내 흐름을 보여 주고, 잡무를 줄이고, 성장을 돕는다. 데이터가 그 사람에게 돌아갈 때, 그것은 편의다. 여기까지는 도구가 약속한 얼굴이다.
02
나를 재는 데이터
For control · 감시
같은 데이터가 평가·순위·통제로 방향을 튼다. 돕겠다던 기록이 성적표가 된다. 편의가 감시로 바뀌는 지점이며, 대개 당사자는 그 전환을 모른다.
03
신뢰를 무너뜨리는 데이터
Against trust · 역설
지켜본다는 사실만으로 신뢰와 안전감이 샌다(Vol. 10·28). 감시로 올리려던 성과를, 감시가 갉아먹는다. 데이터 대신 신뢰가 먼저 바닥난다.
“감시 자본주의는 인간의 경험을 공짜 원료로 삼아, 행동 잉여를 '무엇을 할지 맞히는' 예측 상품으로 바꾼다.” (요지 · Shoshana Zuboff, The Age of Surveillance Capitalism, 2019)

Section Ⅲ · The Line선을 긋는 설계

무엇을 위한
데이터인가

편의와 감시를 가르는 것은 도구가 아니다. 그 데이터가 누구를 위해, 무엇을 위해 쓰이느냐다. 그 선을 설계로 그으려면 다음을 통과해야 한다.

Design Checks · 선을 그으려면
편의를 감시로 넘기지 않는 다섯 질문
01
누구를 위한 데이터인가?
이 기록이 당사자에게 돌아가 그를 돕는가, 위로 올라가 그를 재는가.
02
알고 동의했는가?
무엇이 수집되고 어떻게 쓰이는지 당사자가 알고 있는가, 아니면 편의 뒤에 숨어 있는가.
03
목적을 벗어나지 않는가?
도움을 위해 모은 데이터를 슬그머니 평가·징계·감시로 돌려쓰고 있지는 않은가(Vol. 26).
04
최소한만 모으는가?
모을 수 있으니 모으는가, 꼭 필요한 것만 모으는가. 남는 데이터는 언젠가 감시가 된다.
05
신뢰를 값으로 재는가?
모니터링으로 얻는 숫자와 그 대가로 잃는 신뢰·안전감을, 같은 저울에 올려 보고 있는가.

감시를 성과의 도구로만 보면, 정작 성과를 만들던 신뢰가 빠져나가는 것을 놓친다. 숫자는 눈에 보이고 신뢰는 보이지 않기에, 저울은 늘 감시 쪽으로 기운다. 리더의 눈은 그 보이지 않는 쪽을 함께 본다.

이 편은 Vol. 26과 짝을 이룬다. 거기서 결정을 맡겨도 책임은 넘어가지 않는다고 했다. 여기서는 편의를 들여도 감시할 권리가 함께 오는 것은 아니라고 말한다. 둘 다 도구가 넓어질수록 사람이 다시 그어야 할 선에 관한 이야기다.

돕겠다는 도구를 마다할 이유는 없다. 다만 그 도구가 지켜보는 도구로 조용히 바뀔 때, 그 선을 긋는 것은 도구가 아니라 리더다. 편의는 공짜처럼 보여도, 신뢰로 값을 치를 수 있다.

Synthesis · Vol. 31

편의로 들어온 도구가,
조용히 감시로 남는다

생산성 분석과 활동 기록은 나를 돕는 얼굴로 들어온다. 그러나 같은 데이터가 평가·순위·통제로 방향을 틀면, 편의는 감시가 된다. 주보프가 말한 '행동 잉여'가 직장 안으로 들어온 셈이다.

역설은 여기 있다. 지켜보면 성과가 오를 것 같지만, 지켜본다는 사실이 신뢰와 안전감을 샌다. 정작 성과를 만들던 것이 무너진다. 그래서 리더가 그을 것은 편의와 감시 사이의 선 — 무엇을 위한 데이터인가이다.

Zuboff · '19 — Leadership Insight
More from Leadership Insight