지켜보는 도구가 된다
이 글에서 '감시가 된 편의'는 감시가 나쁘다는 고발이 아니다. 생산성 분석·회의 요약·활동 기록처럼 돕겠다며 들어온 도구가 동시에 지켜보는 도구가 되는 상태를 뜻한다. 쇼샤나 주보프의 말처럼, 편의는 미끼이고 진짜 상품은 행동 데이터일 수 있다.
Section Ⅰ · The Bait편의라는 미끼
도우러 들어온 도구가
지켜보기 시작한다
AI 도구는 대개 편의의 얼굴로 들어온다. 잡무를 줄여 주고, 회의를 요약해 주고, 흐름을 보여 준다. 그런데 그 편의가 지나간 자리에는 데이터가 쌓인다. 누가 언제 무엇을 얼마나 했는지가.
쇼샤나 주보프는 이 구조를 '감시 자본주의'라 불렀다. 기업은 사람의 경험을 공짜 원료로 삼아 행동 잉여를 모으고, 그것을 '이 사람이 다음에 무엇을 할지' 맞히는 예측 상품으로 바꾼다. 편의는 그 원료를 캐기 위한 미끼다. 진짜 상품은 서비스가 아니라, 서비스를 쓰는 동안 흘린 행동이다.
이 논리가 이제 직장 안으로 들어왔다. 미국 고용주의 74%가 온라인으로 직원을 모니터링하고, 전 세계 노동자의 71%가 어떤 형태로든 디지털 감시를 받는다. 61%의 기업은 AI 분석으로 생산성과 행동을 측정한다. 팬데믹 이후 이 시장은 몇 배로 커졌다. 대부분은 '돕는 도구'라는 이름을 달고 있다.
그래서 물음은 감시를 없앨 것인가가 아니다. 돕겠다며 들어온 도구가 어디까지 편의이고 어디부터 감시인지, 그 선을 누가 어떻게 긋는가이다.
Section Ⅱ · The Paradox감시의 역설
지켜볼수록
지켜볼 것이 사라진다
감시가 성과를 올린다는 믿음이 이 시장을 키웠다. 그런데 같은 데이터가 어디를 향하느냐에 따라, 편의는 조용히 감시로 방향을 튼다.
“감시 자본주의는 인간의 경험을 공짜 원료로 삼아, 행동 잉여를 '무엇을 할지 맞히는' 예측 상품으로 바꾼다.” (요지 · Shoshana Zuboff, The Age of Surveillance Capitalism, 2019)
Section Ⅲ · The Line선을 긋는 설계
무엇을 위한
데이터인가
편의와 감시를 가르는 것은 도구가 아니다. 그 데이터가 누구를 위해, 무엇을 위해 쓰이느냐다. 그 선을 설계로 그으려면 다음을 통과해야 한다.
감시를 성과의 도구로만 보면, 정작 성과를 만들던 신뢰가 빠져나가는 것을 놓친다. 숫자는 눈에 보이고 신뢰는 보이지 않기에, 저울은 늘 감시 쪽으로 기운다. 리더의 눈은 그 보이지 않는 쪽을 함께 본다.
이 편은 Vol. 26과 짝을 이룬다. 거기서 결정을 맡겨도 책임은 넘어가지 않는다고 했다. 여기서는 편의를 들여도 감시할 권리가 함께 오는 것은 아니라고 말한다. 둘 다 도구가 넓어질수록 사람이 다시 그어야 할 선에 관한 이야기다.
돕겠다는 도구를 마다할 이유는 없다. 다만 그 도구가 지켜보는 도구로 조용히 바뀔 때, 그 선을 긋는 것은 도구가 아니라 리더다. 편의는 공짜처럼 보여도, 신뢰로 값을 치를 수 있다.