자가 휜다
어떤 숫자를 관리의 수단으로 삼아 압력을 가하면 그 숫자가 원래 말해 주던 것을 더 이상 말해 주지 않게 된다는 뜻이다. 사람들이 숫자를 속여서가 아니다. 숫자를 올리는 쪽으로 일하는 방식 자체가 바뀌기 때문이다. 그래서 지표는 보통 조용히 망가진다.
Section Ⅰ · When a Measure Becomes a Target지표가 목표가 될 때
재기 시작하면
재는 대상이 달라진다
1975년, 영국의 경제학자 찰스 굿하트가 통화 정책을 두고 한 문장을 적었다. 관찰된 어떤 통계적 규칙성이든 관리의 목적으로 압력을 받으면 무너지는 경향이 있다는 것이다. 당시 맥락은 좁았다. 중앙은행이 통화량 지표 하나를 목표로 삼자, 그 지표와 물가 사이에 있던 관계가 흐트러지던 상황이었다.
이 관찰이 넓게 쓰이게 된 것은 1997년이다. 인류학자 메릴린 스트래선이 영국 대학 평가 제도를 다루면서 같은 생각을 한 문장으로 줄였다. 지표가 목표가 되면 그것은 더 이상 좋은 지표가 아니다. 오늘날 굿하트의 법칙으로 인용되는 문장은 대개 이 축약본이다.
비슷한 시기에 심리학자 도널드 캠벨은 더 날카로운 쪽을 짚었다. 어떤 양적 지표든 사회적 결정에 많이 쓰일수록 왜곡 압력을 더 받고, 그 지표가 관찰하려던 과정 자체를 망가뜨리기 쉽다는 것이다. 굿하트가 지표의 쓸모가 사라진다고 했다면, 캠벨은 재는 행위가 대상을 훼손한다고 했다. 둘을 합치면 이렇게 된다. 재면 바뀌고, 바뀐 뒤에는 그 숫자로 알 수 있는 것이 줄어든다.
교실이 흔한 예다. 시험 점수는 원래 학습의 상태를 알려 주는 신호였다. 그 점수가 학교와 교사를 평가하는 기준이 되자 수업이 시험에 맞춰 바뀌었다. 점수는 올랐고, 그 점수가 학습을 말해 주는 정도는 떨어졌다. 아무도 부정을 저지르지 않아도 이 일은 일어난다.
Section Ⅱ · Two Signals두 개의 신호
쓰라고 하면서
쓴 사람을 깎는다
2025년부터 큰 회사들이 AI 사용을 평가 안으로 들였다. 마이크로소프트의 한 사업부는 AI 사용이 더 이상 선택이 아니라고 알리며 관리자에게 평가에 반영하라고 했다. 쇼피파이는 인원을 더 요청하기 전에 그 일을 AI로 할 수 없는 이유를 먼저 증명하라고 했고, AI 사용을 동료 평가 항목에도 넣었다. 메타는 2026년부터 'AI가 만든 성과'를 전 직군의 핵심 기대치로 삼겠다고 했다.
동기는 이해할 만하다. 도입은 선언만으로 일어나지 않는다. 평가에 걸리지 않은 권고는 바쁜 일정 앞에서 밀린다. 그래서 가장 재기 쉬운 숫자를 고른다. 얼마나 쓰는가다. 결과를 재려면 시간이 오래 걸리고 해석도 어려운 반면, 사용량은 오늘 당장 셀 수 있다.
그런데 같은 조직 안에서 반대 방향의 신호가 흐르고 있다. 2025년 PNAS에 실린 연구는 사전등록 실험 4건에서 참가자 4,439명을 분석해, AI를 썼다고 알려진 사람이 역량과 성실성 평가에서 깎인다는 것을 보였다. 사람들은 그 벌점을 예상하기도 했고, 실제로 받기도 했다. 채용 후보를 고르는 판단에도 영향이 있었다.
직원의 자리에서 보면 신호가 둘이다. 회사는 쓰라고 하고, 사람은 쓴 티를 내면 깎는다. 이 둘이 동시에 작동할 때 합리적인 선택은 하나로 좁혀진다. 쓰되 숨긴다. Vol. 52에서 다룬 그림자 AI가 생기는 경로가 여기에도 있다. 그때는 금지가 기록을 없앴다면, 이번에는 평가가 기록을 왜곡한다. 사용률 숫자는 올라가는데 그 숫자가 가리키는 현실은 흐려진다.
작은 조직에서도 같은 일이 벌어진다. 주간 보고서에 'AI 활용' 칸이 하나 생겼다고 해 보자. 첫 달에는 실제로 쓴 사례가 올라온다. 둘째 달부터는 칸을 채우기 위한 사례가 올라온다. 셋째 달이면 쓰지 않아도 될 자리에 굳이 쓴 일이 보고된다. 칸은 꾸준히 채워지고, 그 칸을 읽는 리더는 도입이 잘되고 있다고 읽는다. 아무도 거짓을 적지 않았는데 그 칸이 알려 주던 것은 사라졌다.
지표가 둘로 갈라지는 문제도 있다. Vol. 54에서 본 것처럼 경력 연수는 실력을 거의 설명하지 못하는 지표였다. 그것은 타당성의 문제였다. 지금 이야기는 다르다. AI 사용량은 처음에는 꽤 쓸 만한 신호일 수 있다. 다만 평가에 걸리는 순간 그 타당성이 스스로 줄어든다. 재기 전에는 맞던 자가 재기 시작하면서 휜다.
Section Ⅲ · What the Metric Produced지표가 만들어 낸 것
규칙은 작동했다
그래서 문제가 됐다
쇼피파이의 사례가 이 법칙의 전 과정을 보여 준다. 2025년 4월, 대표 토비 뤼트케는 AI를 쓰는 것이 기본 기대치라고 선언했다. 규칙은 작동했다. 사내 도입은 빠르게 늘었고, 지금은 상당수의 코드 변경이 사내 AI 도구에서 시작된다고 알려졌다.
그리고 2026년 9월, 같은 사람이 한 팟캐스트에서 자신이 만든 규칙의 부작용을 이야기했다. 그는 검토되지 않은 AI 초안이 동료에게 그대로 넘어가는 현상을 가리켜 슬롭 그레네이드라고 불렀다. AI에게 결과물을 받아 제대로 읽지 않은 채 다음 사람에게 넘기면, 받은 사람은 그것을 추리려고 다시 AI를 쓴다. 아무도 시간을 아끼지 못했고 일만 아래로 옮겨 갔다는 것이다.
굿하트가 말한 그대로다. 사용량을 올리라고 했더니 사용량이 올랐다. 다만 그 숫자가 처음에 가리키려 했던 것, 곧 일이 더 잘 처리되고 있다는 사실은 함께 오르지 않았다. 지표는 성공했고 목적은 밀려났다.
그러면 무엇을 재야 하는가. 정직한 답은 결과를 재야 한다는 것이고, 더 정직한 답은 결과가 재기 어렵다는 것이다. 바로 그 어려움 때문에 조직은 사용량 같은 대리 지표로 돌아간다. 그래서 현실적인 선택은 지표를 완벽하게 만드는 쪽이 아니라, 지표가 망가진다는 것을 전제로 운영하는 쪽이 된다. 짧은 주기로 바꾸고, 짝을 지어 걸고, 무엇보다 사람에 대한 판단과는 떼어 놓는다.
마지막으로 책임의 자리를 짚어 둔다. 슬롭 그레네이드에서 문제가 된 것은 AI가 나쁜 초안을 썼다는 점이 아니다. 초안을 읽지 않고 넘긴 사람이 그 책임을 지지 않았다는 데 있다. Vol. 26에서 정리한 원칙이 여기서도 같다. 도구에 작업은 맡겨도 결과에 대한 책임은 넘어가지 않는다. 그 책임이 분명하면 사용량 숫자는 덜 중요해진다.
지표를 걸지 말자는 이야기가 아니다. 재지 않으면 관리할 수 없다는 말도 대체로 맞다. 다만 재는 행위가 대상을 바꾼다는 사실까지 계산에 넣어야 한다. 좋은 지표를 찾는 일보다, 지금 쓰는 지표가 어떻게 망가질지를 먼저 적어 두는 일이 보통 더 쓸모 있다.
리더가 물어야 할 질문은 이것이다. 이 숫자가 오르면 나는 무엇을 알게 되는가. 답이 "사람들이 이 숫자를 올렸다는 것"뿐이라면, 그 지표는 걸기 전에 이미 망가져 있다.