문 너머의 네 갈래
저자가 쓰는 말로, 시스템을 끄지도 않고 틀렸다고 말하지도 않으면서 결정권만 되돌려 놓는 상태다. 반대하는 사람이 없다는 것이 특징이다. 검토 단계가 하나 붙고, 기준값이 조금 낮아지고, 상신 절차가 길어진다. 하나하나는 신중해서 생긴 조정이고, 합쳐 놓으면 시스템은 돌아가는데 아무것도 바뀌지 않은 상태가 된다. 사용률 대시보드에는 이 상태가 잡히지 않는다.
Section Ⅰ · Four Questions네 개의 질문
비워 둔 칸은
비어 있지 않다
Vol. 85에서 다스 나라얀다스의 진단을 봤다. 성능이 좋은 시스템을 사람이 계속 뒤집는 이유는 저항이 아니었다. 구조적 노출이고, 권한은 문서로 옮겼는데 책임은 그 자리에 남아 있기 때문이라는 것이었다. 이 편은 같은 기사의 뒤쪽을 읽는다. 그래서 무엇을 해야 하는가.
저자가 승인 시점에 답하라고 요구하는 질문은 넷이다.
첫째, 이 시스템이 제대로 작동하면 누가 재량을 잃는가. 둘째, 누가 어떤 결정에 대한 권한을 얻는가. 셋째, 시스템을 따랐을 때 나온 결과를 설명할 사람은 누구인가. 넷째, 학습 곡선 동안의 전환 위험은 누가 흡수하는가.
네 질문 자체보다 저자가 거기 붙인 한 문장이 더 중요하다. 조직이 승인할 때 이 넷에 명시적으로 답하지 않으면, 그 답은 나중에 현장의 운영자들이 암묵적으로 하게 되고, 그 답은 각자의 기존 권한을 지키는 쪽으로 기운다는 것이다.
이 구조가 Vol. 85에서 본 장면을 다시 설명해 준다. 거기서 배차 담당자들은 시스템이 틀렸다고 말하지 않았고 쓰기를 거부하지도 않았다. 대신 민감 화물 표시와 추가 상신 단계와 더 낮은 검토 기준을 붙였다. 그것이 바로 네 질문에 대한 그들의 답이었다. 아무도 묻지 않았으므로 스스로 답한 것이고, 답할 수 있는 유일한 방향으로 답한 것이다.
네 번째 질문이 특히 눈에 걸린다. 앞의 셋은 조직도와 결재선을 손보면 답이 나오는 종류인데, 전환 위험을 누가 흡수하느냐는 누군가 이름을 걸어야 하는 질문이다. 저자는 시스템에 눈에 보이는 후원이 필요하다고 적는다. 초기 오류를 개인의 실패로 돌리는 대신 조직의 학습으로 떠안겠다는 리더가 있어야 한다는 것이다.
저자가 제시하는 순서도 분명하다. 권한은 조직이 알고리즘을 운영상의 기본값으로 만들고, 뒤집기를 눈에 보이게 하고, 사람의 역할을 재심 대신 감사 쪽으로 다시 짜고, 책임을 시스템 소유자에게 옮긴 다음에야 이동한다. 기술과 조직 구조가 함께 움직여야 한다는 말이다.
Section Ⅱ · Name the Error First첫 오류에 미리 이름을 붙인다
도구는 베꼈고
규범은 베끼지 않았다
권한과 책임을 맞추려면 한 가지가 성립해야 한다. 모델이 정해진 범위 안에서 결정하도록 허용했다면, 그 범위를 따르는 일이 직업적으로 방어 가능해야 한다는 것이다. 그러려면 리더가 시스템의 초기 실수를 개인의 탓으로 돌리지 않아야 한다.
저자가 가져오는 사례가 항공업이다. 이 산업은 정의로운 문화라는 원칙을 쓴다. 사람들이 안전 문제를 드러내도록 장려하면서, 받아들일 수 있는 실수와 받아들일 수 없는 행위 사이의 경계는 유지하는 방식이다. 유럽연합 법은 항공 조직들에게 그 경계가 어떻게 보장되고 집행되는지를 설명하도록 요구하고, 보고된 정보는 고의적 위법이나 중대한 과실이 아닌 한 비난이나 책임 추궁에 쓰이지 않도록 보호한다. 그 결과 오류가 눈에 보이게 되고, 보이면 분석하고 고치고 되풀이를 막을 수 있다.
도요타의 안돈도 같은 교훈을 준다. 결함을 본 작업자가 문제를 알리고 조장을 라인으로 부를 수 있고, 수습되지 않으면 생산을 멈출 수 있다. 저자가 짚는 대목은 그다음이다. 문제를 찾아낸 행위가 불러오는 것은 자동적인 비난이 아니다. 도움과 코칭과 근본 원인 해결이다.
그리고 한 줄이 더 붙는다. 안돈을 베끼려다 실패한 회사들은 도구는 복제했고 그 둘레의 책임 규범은 복제하지 않았다. Vol. 58에서 GM 최악의 공장이 2년 만에 최고가 된 이야기를 다뤘다. 사람은 대부분 그대로였고 바뀐 것은 일하는 구조였다. 이번 문장은 그 이야기의 뒷면이다. 구조의 겉모습만 가져오면 아무것도 바뀌지 않는다.
AI판 번역을 저자는 간단하다고 말한다. 도입 전에 리더가 정해 두는 것이다. 어떤 초기 오류를 시스템 학습 사건으로 다룰지, 어떤 것을 상신 대상으로 할지, 어떤 것을 개인의 책임으로 남길지.
Vol. 13에서 좋은 실패를 다뤘다. 모든 실패가 배움은 아니고 문제는 가려낼 수 있는가라는 이야기였다. 이번 편이 더하는 것은 시점이다. 거기서는 일이 벌어진 뒤에 분류했고, 여기서는 벌어지기 전에 분류 기준을 공표한다. 사후에 분류하면 사람들은 자기가 어느 칸에 들어갈지 모르는 채로 일하게 되고, 모르는 상태에서 고르는 안전한 선택이 바로 뒤집기다.
측정도 따라와야 한다. 대부분의 조직은 사용률 대시보드로 도입을 추적한다. 저자가 지적하는 것은 그 대시보드가 조용한 봉쇄의 행동 흔적을 거의 잡지 않는다는 점이다. 예외가 늘고 있는지 줄고 있는지, 뒤집기 기준값이 옮겨 갔는지, 상신 절차에 단계가 붙었는지다. 그리고 UPS의 사례를 다시 꺼낸다. ORION을 깔 때 결정적이었던 통치 행위는 기사들이 시스템을 썼는지를 본 것이 아니었다. 따랐는지를 본 것이었다. 무엇을 보느냐가 무엇을 관리하느냐를 바꿨다.
바깥에서 오는 압력도 커지고 있다. 저자는 2025년 10월에 출범한 미국 노동총연맹의 AI 관련 노동자 우선 이니셔티브를 든다. 자동화된 결정에 대한 사람의 검토, AI 시스템 사용 방식의 투명성, 그리고 AI가 내린 고용 관련 결정에 대한 노동자의 이의 제기 권리를 요구한 것이다. 권한과 책임을 공식적으로 맞춰 두지 않은 조직은 직원에게서든 입법자에게서든 그 요구를 받게 되리라는 것이 저자의 전망이다.
Section Ⅲ · The Role After그다음 자리
아무도 말하지 않는
문장 하나
이 기사에서 가장 날이 선 대목이 여기 있다. 저자는 대부분의 조직이 한 가지를 입 밖에 내지 않는 편을 택한다고 적는다. AI가 제대로 작동하면 어떤 종류의 인간 판단에 대한 회사의 수요는 줄어든다는 것이다. 증강이라는 말로 그 현실이 부드러워지지는 않는다.
그가 드는 예가 선명하다. 심사 모델이 일상적인 건의 상당 부분을 자동으로 승인할 수 있게 되면, 심사역의 역할을 계속 개별 건 승인으로 정의할 수는 없다. 그리고 한 문장이 따라붙는다. 이 지점에 대한 경영진의 침묵은 조용한 봉쇄를 사실상 보장한다.
왜 그런지는 앞 절의 구조로 설명된다. 말해 주지 않으면 사람들은 추론한다. 그리고 추론의 결론이 자기 자리의 축소라면, 합리적인 대응은 시스템이 너무 잘 작동하지 않게 만드는 것이다. 예외를 붙이고 기준을 낮추고 단계를 더하는 일이 그 대응의 모습이다.
다만 저자가 말하는 것은 인간 판단을 없애는 일이 아니다. 중요한 곳으로 옮기는 일이다. 포트폴리오 수준의 위험 품질을 평가하는 일, 모델이 흘러가는지 감시하는 일, 그리고 시스템이 다루도록 만들어지지 않은 사례를 처리하는 일이다. 그리고 그 이동이 성과 평가에 명문화돼야 한다고 못 박는다. 시스템이 점점 더 좌우하는 결과를 두고 사람을 보상한다면, 그 사람은 방어적 뒤집기로 자기를 지킬 것이기 때문이다.
그림이 구체적으로 그려지는 대목이 이어진다. 저자의 표현으로 이 요소들이 맞물리면 전문가의 권위는 사라지지 않고 응축된다. 심사역은 모델이 이미 점수를 매긴 일상적인 건을 들여다보며 하루를 보내지 않는다. 모델의 확신 경계 밖에 있는 건, 흘러감을 시사하는 포트폴리오의 양상, 그리고 앞으로의 기준값에 반영될 경계 사례를 다룬다. 배차 담당자는 경로가 생성되는 것을 지켜보다 슬쩍 고치지 않는다. 예외 대기열을 관리하고, 모델이 담아내지 못하는 고객 관계를 다루고, 시스템이 설계되지 않은 상황을 상신한다. 둘 다 자기가 무엇에 책임이 있는지 알고, 잘못된 결정을 설명할 때 시스템을 뒤집었습니다로 문장을 시작하지 않아도 된다.
그다음 자리를 언제 말하느냐도 중요하다. 저자는 직원의 미래 역할이 시스템을 키우는 동안에 분명히 다뤄져야 한다고 적는다. 시스템의 성공이 곧 자기 쇠퇴를 뜻한다고 직원들이 추론해 버린 다음이 아니다.
사례가 둘이다. 이케아와 그 최대 프랜차이즈인 잉카 그룹에서는 AI 챗봇이 단순 문의를 처리하게 되자 콜센터 직원들을 원격 인테리어 디자인과 디지털 리테일 영업, 관계 구축, 복잡한 고객 문제 해결 쪽으로 재교육했다. 저자가 짚는 대목은 순서다. 잉카는 AI를 키우는 동안 새 일을 눈에 보이게 만들었고, 그 덕에 직원들이 이 전환을 관리된 쇠퇴가 아니라 성장으로 읽었다.
세일즈포스는 재설계·재교육·재배치·재조정이라는 네 가지 틀로 같은 일을 했다. 자율 에이전트 플랫폼이 일상적인 지원 업무를 흡수하는 동안 직원들이 새 역할로 옮겨 가도록 도왔고, 회사 발표에 따르면 2026 회계연도 1분기 채용의 51%가 내부 인력이었다. 저자가 정리하는 요점은 세 가지다. 역할 전환에 이름을 붙였고, 그 둘레에 내부 이동 장치를 만들었고, 다시 짜인 일을 직원들이 이해하기 쉽게 만들었다.
Vol. 82와 겹쳐 놓으면 이케아의 선택이 왜 통했는지가 설명된다. 그 편에서 리스킬링을 막는 가장 큰 개인 변수는 임금도 기술 중첩도 아닌 정체성 적합이었다. 그 일을 하는 자기가 그려지느냐다. 잉카가 한 일을 그 말로 옮기면, 새 일을 미리 눈에 보이게 만들어서 사람들이 그 자리에 선 자기를 그릴 수 있게 한 것이다. 설득문이 아니었다. 먼저 가 있는 사람과 보이는 경로였다.
마지막으로 저자가 내놓는 판정 기준이 간단하다. 사용률과 대시보드 지표와 매끄러운 도입은 오해를 부르는 신호다. 대신 이렇게 물으라고 한다. 내일 이 시스템을 꺼 버리면 우리 조직에서 중요한 결정들이 실제로 달라지겠는가. 아니면 사람들이 늘 하던 대로 결정하되 화면에 그 창이 열려 있지 않을 뿐이겠는가. 결정이 달라지지 않는다면 권한은 옮겨 가지 않은 것이고, 권한이 옮겨 가지 않았다면 모델이 아무리 앞서 있고 도입이 아무리 규율 있게 됐어도 도입은 일어나지 않은 것이다.
이 글의 성격은 Vol. 85에 적은 그대로다. 측정 연구가 아니다. 하버드 경영대학원 교수가 관찰과 자문 경험과 사례로 쓴 실무 논설이다. 이케아와 세일즈포스의 수치는 회사 발표이고, 심사 모델이 일상 건의 상당 부분을 승인한다는 예시는 설명을 위한 가정이지 측정값이 아니다. 그러니 여기서 가져갈 것은 숫자가 아니라 네 질문과 한 가지 시험이다.
조직이 AI 도입을 승인할 때 검토하는 것은 대개 모델의 성능과 공급사와 일정이다. 이 기사가 요구하는 것은 그 자리에서 네 줄을 더 적으라는 것이다. 누가 재량을 잃고, 누가 권한을 얻고, 누가 설명하고, 누가 초기 비용을 떠안는지.
적지 않아도 그 네 줄은 결국 채워진다. 다만 채우는 사람이 달라지고, 그 사람에게는 자기 이름을 지키는 쪽으로 채울 이유가 있다.