기계에는 사실이 나온다
이 글에서 '역량–평가 상충관계'는 AI가 사람보다 낫다는 주장이 아니다. 조언자를 고를 때 사람이 두 가지를 함께 계산한다는 뜻이다. 이 상대가 문제를 잘 풀어 줄까와 이 상대가 나를 어떻게 볼까. 앞의 값이 클 때는 사람을 고르고, 뒤의 값이 클 때는 기계를 고른다.
Section Ⅰ · The Reversal부끄러우면 뒤집힌다
더 유능한 쪽을
늘 고르지는 않는다
조언을 구할 때 사람들이 가장 유능한 전문가를 고를 것이라고 생각하기 쉽다. 실제 선택에는 값이 하나 더 붙는다. 내 실수와 부주의를 남에게 털어놓을 때 드는 값이다.
MIT 슬론이 소개한 연구에서 애비게일 서스먼과 에릭 소, 피오나 양은 재무·기술·의료·경력 문제를 두고 사람들이 인간과 AI 조언자를 어떻게 고르는지 세 차례 실험으로 살폈다. 먼저 확인된 것은 상식에 가깝다. 두 조언자의 능력이 비슷하다고 제시되면 사람들은 대체로 인간을 골랐고, 더 비싼 값도 낼 의향을 보였다. 인간 전문가에게는 역량 프리미엄이 있었다.
그런데 참가자 965명이 참여한 실험에서 같은 카드빚을 원인만 바꿔 제시했다. 통제하기 어려운 의료비로 생긴 빚일 때는 인간 조언자를 선호했다. 원인이 경솔하고 불필요한 소비일 때는 AI로 기울었다. 자격을 과장했다가 들킨 경력 문제, 성인 사이트에서 악성코드를 받은 기술 문제에서도 같은 방향이 나타났다.
참가자 744명이 참여한 다른 실험에서는 당혹감과 역량을 동시에 조작했다. 두 요인은 서로를 대체했다. AI가 더 유능하다고 제시되면 부끄럽지 않은 문제에서도 AI 선택이 늘었고, AI의 전문성이 낮게 보여도 문제가 충분히 부끄러우면 AI 선호가 올라갔다. 사람들은 인간이냐 기계냐를 고른 게 아니라 전문성의 이익과 평가받는 부담 사이에서 골랐다.
가장 눈에 남는 숫자는 세 번째 실험에서 나왔다. 참가자가 자기가 실제로 겪은 당혹스러운 문제를 설명하게 하자, 자기 행동을 정당화한 비율이 사람에게 말할 때 33%, AI에게 말할 때 15%였다. 사람 앞에서 우리는 사실만 전달하지 않는다. 무책임하거나 어리석은 사람으로 보이지 않으려고 정보를 고르고 다듬고 변명을 붙인다.
Section Ⅱ · Filtered Up걸러져 올라온다
리더가 받는 보고도
같은 값을 치른다
이 연구는 소비자 행동을 다뤘지만, 조직 안에서도 같은 계산이 돌아간다. 구성원이 문제를 보고할 때 그는 두 가지를 함께 잰다. 이 사람이 문제를 풀어 줄까, 그리고 이 사람이 나를 어떻게 볼까.
마지막 항목이 과장이 아님을 보여 주는 수치가 있다. RAND 연구진이 12~21세 1,058명을 조사해 JAMA Pediatrics에 실은 결과에서, 슬프거나 화나거나 불안할 때 AI 챗봇에 조언을 구한 비율은 19.2%였다. 1년 전 13.1%에서 올랐고, 전문가 상담을 받은 비율(19.8%)과 거의 같다. 그리고 이 대목이 중요하다. 그렇게 이용한 사람의 63.3%는 그 사실을 아무에게도 말하지 않았다.
판단받지 않는 창구는 이미 쓰이고 있고, 그 사용 자체가 숨어 있다. 조직에서도 마찬가지다. 구성원이 자기 실수를 처음 털어놓는 상대가 상사가 아닐 수 있다. 여기서 Vol. 28과 구분해 둘 것이 있다. 거기서 침묵을 만든 것은 위계였다. 여기서 왜곡을 만드는 것은 수치심이다. 위계는 평평하게 만들어 풀지만, 수치심은 평평함만으로 풀리지 않는다.
Section Ⅲ · Lower the Bar문턱만 낮춘다
문턱은 낮추고
기준은 지킨다
그렇다고 판단하지 않는 창구가 늘 좋은 것은 아니다. 판단받지 않는다는 느낌은 안전함도 유능함도 뜻하지 않는다. 문턱을 낮추면서 기준을 지키려면 다음을 통과해야 한다.
여기서 Vol. 35와의 긴장도 정리해 둘 만하다. 거기서는 AI에게 곁을 맡길수록 더 외로워졌다고 했다. 이번 연구는 반대로 AI가 아니면 나오지 않는 정보가 있다고 말한다. 두 결과는 부딪히지 않는다. 기계는 첫 문장을 여는 데 강하고, 사람은 그 문장 다음을 함께 사는 데 강하다. 문턱을 기계에 맡기고 관계를 사람에게 남기면 둘 다 얻는다. 순서를 뒤집으면 둘 다 잃는다.
리더가 챙길 것은 도구 선택이 아니다. 자기 앞에서 어떤 말이 다듬어지는지를 아는 일이다. 보고가 매끄러울수록 그 매끄러움의 값을 누가 치렀는지 물어야 한다.
부끄러우면 숨긴다. 그것은 구성원의 결함이 아니고 사람의 기본값이다. 리더의 일은 정직을 요구하는 것이 아니라, 정직에 붙은 값을 낮추는 것이다.