Vol. 37 · Bias at Scale 책임 · Deep read
Reuters (2018) · NYC Local Law 144

기계는
어제를 배워
내일을 고른다
AI는 편향을 지우지 않는다. 조용히, 일관되게, 대량으로 확장한다.

사람의 편견을 걷어내려고 채용에 AI를 들인다. 그런데 그 AI가 배우는 것은 어제의 결정들이고, 어제는 편향되어 있다. 기계는 편향을 지우는 대신 확장한다. 조용히, 일관되게, 대량으로. 그래서 공정은 가정이 아니라 감사 항목이다.

Amazon, 2018어제를 배운 기계
Silent Scale편향이 커지는 세 갈래
Audit It공정을 감사하는 설계
원전
Amazon Scraps Secret AI Recruiting Tool · NYC Local Law 144 Jeffrey Dastin · Reuters (2018) · NYC LL144 (2023)
Previously on Vol. 36
거꾸로 배우기AI 앞에서 전문성의 기울기가 뒤집혔다. 아래에서 위로 배움이 흐르게 하는 조직만 격차를 줄인다.
용어 · 이 글에서의 정의
편향 감사 Bias Audit

이 글에서 '편향 감사'는 AI를 의심하는 정치적 제스처가 아니다. 채용·평가 도구가 성별·인종 등 집단별로 실제로 다른 결과를 내는지 수치로 재는 독립 점검이다. 뉴욕시는 2023년부터 이것을 법으로 의무화했다. 공정을 가정하는 대신, 재는 것이다.

Section Ⅰ · Amazon, 2018어제를 배운 기계

편견을 지우려던 도구가
편견을 배웠다

채용에 AI를 들이는 이유는 대개 하나다. 사람의 편견을 걷어내고 싶어서다. 그런데 2018년 로이터가 전한 아마존의 실험은 그 기대의 뒤집힌 결말을 보여 줬다.

아마존은 이력서를 자동으로 점수 매기는 채용 AI를 만들었다. 도구는 지난 10년치 입사 지원 이력서로 학습했는데, 기술 업계의 그 10년은 남성 편중이었다. 기계는 충실하게 배웠다. 남성 지원자가 선호된다는 패턴을. 그리고 'women's'라는 단어가 든 이력서를 감점하기 시작했다. 여성 체스 동아리 주장도, 여자대학 졸업장도 감점 사유가 됐다.

아마존은 도구를 고치려 했지만, 편향을 확실히 걷어낼 수 없다고 판단해 결국 폐기했다. 이 사례가 남긴 교훈은 아마존만의 것이 아니다. AI는 어제의 결정에서 배운다. 어제가 편향되어 있으면, 기계는 그 편향을 배워 내일에 적용한다. 지우는 게 아니라 물려받는 것이다.

그러니 물음은 'AI가 사람보다 공정한가'가 아니다. 이 도구가 배운 어제는 어떤 어제였고, 그 결과를 지금 누가 재고 있는가이다.

Training data
10년치
아마존 채용 AI가 학습한 이력서 기간. 남성 편중이던 그 10년을 기계는 충실히 배웠다 (Reuters, 2018)
NYC LL144
2023
뉴욕시가 채용·승진 AI에 연 1회 독립 편향 감사와 결과 공개를 의무화한 해
Notice
10
지원자에게 AI 사용을 미리 알려야 하는 최소 영업일. 대안 절차를 요청할 권리도 함께 고지한다
Penalty
1,500$/일
감사 없이 도구를 계속 쓸 때 하루마다 붙는 최대 벌금. 공정은 이제 비용 항목이기도 하다

Section Ⅱ · Silent Scale편향이 커지는 세 갈래

사람의 편견보다
기계의 편견이 위험한 이유

사람도 편향된다(Vol. 06). 그런데 기계의 편향은 성질이 다르다. 세 가지 방식으로 더 크게, 더 안 보이게 번진다.

Why Machine Bias Scales
기계의 편향이 번지는 세 갈래
01
일관되게
Consistently · 모든 지원자에게 같은 편향
편향된 면접관은 한 명씩 만나지만, 편향된 알고리즘은 모든 지원자를 만난다. 같은 기울기가 수천 건의 결정에 빠짐없이 적용된다. 규모가 곧 피해의 크기다.
02
조용히
Silently · 탈락자는 이유를 모른다
사람의 차별은 때로 드러나고 항의를 받는다. 점수에 밀려 조용히 걸러진 지원자는 자신이 걸러진 것도, 왜 걸러졌는지도 모른다. 보이지 않는 편향은 고쳐지지도 않는다.
03
그럴듯하게
Plausibly · 점수라는 객관의 얼굴로
숫자는 공정해 보인다. '알고리즘이 매긴 점수'라는 말이 판단에 객관의 옷을 입힌다. 그 옷 때문에 사람들은 검증 없이 믿고(Vol. 32), 책임은 흐려진다(Vol. 26).
“기계는 남성 지원자가 선호된다는 것을 스스로 학습했고, 'women's'라는 단어가 들어간 이력서를 감점했다.” (요지 · Jeffrey Dastin, Reuters, 2018)

Section Ⅲ · Audit It공정을 감사하는 설계

공정을 가정하지 말고
잰다

뉴욕시의 답은 참고할 만하다. 채용 AI를 금지하는 대신, 공정을 재고 공개하고 알리게 했다. 연 1회 독립 감사, 결과 공개, 지원자 사전 고지. 법이 없는 곳에서도 리더는 같은 설계를 세울 수 있다. 그러려면 다음을 통과해야 한다.

Design Checks · 사람을 고르는 도구를 들이기 전에
편향을 확장하지 않는 다섯 질문
01
어제를 물었는가?
이 도구가 학습한 데이터는 어떤 과거인가. 그 과거의 편향이 무엇인지 공급자에게 물었는가.
02
결과를 재는가?
집단별 통과율을 실제로 재는가(영향 비율). 공정하다는 공급자의 말을 감사 없이 믿고 있지는 않은가.
03
당사자가 아는가?
지원자와 구성원이 AI가 자신을 평가한다는 사실을 알고 있는가. 알리기 부끄러운 사용이라면 그 자체가 신호다.
04
사람의 경로가 있는가?
점수에 걸러진 사람이 사람의 검토를 요청할 길이 있는가. 사람을 고르는 결정은 되돌리기 어렵다(Vol. 17).
05
누가 답하는가?
편향이 확인됐을 때 도구를 멈추고 답할 사람이 정해져 있는가. '알고리즘이 그랬다'로 끝나지 않게(Vol. 26).

편향 감사는 AI를 버리자는 이야기가 아니다. 잘 감사된 도구는 사람의 들쭉날쭉한 편견보다 나을 수 있다. 다만 그 '나음'은 재어 확인한 다음의 이야기이지, 도입하며 가정할 이야기가 아니다.

이 편은 책임 시리즈의 세 번째 문장이다. 결정은 맡겨도 책임은 떠넘길 수 없고(Vol. 26), 편의를 들여도 감시할 권리가 따라오지 않으며(Vol. 31), 이제 도구를 들여도 공정이 따라오지는 않는다. 사람의 편향(Vol. 06)을 기계가 물려받아 평균으로 몰아갈 때(Vol. 22), 그것을 재는 눈은 여전히 사람의 몫이다.

기계는 어제를 배워 내일을 고른다. 리더의 일은 그 어제가 무엇이었는지 묻고, 내일이 달라지는지 재는 것이다. 공정은 선언되지 않는다. 감사된다.

Synthesis · Vol. 37

공정은 가정이 아니라,
감사 항목이다

아마존의 채용 AI는 10년치 남성 편중 이력서에서 배웠고, 'women's'가 든 이력서를 감점했다. 기계는 편향을 지우지 않았다. 어제의 편향을 배워 내일의 지원자에게 일관되게, 조용히, 대량으로 적용했다.

그래서 뉴욕은 법으로 답했다. 채용 AI에 연 1회 독립 편향 감사, 결과 공개, 지원자 고지. 리더가 배울 것은 그 태도다. 공정하리라 가정하지 않고, 재고 공개하고 알리는 것. 사람을 고르는 결정일수록 그렇다.

Reuters · NYC LL144 — Leadership Insight
More from Leadership Insight