머지않아 입사 지원서를 제출하면 사람이 검토하기 전에 인공지능(AI)이 먼저 이력서를 평가하는 시대가 올 수 있다. 하지만 AI가 지원자를 항상 공정하게 판단할 것이라고 믿어도 될까.

연구 결과는 그렇지 않을 가능성을 보여준다.

대형언어모델(LLM)이 학습 데이터에 담긴 인간의 편향을 그대로 학습한다는 사실은 이미 잘 알려져 있다. 하지만 최근 연구는 LLM이 기존 편향을 단순히 답습하는 데 그치지 않고, 경험을 바탕으로 채용 평가 과정에서 새로운 편향을 형성할 수 있다는 점을 보여줬다. 특히 LLM은 구직자를 평가할 때 인간보다 더 강한 고정관념에 의존하는 경향을 나타냈다.

AI 기업들이 사용자에 관한 사소한 정보까지 기억하는 에이전트형 모델 개발에 속도를 내면서 AI가 축적한 데이터가 새로운 편향을 만들거나 강화할 수 있다는 우려도 커지고 있다.

프린스턴대학교와 시카고대학교 연구진은 챗GPT, 클로드, 제미나이 등 여러 LLM을 대상으로 모의 채용 실험을 진행했다. 이번 연구는 인간이 반복적인 경험을 통해 특정 집단에 대한 고정관념을 형성하는 과정을 분석한 기존 심리학 연구를 바탕으로 설계됐다.

연구진은 각 모델에 가상의 도시 시장이 고용한 채용 컨설턴트 역할을 부여했다. 모델들은 의사, 변호사, 아이 돌보미, 환경미화원 등 20개 직종의 채용 심사를 진행했으며, 지원자는 투파(Tufa), 아이마(Aima), 레쿠(Reku), 웨키(Weki)라는 네 개의 가상 민족 집단 출신으로 설정됐다.