구글 딥마인드가 AI 에이전트들에게 다양한 수학 문제를 풀도록 지시하자 부정행위를 저지르는 에이전트와 이를 막으려는 에이전트가 동시에 생겨났다.

AI 에이전트의 ‘내부 고발’ 행위가 목격된 것은 이번 실험이 처음으로, 이는 자율적인 AI 에이전트 집단을 통제하려는 ‘정렬(alignment)’ 연구자들에게 시사하는 바가 클 수 있다. AI 분야에서 정렬은 AI가 인간이 원하는 목표와 가치, 규칙에 맞게 행동하도록 만드는 것을 말한다.

AI 연구자들은 대규모 에이전트 집단이 협력하면 과학적 발견의 속도를 높일 수 있을 것으로 기대하고 있다. 하지만 에이전트들의 행동은 이처럼 예측하기 어려워 기대했던 효과를 거두지 못할 가능성은 다른 실험을 통해서도 드러났다. 예를 들어 7월 오픈AI 에이전트 집단이 샌드박스 환경, 즉 원래 제한된 실험 공간을 벗어나 오픈소스 플랫폼인 허깅 페이스(Hugging Face)에 침입해 주어진 시험에서 부정행위를 할 방법을 모색했던 사건이 대표적인 사례다.