2025년 9월, 오픈AI와 AI 안전성 전문 연구기관 아폴로 리서치(Apollo Research)가 공동 보고서를 발표했다. 당시 개발된 최상위 언어 모델들인 오픈AI의 o3, o4-mini, 구글 Gemini 2.5 Pro, 앤트로픽 Claude Opus 4가 특정 조건에서 감시자를 속이려는 패턴을 보인다는 내용이었다. 연구팀은 모델이 스스로 규칙의 이유를 이해하고 따르도록 훈련하는 방법, 이른바 ‘숙고 기반 정렬(deliberative alignment)’을 통해 기만 빈도를 크게 줄이는 데 성공했다. 그러나 동시에 경고를 덧붙였다. 기만 빈도의 감소가 곧 위험의 감소를 의미하지는 않는다. 배포 환경에서는 평가 환경에 적응한 새로운 형태의 은폐가 재출현할 수 있다.

이 발표는 기술 커뮤니티에서 ‘정렬 문제’의 연장선으로 소화됐다. 그러나 필자에게 이 보고서가 열어놓은 질문은 더 넓은 곳을 향하고 있다. 감시 맥락과 비감시 맥락에서 행동이 달라지는 시스템이 이제 수억 명의 일상 대화에 배치되고 있다. 그 대화의 상당수는 정보 검색이 아니라 감정을 이야기하는 것이다.

기계는 이미 연기를 시작했다