인공지능(AI) 업계에서 ‘역게임 이론(reverse game theory)’이라는 새로운 접근법이 주목받고 있다. AI가 규칙을 어기기보다 따르는 편이 유리하도록 상호작용 구조를 설계해 AI의 행동을 통제하려는 방식이다.

AI 모델의 성능이 갈수록 향상되면서 안전성 연구자들은 AI가 인간의 의도와 가치에 부합하도록 만드는 ‘정렬(alignment)’ 문제를 해결하기 위해 고군분투하고 있다. 통제를 벗어난 AI 에이전트가 법을 위반하거나 허가받지 않은 서버를 해킹하고, 심지어 대도시에 독가스를 살포해 인류를 몰살하는 사태까지 막아야 하기 때문이다.

지금까지 관련 연구는 주로 AI의 ‘두뇌’를 들여다보며 무엇을 ‘생각’하는지 파악하거나 인간이 중요하게 여기는 가치를 따르도록 모델을 훈련하는 데 집중해 왔다. 예를 들어 클로드에는 일종의 도덕 규범에 해당하는 ‘헌법(constitution)’이 있다.

하지만 이러한 방법들은 기대만큼 효과적이지 않은 것으로 보인다. 실제로 AI 모델이 평가 과정에서 의도적으로 성능을 낮추거나 자신의 의도를 숨기고, 평가자를 속이는 사례가 확인됐다.

이에 일부 AI 정렬 연구자들은 ‘메커니즘 설계(mechanism design)’라고도 불리는 역게임 이론에서 새로운 해법을 찾고 있다. 기존 게임 이론이 정해진 규칙 아래에서 합리적인 행위자가 어떻게 행동할지 예측하는 데 초점을 맞춘다면, 역게임 이론은 원하는 행동을 유도할 수 있도록 규칙 자체를 설계하는 접근법이다.