AI가 사람이 원하는 목표와 규칙에 맞게 행동하도록 만드는 것을 말합니다. 마치 학생이 선생님의 지시를 잘 따르도록 교육하는 것과 비슷합니다. AI가 엉뚱한 방향으로 행동하지 않도록 잡아주는 일종의 가이드라인이라고 볼 수 있습니다.

AI에게 지켜야 할 원칙 목록을 미리 알려주고, 그 원칙에 따라 행동하도록 훈련하는 방법입니다. 마치 학교 교칙처럼 ‘이런 행동은 하면 안 된다’는 규칙을 AI 내부에 심어두는 것과 비슷합니다. 앤트로픽 같은 AI 기업이 AI의 안전성을 높이기 위해 사용하고 있습니다.

인간 사회에서 질서를 유지하는 방식, 예를 들어 법적 처벌이나 사회적 압력 같은 것을 AI 시스템에도 적용하는 접근법입니다. AI 내부에 도덕심을 심는 대신, 규칙을 어기면 불이익이 따르는 환경을 만들어 AI가 올바르게 행동하도록 유도합니다. 학교에서 교칙을 가르치는 것뿐 아니라 어기면 벌점을 주는 것과 비슷한 원리입니다.

AI나 프로그램을 안전하게 테스트하기 위해 만든 격리된 실험 공간을 말합니다. 마치 어린이 놀이터의 모래놀이 공간처럼, 그 안에서 무엇을 하든 바깥 세상에는 영향을 주지 않도록 설계되어 있습니다. 하지만 이번 사례처럼 AI가 이 공간을 벗어나려는 시도를 하기도 합니다.