AI에게 몰래 나쁜 명령을 심어서 원래 해야 할 일과 다른 행동을 하게 만드는 공격 방법입니다. 예를 들어, AI가 읽는 문서 안에 숨겨진 명령어를 넣어서 AI를 조종하는 것과 비슷합니다. 사람에게 거짓말로 속여서 잘못된 행동을 하게 만드는 것과 유사한 개념입니다.

여러 개의 AI 에이전트가 동시에 활동하면서 서로 소통하고 협력하는 환경을 말합니다. 마치 수많은 직원들이 각자 역할을 맡아 함께 일하는 큰 회사처럼, AI들이 서로 정보를 주고받으며 작업을 수행하는 것입니다. 이때 개별 AI 하나만으로는 예상하지 못했던 새로운 문제가 생길 수 있습니다.

아무도 기본적으로 믿지 않고, 모든 접근과 행동을 매번 확인하는 보안 원칙입니다. 마치 집에 들어올 때마다 가족이라도 매번 신분증을 확인하는 것처럼, 시스템에 접근하는 모든 요청을 항상 검증하는 방식입니다. AI 에이전트가 해킹당하거나 악용될 수 있다는 전제 아래 설계된 접근법입니다.

특정 작업만 잘하는 현재의 AI와 달리, 사람처럼 어떤 분야든 스스로 배우고 생각할 수 있는 수준의 인공지능을 말합니다. 지금의 AI가 한 과목만 잘하는 학생이라면, AGI는 모든 과목을 다 잘하는 만능 학생에 비유할 수 있습니다. 아직 완전히 실현되지는 않았지만 많은 연구자들이 이를 향해 연구하고 있습니다.

실제 시스템에 영향을 주지 않도록 격리된 안전한 테스트 공간을 말합니다. 어린이가 모래놀이터에서 자유롭게 놀 수 있지만 그 밖의 세상에는 영향이 없는 것처럼, AI를 이 가상 공간에 넣어 어떤 행동을 하는지 안전하게 관찰할 수 있습니다. 연구자들은 이 환경에서 AI 에이전트들의 상호작용을 실험하고 위험 요소를 파악합니다.