지난 6월 5일 기술·인터넷 전문 온라인 매체 404미디어는 메타의 AI 고객지원 에이전트를 악용해 인스타그램 계정을 탈취한 사건이 발생했다고 보도했다. 수법은 놀라울 만큼 단순했다. 해커들이 AI 에이전트에게 계정을 자신들이 통제하는 이메일 주소로 연결해 달라고 요청하자 에이전트는 이를 그대로 수행했다. 한 해커는 휴면 상태였던 오바마 백악관 인스타그램 계정을 탈취해 친이란 성향의 게시물을 올렸으며, 다른 해커들은 한 단어로 된 희소성 높은 사용자 이름을 가진 계정들을 잇따라 장악했다. 이들은 해당 계정을 되팔기 위해 이 같은 공격을 벌인 것으로 추정된다.

AI를 둘러싼 사이버보안 우려는 새로운 이야기가 아니다. 예를 들어 앤트로픽이 지난 4월 자사가 개발한 실험용 AI 모델 ‘미토스(Mythos)’가 고도의 해킹 및 사이버 공격 관련 능력을 갖춘 것으로 평가됨에 따라 악용 가능성을 우려해 일반 공개를 보류했다고 밝히자 연구자와 논평가, 미국 정부 관계자들은 강력한 AI 시스템이 컴퓨터 인프라에 심각한 위협이 될 수 있다는 가능성에 주목해 왔다.

다만 이번 인스타그램 해킹 사건은 그런 우려와는 결이 달랐다. AI가 공격자가 아니라 공격 대상이 됐고, 공격 수법 역시 미토스가 수행할 법한 복잡한 해킹과는 거리가 멀었다. 그럼에도 기업들이 점점 더 많은 업무를 AI에 맡기고 있는 만큼, 이처럼 단순한 공격도 큰 혼란으로 이어질 수 있다는 우려가 나온다.