인공지능(AI) 업계에서 AI 에이전트가 화제가 되고 있다. AI 에이전트는 회의 일정을 예약하고 식료품을 주문하는 것뿐만 아니라 사용자를 대신하여 컴퓨터 설정을 변경하는 등의 복잡한 작업까지 계획하고 추론하며 실행할 수 있는 시스템을 말한다. 그러나 AI 에이전트는 사이버공격을 수행하는 강력한 도구가 될 수도 있다. 우리가 유용하게 활용할 수 있는 AI 에이전트의 정교한 능력은 취약한 공격 대상을 식별하고 시스템을 탈취하여 아무것도 모르는 피해자의 귀중한 데이터를 훔치는 데에도 쉽게 악용될 수 있기 때문이다.

현재 사이버 범죄자들이 대규모 해킹을 벌이기 위해 AI 에이전트를 사용하는 일은 벌어지지 않고 있다. 그러나 연구자들은 AI 에이전트가 복잡한 사이버공격을 실행할 수 있음을 입증했으며(예를 들어 앤트로픽은 자사의 대형언어모델(LLM)인 클로드가 민감한 정보를 훔치도록 설계된 공격을 성공적으로 재현할 수 있음을 확인한 바 있다), 사이버보안 전문가들은 AI 에이전트를 활용한 사이버공격이 현실 세계에서 벌어질 것으로 예상하고 대비해야 한다고 경고하고 있다.

사이버보안 회사 멀웨어바이트(Malwarebytes)의 마크 스토클리(Mark Stockley) 보안 전문가는 “언젠가 결국 우리는 사이버공격의 대부분이 AI 에이전트에 의해 수행되는 세상에 살게 될 것”이라고 예측하며 “그런 세상에 얼마나 빠르게 도달하느냐가 문제일 뿐”이라고 경고했다.