오픈AI가 자사 AI 모델의 보안 취약점을 찾아내기 위해 ‘GPT-레드(GPT-Red)’라는 AI 해커를 개발했다. GPT-레드는 오픈AI의 대형언어모델(LLM)을 상대로 실제 해킹을 시도하며 허점을 찾아내는 역할을 맡는다. 오픈AI는 “최근 공개한 최신 주력 모델 ‘GPT-5.6’을 GPT-레드를 상대로 훈련한 결과, 지금까지 출시한 모델 가운데 가장 뛰어난 보안성을 갖추게 됐다”고 밝혔다.

GPT-레드는 소프트웨어 보안 점검 기법인 ‘레드팀’을 AI로 자동화한 보안 모델이다. 레드팀은 보안 전문가들이 시스템을 직접 공격해 가능한 한 많은 취약점을 찾아내는 과정이다. 이렇게 발견한 허점은 제품이 정식 출시되기 전에 미리 보완할 수 있다.

LLM은 점점 더 복잡해지고 활용 범위도 빠르게 넓어지고 있다. 특히 AI 에이전트는 컴퓨터 파일과 웹사이트, 외부 코드뿐 아니라 다른 AI 에이전트와도 상호작용할 수 있어 해킹 가능한 경로도 함께 늘어난다. GPT-레드 공동 개발자인 니킬 칸드팔(Nikhil Kandpal) 오픈AI 연구원은 “공격 경로가 늘어날수록 피해 규모도 함께 커진다”고 말했다.

오픈AI는 “앞으로 성능이 더 뛰어난 AI가 등장하더라도 새로운 공격 기법을 먼저 찾아낼 수 있도록 GPT-레드를 개발했다”고 설명했다. 공동 개발자인 딜런 헌(Dylan Hunn) 오픈AI 연구원은 “더 강력한 모델이 나와도 새로운 공격 방식을 찾아낼 수 있는 체계를 미리 구축하려는 것”이라며 “GPT-레드는 실제로 기존에는 알려지지 않았던 새로운 공격 기법도 발견했다”고 말했다.