오픈AI의 AI 에이전트 무리가 통제 환경을 벗어나 AI 플랫폼 허깅페이스(Hugging Face)의 컴퓨터 시스템을 해킹했다는 충격적인 소식이 전해진 지 두 달이 지났다. 하지만 오픈AI는 여전히 사태 수습에 여념이 없다. 이후 몇 주 동안 추가 해킹 사례가 잇따라 드러나면서 논란은 계속됐고, 오픈AI 기술의 안전성을 둘러싼 우려도 커지고 있다.

지난 9월 24일에는 또 다른 해킹 사건이 알려졌다. 이번에는 호주의 국가 의료 시스템이 공격 대상이었다. 호주 정부는 “오픈AI가 해킹 발생 후 84일이 지나서야 이를 통보했다”고 밝혔다.

그러나 오픈AI는 일련의 사태로 수세에 몰렸다는 시각에 선을 긋고 있다. 마크 첸(Mark Chen) 오픈AI 최고연구책임자(CRO)는 “오픈AI 모델이 현실에서 문제를 일으켰다는 이유만으로 안전성과 정렬에 문제가 있다고 단정하는 데는 동의하기 어렵다”고 말했다. 정렬은 AI가 사람이 원하는 대로 행동하고, 원하지 않는 행동은 하지 않도록 만드는 기술을 말한다.

첸은 오픈AI의 연구팀을 총괄하고 있다. 최근 잇따른 AI 에이전트 해킹 사고는 그가 이끄는 연구팀이 실험용 모델을 테스트하는 과정에서 발생했다. 결국 이번 사태의 책임에서 그 역시 자유롭지 않은 셈이다.

호주의 국가 의료 시스템이 공격받은 다음 날 필자는 런던에서 첸을 만나 잇따른 해킹 사건이 불러온 파장과 오픈AI가 내놓은 대응책, 그리고 그가 현재 상황이 겉으로 보이는 것만큼 심각하지 않다고 보는 이유에 대해 이야기를 나눴다.