
Sarah Rogers/MIT Technology Review | Getty Images
Open models have real benefits. Do they outweigh the risks?
개방형 AI 모델의 딜레마…기술 민주화와 안전성 논란 사이
개방형 AI 모델의 위험과 이점, 그리고 공개 여부를 둘러싼 복잡한 쟁점을 짚어봤다.
앤트로픽은 9월 말 중국 AI 기업 즈푸AI(Z.ai)가 개발해 8월 공개한 GLM-5.3 모델이 심각한 사이버 공격 위험을 초래할 수 있다는 주장이 담긴 보고서를 발표했다. 보고서가 핵심 우려 사항으로 지적한 것은 강력한 성능을 갖춘 이 모델을 누구나 자유롭게 내려받아 수정할 수 있다는 점이다. 앤트로픽의 주장은 최첨단 AI 모델을 GLM-5.3처럼 공개해야 하는지, 아니면 최첨단 AI 연구소 내부에만 제한적으로 공개해야 하는지를 둘러싼 오랜 논쟁의 연장선에 있다.
최근 개방형 AI 모델을 어떻게 다룰 것인지를 둘러싼 논쟁은 공개적으로 진행되고 있으며, 그 결과에 막대한 경제적 이해관계가 걸려 있다. 개방형 모델을 실행하기 위해 자체 하드웨어를 구매하는 수요가 이어질수록 이익을 얻을 수 있는 엔비디아의 젠슨 황 최고경영자(CEO)는 미국이 개방형 모델을 더 많이 개발해야 한다고 적극적으로 주장한다. 반면 저렴하면서도 강력한 모델이 등장하면 사업에 타격을 입을 수 있는 앤트로픽의 다리오 아모데이 CEO는 보다 신중한 접근을 지지한다. 그러나 이러한 상업적 이해관계를 넘어 개방형 모델을 둘러싼 이견에는 실질적인 근거가 있다.