📋한눈에 보는 AI 요약AI 자동 요약▶ 펼쳐보기
미국의 AI 회사 앤트로픽이 코딩 능력이 매우 뛰어난 AI 모델을 만들었는데, 미국 정부가 이 모델이 나라의 안전을 위협할 수 있다고 판단하여 사용을 막았습니다.
이 사건을 계기로 세 가지 중요한 질문이 떠올랐습니다.
첫째, 미국 AI 회사를 믿고 써도 되는지에 대한 신뢰 문제가 생겼고, 둘째, 오히려 이런 차단이 미국의 사이버 방어 능력을 약하게 만들 수 있다는 우려가 나왔습니다.
셋째, 미국 의회가 AI를 제대로 관리하는 법을 아직 만들지 못하고 있다는 점이 드러났습니다.
한편, 이 상황이 중국산 AI 모델의 사용을 오히려 늘릴 수 있다는 걱정도 커지고 있습니다.
왜 중요한가요?
AI 기술이 점점 강력해지면서 정부가 어디까지 개입해야 하는지, 그리고 한 나라의 결정이 전 세계 기업과 사용자에게 어떤 영향을 미치는지를 보여주는 사례이기 때문에 우리 모두에게 중요합니다.
주요 용어 설명
수출 통제 (Export Control)
특정 기술이나 제품이 다른 나라로 나가는 것을 정부가 막는 조치입니다. 마치 위험한 물건을 해외로 보내지 못하게 세관에서 차단하는 것과 비슷합니다. 이번 사건에서는 AI 소프트웨어에 이 규제를 적용할 수 있는지가 논란이 되었습니다.
비확산 (Nonproliferation)
원래 핵무기처럼 위험한 무기가 여러 나라로 퍼지지 않도록 막는 국제적 원칙입니다. 이번 사건에서는 위험할 수 있는 AI 기술에도 같은 논리를 적용하려 했지만, 소프트웨어는 물리적 무기와 성격이 달라서 적용이 어렵다는 문제가 드러났습니다.
둠머 (Doomer)
AI가 앞으로 인류에게 매우 심각한 위험을 가져올 수 있다고 강하게 경고하는 사람들을 가리키는 표현입니다. 이들은 AI 기술이 통제를 벗어나기 전에 정부가 적극적으로 규제해야 한다고 주장합니다.
⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.
미국 정부와 앤트로픽의 최근 충돌 소식을 놓친 독자들을 위해 사건의 전말을 간단히 정리해 보자. 지난 4월 앤트로픽은 “코드 작성 능력이 워낙 뛰어나 자칫 전 세계적인 사이버보안 위협이 될 수 있는 AI 모델 ‘미토스(Mythos)’를 개발했다”며 “일부 사이버보안 전문가들에게만 이 모델을 공개해 잠재적 위험을 평가하도록 했다”고 밝혔다. 이후 6월 9일 화요일에는 더 안전한 버전이라고 설명한 ‘페이블(Fable)’을 일반에 공개했다. 그러나 그 주 금요일 미국 연방정부는 해당 모델이 국가안보에 위협이 된다고 판단해 수출 통제 조치를 내렸고, 앤트로픽은 몇 시간 만에 두 모델에 대한 접근 권한을 모두 철회했다.
이른바 ‘둠머(doomer)’로 불리는 AI 위험론자들은 오랫동안 AI가 인류에 심각한 위협이 될 수 있다고 경고하며 정부 개입의 필요성을 주장해 왔다. 그리고 마침내 정부가 움직였다. 다만 그 계기가 생물학 무기나 통제 불가능한 AI가 아니라 단순히 코딩 능력이 뛰어난 AI 모델이었다는 점은 다소 아이러니하다. 지금까지의 전개를 보면 이는 체계적인 안전 대책이라기보다 다소 피상적인 대응에 가까워 보인다.
불과 며칠 사이 정부가 이처럼 강경한 조치를 내리게 된 과정을 둘러싸고는 따져볼 만한 쟁점이 많다. 특히 페이블의 위험성을 정부에 알린 인물이 앤디 재시(Andy Jassy) 아마존 최고경영자(CEO)였다는 점도 눈에 띈다. 아마존은 앤트로픽에 투자한 기업인 동시에 자체 AI 모델을 개발하고 있는 경쟁사이기도 하다.
MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버
유료회원 플랜 보기
회원이면 로그인하기
회원가입
회원 가입 후 유료 구독 신청을 하세요 !!
