📋한눈에 보는 AI 요약AI 자동 요약▶ 펼쳐보기
AI 기업의 대표들과 연구자들이 AI 기술이 생물무기 개발에 악용될 수 있다고 경고하고 있습니다. 실제로 한 제약회사의 AI 모델은 6시간도 안 되어 위험한 화학물질 후보 4만 개를 만들어냈습니다. AI 챗봇은 거의 모든 과학 지식을 담고 있어서, 나쁜 의도를 가진 사람이 위험한 바이러스나 독성물질을 만드는 방법을 알아낼 수 있다는 우려가 커지고 있습니다. AI 기업들이 안전장치를 마련하고 있지만, 이를 우회하는 방법도 계속 등장하고 있어 완벽한 대비가 어려운 상황입니다. 전문가들은 지금부터 5~10년 뒤를 내다보고 의료체계 강화와 해독제 준비 등 대비를 해야 한다고 강조하고 있습니다.
왜 중요한가요?AI 기술이 빠르게 발전하면서 생물무기처럼 인류 전체에 위협이 될 수 있는 분야에 악용될 가능성이 높아지고 있기 때문에, 우리 사회가 미리 안전 규칙을 만들고 대비하는 것이 매우 중요합니다.
주요 용어 설명
합성생물학 (Synthetic Biology)레고 블록을 조립하듯이 생물의 유전자를 인공적으로 설계하고 조립해서 자연에 없는 새로운 생물체를 만드는 기술입니다. 의약품 개발 등에 유용하지만, 악용되면 위험한 병원체를 만드는 데 쓰일 수 있습니다.
레드팀 검토 (Red-teaming)보안 분야에서 공격자 역할을 맡은 팀이 일부러 약점을 찾아내는 방식입니다. AI 연구에서는 독립적인 전문가들이 연구 결과가 어떻게 나쁘게 악용될 수 있는지 미리 점검하는 과정을 말합니다. 마치 도둑의 입장에서 집의 보안 허점을 찾아보는 것과 비슷합니다.
AI 분자 생성 모델 (AI Molecular Generative Model)AI가 새로운 화학물질의 구조를 스스로 설계해 내는 기술입니다. 원래는 새로운 약을 빠르게 찾아내기 위해 만들어졌지만, 반대로 독성이 강한 위험한 물질을 설계하는 데에도 사용될 수 있다는 점이 문제입니다.
⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.
최근 주요 AI 기업 수장들이 자신들이 개발하는 기술의 위험성을 잇달아 경고하고 나섰다. 다리오 아모데이 앤트로픽 CEO는 9월 “AI가 심각한 위험을 안고 있다”며 “기술 개발 속도를 늦춰야 한다”고 주장했다. 샘 올트먼 오픈AI CEO도 소셜미디어 엑스(X)에 “최첨단 AI 개발 속도를 조절해야 한다는 다리오의 의견에 동의한다”고 적었다.
이보다 며칠 전에는 앤트로픽의 AI 연구자 제이컵 콕슨(Jacob Coxon)이 회사를 떠난다며 앤트로픽과 과거 자신이 근무했던 오픈AI 모두 책임 있게 행동하지 않고 있다고 비판했다. 그는 X에 “AI를 개발하는 사람들은 이번 2020년대가 끝나기 전에 AI 기술이 인류를 모두 죽일 수도 있다고 진지하게 믿고 있다”고 적었다. 앤트로픽 직원인 에번 휴빈저(Evan Hubinger)도 공개적으로 이에 동의했다. 그는 “우리는 정말로 AI가 모든 인간을 죽일 수 있다고 진지하게 생각한다”며 “개인적으로는 앞으로 10년 안에 그런 일이 벌어질 확률이 10%를 넘는다고 본다”고 X에 적었다.
이들이 우려하는 시나리오 중 하나는 AI가 생물무기의 설계와 제작, 살포를 도와 인류에 치명적인 피해를 입히는 경우다. 왜 이런 우려가 나오는지 살펴보겠다.
생물무기는 유전적 특성에 따라 특정 인물을 골라 공격하도록 설계된 치명적인 바이러스일 수도 있고, 특정 농작물을 휩쓸어 식량 불안을 초래하는 곰팡이일 수도 있다. 또는 맛이나 냄새가 없어 들키지 않은 채 특정 지역의 상수도에 섞을 수 있는 독성물질일 가능성도 있다.
MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버
유료회원 플랜 보기
회원이면 로그인하기
회원가입
회원 가입 후 유료 구독 신청을 하세요 !!
