Now we know what OpenAI’s superalignment team has been up to

오픈AI ‘슈퍼얼라인먼트팀’의 베일이 벗겨지다

오픈AI가 초지능이 인간 통제에서 벗어나지 못하게 만들기 위한 첫 발걸음을 내디뎠다.

오픈AI가 사내 이니셔티브인 ‘슈퍼얼라인먼트팀(superalignment team)’의 첫 번째 연구 성과를 발표했다. 인간을 능가하는 수준의 컴퓨터 기술인 ‘초지능(superintelligence)’이 언젠가 세상에 나와 악용되는 것을 막기 위해 의기투합해 내놓은 결과다.

그렇지만 이번 발표는 그동안 오픈AI가 보여주었던 엄청난 혁신과는 달리 다소 소박했다. 오픈AI 연구진은 이번에 발표한 연구 논문에서 상대적으로 성능이 낮은 언어모델이 더 강력한 대형언어모델을 감독할 수 있는 기술을 소개하면서, 앞으로 인류가 초인적인(superhuman) AI를 감독할 방법을 찾는 데 이 연구로 미약하게나마 한 발짝 내디뎠다는 뜻을 비췄을 뿐이다.

이사회가 수석과학자인 일리야 수츠케버(Ilya Sutskever)의 주도로 샘 올트먼(Sam Altman) CEO를 해고했다가 사흘 만에 복귀시킨 소동이 벌어진 지 한 달도 채 지나지 않아 오픈AI는 이 발표를 통해 이들의 업무가 정상화되었다는 분명한 메시지를 전했다.

오픈AI의 이번 논문은 AI 업계의 많은 연구자들은 여전히 기계가 인간 지능을 능가하는 것은 고사하고 대등해질 수 있을지 조차 의문을 품고 있는 가운데 나왔다. 사실 오픈AI의 슈퍼얼라인먼트팀은 궁극적으로 기계가 사람보다 우월해질 수 있다고 전제하고 있다. 이 팀의 레오폴드 아셴브레너(Leopold Aschenbrenner) 연구원은 “지난 몇 년 동안 AI는 놀라울 정도로 빠르게 발전했다”면서 “이미 모든 벤치마크가 달성됐고, 이 발전은 멈추지 않고 계속되고 있다”고 말했다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!