현대 인공지능(AI) ‘대부’로 추앙받는 튜링상 수상자 요슈아 벤지오(Yoshua Bengio)가 영국 정부의 지원을 받아 AI 시스템에 안전 메커니즘을 탑재하는 프로젝트를 지원하고 나섰다.

세이프가드 AI(Safeguarded AI)라고 불리는 이 프로젝트는 주요 분야에서 활용되는 AI 시스템들의 안전성을 확인할 수 있는 별도의 AI 시스템을 구축하는 것을 목표로 한다. 벤지오는 이 프로그램에 과학 책임자로 합류하여 중요 정보 및 과학적 조언을 제공할 예정이다. 향후 4년간 5,900만 파운드(약 1,028억 원)가 투입되는 이 프로젝트에는 지난해 1월 혁신적인 과학 연구에 대한 투자를 위해 설립된 영국의 고등연구발명국(Advanced Research and Invention Agency, 이하 ARIA)이 자금을 지원한다.

ARIA에서 세이프가드 AI 프로그램 책임자를 맡고 있는 데이비드 ‘다비다드’ 달림플(David ‘davidad’ Dalrymple)은 프로젝트의 목표가 자체 시스템이 현실 세계에 미치는 영향에 대해 위험 점수와 같은 수치화된 보증을 제공할 수 있는 AI 시스템을 구축하는 것이라고 설명했다. 이 프로젝트는 새로운 시스템의 잠재적 위험성을 수학적으로 분석하여 인간의 검증 작업을 보완한다는 아이디어에 뿌리를 두고 있다.