영국 케임브리지대 레버훌름 미래지능센터(Leverhulme Centre for the Future of Intelligence)의 제스 휘틀스톤과 동료 연구진은 최근 네이처 머신 인텔리전스(Nature Machine Intelligence)에 발표한 논평에서 이렇게 주장했다. “위기 상황에서 인공지능이 도움이 되려면, 긴급 상황에서 빠르게 적용될 수 있는 윤리를 새롭게 마련해야 한다. ”

휘틀스톤에게 이는 문제 발생 전에 미리 예측하고, AI 시스템에 안전성과 신뢰성을 구축하는 더 좋은 방법을 모색하며, 기술 개발 및 사용의 모든 단계에서 기술적 전문 지식을 강조하는 것을 의미한다. 핵심은 윤리를 나중에 생각하거나 뒷전으로 미루지 말고, AI 생산과 사용의 일부분으로 생각할 필요가 있다는 것이다.

휘틀스톤은 “결국 윤리를 바탕으로 AI를 만들면, 필요할 때 더 빠르게 사용 가능할 것”이라고 주장한다. 나는 무슨 뜻인지 설명해 달라고 부탁했다.

이 인터뷰는 편집본임을 밝힌다.

AI에 대한 새로운 윤리가 필요한 이유는 무엇인가?

코로나바이러스 팬데믹으로 우리는 AI가 과연 유용할지, 사람의 생명을 구할 수 있을지 논하는 상황에 처했다. 그러나 이번 위기로 인해 AI를 안전하게 사용할 강력한 윤리 절차가 없으며, 신속히 이행 가능한 윤리 절차도 없다는 것이 분명해졌다.

현재 윤리에는 어떤 문제가 있는가?