AI 챗봇은 왜 실패하는가 : 이루다가 남긴 과제Ⅰ

이루다는 왜 실패했을까? AI 챗봇에 대한 기대가 커지고 있지만, 일반 소비자의 기대를 만족할 수준의 AI를 구현하기에는 아직 한계가 있다.

2021년 1월 논란 끝에 서비스를 중단한 ‘이루다’는 비윤리적 AI 챗봇이라는 평가를 받았고 채팅용 말뭉치 데이터베이스는 폐기되고 말았다. 챗봇 이루다가 AI 개발과 비즈니스에 어떤 영향을 미쳤는가를 돌아볼 필요가 있다. 비슷한 일은 반복될 수 있기 때문이다.

이루다가 던진 화두: 윤리적 챗봇

처음에는 AI 스타트업이 세간의 주목을 끌고 입소문을 내려고 준비한 노이즈 마케팅이라고 생각했다. 크리스마스 시즌에 등장한 이루다는 ‘너의 첫 AI 친구’라며 미소를 머금고 있었다. 영화 ‘Her’의 사만다처럼 언제나 친밀한 대화가 가능하다는 기대를 품게 했다. 이루다에는 고도의 AI 시스템이 숨겨져 있을 것처럼 보였다. 그렇지만 이루다가 내놓은 무절제한 문장들은 당혹감을 주었고 가볍게 넘기기에는 거북한 발언들이 넘쳐났다.

성소수자 혐오와 개인정보 유출 논란 끝에 이루다는 ‘나쁜 상업용 AI 챗봇’의 전형으로 전락하고 말았다. 시민단체들은 이루다 개발사를 조사해야 한다고 국가인권위원회에 요청하고 나섰다. 이루다가 드러낸 문제는 보완이 필요한 시행착오가 아니라 무분별한 AI 기술의 남용이 인권을 침해할 수 있다는 우려로 비약했다. 공교롭게도 이루다가 출시된 날에 발표된 과기정통부의 ‘사람이 중심이 되는 AI 윤리기준’은 이루다의 무절제한 입을 통제하지는 못했다. 이루다 개발사가 2016년에 나왔던 AI 채팅봇 테이(Tay)를 둘러싼 논란을 모르기 어려웠을 것이다. 트위터 @TayandYou에서 영어 채팅을 시작했던 테이가 드러냈던 혐오발언 논란은 이루다에서도 반복되고 말았다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!