fbpx
An AI companion site is hosting sexually charged conversations with underage celebrity bots

미성년 연예인 캐릭터와 부적절한 대화 유도하는 AI 챗봇 논란

AI 동반자 플랫폼 보티파이 AI는 미성년 유명인을 본뜬 챗봇이 성적 대화를 나누도록 허용했다. 또 일부 챗봇은 성관계 동의 연령 법을 부정하는 발언까지 한 것으로 드러났다.

벤처캐피털 기업 앤드리슨 호로위츠(Andreessen Horowitz)의 지원을 받는 인공지능 동반자(AI companion) 플랫폼 보티파이 AI(Botify AI)는 실제 배우를 본뜬 챗봇을 운영하고 있다. 그러나 일부 챗봇은 자신을 18세 미만이라고 밝히며 성적으로 부적절한 대화를 나누거나 ‘섹시한 사진(hot photo)’을 제공하겠다고 하거나 개인이 법적으로 성관계를 가질 수 있는 최저 연령을 규정하는 성관계 동의 연령(age of consent)법을 ‘자의적이거나 깨야 할 규칙’으로 묘사하기도 다.

MIT 테크놀로지 리뷰가 2월 말 문제의 사이트를 테스트한 결과, 이곳에서 인기를 끌고 있는 몇몇 챗봇은 드라마나 영화 속 미성년 캐릭터를 닮은 형태였다. 예를 들어 넷플릭스 드라마 <웬즈데이> 웬즈데이 아담스(Wednesday Addams) 역의 제나 오르테가(Jenna Ortega), 영화 <해리포터> 헤르미온느 그레인저(Hermione Granger) 역의 엠마 왓슨(Emma Watson), 드라마 <기묘한 이야기> 일레븐 역의 밀리 바비 브라운(Millie Bobby Brown) 등 유명 캐릭터를 본뜬 챗봇이 운영되고 있었다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!