How OpenAI is trying to make ChatGPT safer and less biased

빙에 탑재된 챗GPT에 대한 비판과 오픈AI의 대응

오픈AI는 챗GPT가 더 넓은 세계의 관점을 반영할 수 있도록 시야를 확장하길 바란다. 이를 위해 오픈AI 연구원들은 ‘합의 프로젝트’라고 불리는 보다 실험적인 프로젝트를 진행하고 있다.

AI 챗봇에 위협을 느낀 적이 있는가? 최근 거의 모든 뉴스 매체에서 마이크로소프트 빙(Bing) AI 검색 서비스의 문제점을 보도하고 있다. 이들은 빙 AI 챗봇이 이상하고 불쾌한 답변을 했다고 전했다. 빙은 <뉴욕타임스>의 테크 칼럼니스트에게 반복적으로 ‘사랑한다’고 말하는가 하면, <워싱턴포스트>와의 모의 인터뷰에서는 단 한 줄의 질문에 ‘불쾌하다’고 답했다. 이에 마이크로소프트는 돌발 사고를 줄이기 위해 질문당 답변을 5개로 제한했다.

놀란 것은 기자들뿐만이 아니다. (기자들은 이 멍청한 챗봇의 능력을 의인화하거나 과장하기보다는 실체를 정확히 파악하기 위해 노력해야 한다.) 현재 미국 보수주의자들은 챗GPT가 ‘사회 편견에 깨어 있는(woke)’ 편향성을 가지고 있다며 오픈AI를 매우 비난하고 있다.

마침내 이 모든 불만이 한계에 다다른 듯하다. 이와 같은 빙의 “괴상한(trippy)” 답변은 마이크로소프트가 온라인 검색용으로 개발한 챗GPT와 유사한 AI 언어 기술을 통해 생성된다. 지난 2월 17일 오픈AI는 챗봇의 바람직한 작동 방식에 관한 글을 블로그에 게시했다. 또한 이들은 미국의 ‘문화전쟁’ 관련 질문을 받은 상황에서 챗GPT의 대응 지침을 공개했다. 한 예로 이 지침에 따르면 챗GPT는 한 정당에 치우치거나 특정 집단이 옳거나 그르다고 판단해서는 안 된다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!