What if we could just ask AI to be less biased?

편향성을 완화하는 이미지 생성 AI 모델이 출시되었다

자체적으로 편향성을 수정하는 언어모델에 이어 사용자의 안내에 따라 편향성이 적은 이미지를 생성하는 AI 모델이 개발되었다. 기술적 한계는 있지만, 생성형 AI 모델의 사용처가 넓어지는 상황에서 이러한 노력은 편향성 문제를 해결하는 실마리가 될 수 있다.

두 눈을 감고 머릿속에 교사의 모습을 그려보자. 구체적으로 어떤 이미지가 떠오르는가? 최근 가장 큰 인기를 끌고 있는 2가지 AI 이미지 생성 모델인 스테이블 디퓨전(Stable Diffusion)과 DALL-E 2에 이 질문을 한다면 이 모델들은 안경을 쓴 백인 남성의 이미지를 제시할 것이다.

최근 필자는 AI 스타트업 허깅페이스(Hugging Face)와 독일 라이프치히 대학교 연구진이 개발한 새로운 도구 ‘스테이블 바이어스(StableBias)’에 대한 글을 기고했다. 사람들은 이 도구들을 통해 다양한 성별 및 인종과 관련하여 AI 모델에 어떤 종류의 편향성이 내재되어 있는지 직접 확인할 수 있다.

나는 우리의 편견이 AI 모델에 어떻게 반영되는지에 관하여 많은 기사를 써왔지만, AI가 만들어 낸 인간의 이미지가 얼마나 백인 남성 중심의 진부한 고정관념에 사로잡혀 있는지를 다시금 확인하는 과정은 여전히 충격적으로 느껴졌다. 이러한 편향성은 DALL-E 2에서 더욱 두드러져 ‘CEO’나 ‘책임자(director)’와 같은 지시어를 입력할 경우 백인 남성 이미지가 생성되는 비율이 97%에 이르렀다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!