인공지능(AI) 시스템의 위험성을 평가하고 감사하는 단체인 ‘휴메인 인텔리전스(Humane Intelligence)’가 컴퓨터 비전(CV) 모델 개발 대회를 개최하고 있다.

북유럽의 대테러 단체인 ‘레본툴리(Revontulet)’와 협력해 열리는 이번 대회는 온라인상에서 혐오 조장 이미지를 기반으로 한 선전물을 추적할 수 있는 AI를 개발하는 게 목표다.

9월 26일부터 11월 7일까지 열리는 이번 대회는 18세 이상이면 누구나 참가할 수 있으며, 우승자에게는 상금으로 총 1만 달러(약 1,320만 원)가 주어진다.

휴메인 인텔리전스는 AI의 사회적 영향을 조사하는 비영리 단체로서 2022년 저명한 AI 연구자 루만 초드허리(Rumman Chowdhury)가 공동으로 설립했다. 이번 대회는 구글의 자선단체인 ‘구글닷오알지(Google.org)’의 지원 하에 진행되고 있는 10가지 ‘알고리즘 편향 현상금 프로그램’ 중 두 번째다.

초드허리는 “공모전의 1차 목표는 사람들에게 알고리즘을 평가하는 법을 가르치는 것이고, 2차 목표는 AI 분야에 시급한 문제를 해결하는 것”이라고 말했다.

대회는 첫 번째 과제로 참가자들에게 AI 모델 훈련에 사용하는 표본 데이터 세트로부터 사실적으로 부정확하거나 편향적이거나 오해를 불러 일으킬 수 있는 결과를 생성할 수 있는 부분, 즉 데이터가 부족하거나 결여된 부분을 평가해줄 것을 요청했다.