오늘날 인공지능(AI)은 언제 어디서든 사용되고 있다. 하지만 사용되고 있는 AI의 편향성을 식별하는 데에는 짧게는 수개월부터 길게는 수년까지의 상당한 시간이 소요된다.

AI 편향성 문제로 인한 위험성은 심각한 수준이다. 불공정한 AI 때문에 무고한 사람이 부당하게 체포당하고, 편향된 신용 평가 알고리즘 때문에 사회 취약층이 거처 마련이나 취업에 지장을 겪는 등 기본적인 공공 혜택으로부터 소외된 사례가 등장하고 있다.

최근 일부 AI 및 기계학습 전문가들이 모여 AI 편향성을 새로 평가해 보는 ‘바이어스바운티 대회(bias bounties competition)’를 개최하고 있다. 대회 관계자들은 이 대회를 계기로 알고리즘에 내재한 편견이 한시라도 빨리 교정될 수 있길 바라고 있다.

이 대회는 10월 20일부터 11월 30일까지 20여 일 동안 열린다.

바이어스 바운티 대회는 사이버보안 취약점을 발견해 신고하면 포상을 주는 ‘버그바운티(bug bounties)’로부터 영감을 받아 개최되는 것이다. 참가자들은 이 대회를 통해 AI 알고리즘의 편향을 발견하고 개선하기 위한 도구를 개발에 뛰어들 예정이다

대회를 주최한 자원봉사자들은 주로 트위터, 소프트웨어 회사 ‘스플렁크(Splunk)’, 딥페이크 탐지 관련 스타트업인 ‘리얼리티 디펜더(Reality Defender)’ 같은 회사에 소속돼 있다. 그들은 자신들이 편향성을 잡는 해적인 ‘바이어스 버커니어(Bias Buccaneers)’임을 내세우고 있다.