컴퓨터 비전(computer vision) 시스템은 일상에서 쉽게 접할 수 있다. 이 기술은 소셜 미디어 피드의 이미지를 분류하고 태그를 지정하며, 사진과 동영상에서 사물과 사람의 얼굴을 감지한다. 또 이미지의 중요한 요소를 강조 표시하는 데도 사용된다. 그러나 이것은 편향으로 가득한 기술이다. 따라서 이미지에 흑인이나 다른 유색 인종이나 여성이 표시될 경우 정확도가 떨어진다. 문제는 여기서 끝나지 않는다. 현재 연구자들이 컴퓨터 비전 시스템의 편향을 평가하는 데 사용하는 방식 자체도 편향적이다. 이것이 인간 사이에 존재하는 복잡성을 적절하게 설명하지 못하고 인간을 광범위한 범주로 분류하고 있기 때문이다.

소니(Sony)와 메타(Meta) 소속 연구원들이 작성한 두 편의 신규 논문은 인류의 풍부한 다양성을 보다 정확하게 파악하기 위해 컴퓨터 비전 시스템의 편향성을 측정하는 방법을 제시한다. 두 편의 논문은 모두 10월 초에 열린 컴퓨터 비전 콘퍼런스인 국제 컴퓨터 비전 학회(ICCV)에서 발표됐다. 개발자들은 이러한 도구를 활용해 데이터 세트의 다양성을 확인하고 궁극적으로 AI에 보다 다양한 양질의 훈련 데이터를 제공할 수 있다. 이 도구는 생성형 AI가 만든 인간 이미지의 다양성을 측정하는 데에도 사용이 가능하다.