Facebook’s ad algorithms are still excluding women from seeing jobs

페이스북 구인 광고 알고리즘에 남아있는 여성 차별

페이스북의 광고게재 시스템은 여성들의 자격에 관계 없이 이들에게서 기회를 앗아가고 있다. 이는 미국 고용법상 불법이다.

페이스북의 광고서비스에 대한 최근 감사에 따르면, 회사는 특정 구인광고에서 성별을 이유로 여성을 배제하고 있다.

미국 서던캘리포니아 대학(USC)의 독립 연구진이 수행한 이번 감사에서 페이스북의 광고게재 시스템은 동일한 자격조건이 요구되는 직업이더라도 여성과 남성에게 다른 직업 광고를 보여주고 있는 것으로 드러났다. 이는 미국 고용기회균등법(Equal Employment Opportunity Law)상 성차별로 간주된다. 이 법은 평등보호의 대상이 되는 특성(protected characteristics)에 기반한 광고 타겟팅을 금지하고 있다. 이런 결과는 수년간의 주장과 소송에도 불구하고, 게다가 페이스북의 광고게재방식의 개편 약속에도 불구하고 나온 것이다.

연구진은 페이스북에 광고주로 등록하고는 구인 자격요건은 같지만 실제 노동자 인구통계는 다른 광고를 몇 쌍 구매했다. 예를 들어 2가지 배달 기사 일자리로, 도미노(피자 배달)와 인스타카트(식료품 배달)를 광고했다. 현재 노동자 인구통계를 보면, 도미노 배달원의 경우 여성보다 남성이 더 많으며, 반대로 인스타카트 배달원의 경우 남성보다 여성이 더 많다.

인구통계학적 정보에 기반하여 노출 대상을 특정하지 않았더라도,알고리즘은 여전히 이들 광고를, 통계적으로 구별되는 인구통계 집단에 보여주었다. (이 알고리즘은 페이스북이 몇 건의 소송을 해결한 뒤 2019년 3월 주택, 신용 및 구인 광고에 사용할 수 없게 된 기능이었다.) 즉, 도미노 광고는 여성보다 남성에게 더 많이 노출되었고, 인스타카트 광고는 남성보다 여성에게 더 많이 노출되었다.

연구진은 2쌍의 다른 일자리 광고에서도 동일한 양상을 발견했다. 다시 말해, 엔비디아의 소프트웨어 엔지니어(남성 편향적)와 넷플릭스의 소프트웨어 엔지니어(여성 편향적)의 구인광고와 자동차 영업사원(남성 편향적)과 귀금속 영업사원(여성 편향적)의 구인광고에서였다.

이번 연구 결과는 페이스북의 알고리즘이 직업의 인구통계학적 현 분포 상황(이는 역사적 이유로 종종 달라진다)을 어떻게든 파악하고 있음을 시사한다. (연구진은 페이스북이 자사의 광고게재 시스템의 작동 방식을 밝히지 않을 것이기 때문에 그 이유를 알아낼 수 없었다.) “페이스북은 자격조건 제한이라는 정당성이 없는데도, 광고를 게재할 때 이런 편향성을 재생산하고 있다”고 USC의 조교수 알렉산드라 코롤로바(Aleksandra Korolova)는 설명한다. 그녀는 동료 존 하이데만(John Heidemann)과 박사과정 지도학생 바실레알 이마나(Basileal Imana)와 함께 이 연구를 공동 집필했다.

이번 연구는 미국 비영리 탐사보도 매체 프로퍼블리카(ProPublica)가 2016년 10월, 처음으로 페이스북의 광고 차별 문제를 밝혀낸 이후로 페이스북이 이 문제를 해결하지 못했다는 최신 증거를 제공하고 있다. 당시 프로퍼블리카는 페이스북이 일자리 및 주택 광고를 내는 광고주들에게 성별과 인종 같은 특성으로 분류되는 특정한 대상을 배제할 수 있도록 허용했다는 사실을 폭로했다. 이들 집단은 미국 법에 따라 특별히 보호받고 있으며, 이런 행위는 불법에 해당한다. 2년 반에 걸쳐 진행된 몇 차례의 법적 충돌 끝에 페이스북은 마침내 이 기능을 없앴다.

그러나 몇 달 후 미국 주택도시개발부(US Department of Housing and Urban Development, HUD)에서 새로운 소송을 제기했다. 주택 광고주가 특정한 대상의 배제를 명시하지 않았는데도 페이스북의 광고게재 알고리즘은 여전히 광고에서 특정 대상을 배제하고 있다고 주장하면서였다. 노스이스턴 대학의 무함마드 알리(Muhammad Ali)와 피오트르 사피에진스키(Piotr Sapieżyński)가 이끌고 코롤로바도 속해 있던 독립 연구팀은 일주일 뒤 이런 주장을 입증했다. 예를 들어, 파는 주택은 백인 사용자들에게 더 자주 노출되고 세놓는 주택은 소수집단 사용자들에게 더 자주 노출된다는 사실을 이 연구진이 발견해냈다.

코롤로바는 일자리 차별에 대한 입증책임이 주택 차별보다 더 무겁기 때문에 최근의 감사에서 이 문제를 다시 검토하고 싶었다고 말한다. 주택의 경우 평등보호 대상의 특성에 기반한 광고 게재의 편향은 불법이지만, 미국 고용법에서는 이런 편향이 합법적 자격 차이 때문이라면 정당하다고 간주되기 때문이다. 새로운 방법론은 이런 요인을 통제한다.

최근의 연구에 참여하지 않은 사피에진스키는 “이번 실험 설계는 매우 깔끔하다”고 말한다. 어떤 사람들은 자동차와 귀금속 영업사원이 실제로 다른 자격요건을 가지고 있다고 주장할 수 있지만, 피자 배달과 식료품 배달 간의 차이는 무시할 만하다고 그는 말한다. 그는 “이런 성별 차이는 자격요건의 성차나 자격부족의 성차로 설명할 수 없다”며 “페이스북은 더 이상 법으로 [이것을] 방어할 수 없을 것”이라고 덧붙인다.

이번 감사 발표는 페이스북의 AI 편향성 업무에 대한 조사가 강화되는 가운데 나왔다. 지난 3월 MIT 테크놀로지 리뷰는 페이스북의 ‘AI 책임성 팀(Responsible AI team)’을 대상으로 실시한 9개월간의 조사 결과를 발표했다. 이 조사에서 2018년 처음으로 구성된 이 팀은 AI 편향성에 대한 편협한 시각 탓에 거짓 정보와 정치 양극화의 알고리즘 증폭과 같은 문제를 등한시했다는 사실을 밝혀냈다. 곧 페이스북은 블로그 게시물을 통해 이런 문제를 해결할 작업의 중요성을 강조하고, 특히 페이스북은 “광고에서의 알고리즘 공정성을 연구하기 위한 지속적이고 광범위한 작업의 일환으로, 자사의 광고 시스템에 영향을 미칠 수 있는 잠재적 오류를 더 잘 이해하기 위해” 노력하고 있다고 밝혔다.

페이스북의 대변인인 조 오즈번(Joe Osborn)은 성명에서 “우리는 광고에서의 차별 문제를 해결하기 위해 유의미한 조치를 취했고, 현재 광고 공정성에 대한 연구를 담당하는 팀들을 보유하고 있다”고 말했다. 이어 “우리 시스템은 사람들이 가장 관심을 가질 만한 광고를 제공하기 위해 많은 신호들을 고려하지만, 이번 보고서에서 제기한 우려에 대해서도 이해하고 있다…우리는 이 중요한 문제에 대해 시민권 단체, 규제기관 및 학계와 계속해서 긴밀히 협력하고 있다”고 말했다.

하지만 이런 주장에도 불구하고 코롤로바는 페이스북의 광고게재 알고리즘 작동방식에 있어 2019년 감사와 이번 감사 사이에 눈에 띄는 뚜렷한 변화는 발견하지 못했다고 말한다. 그녀는 “이런 관점에서 볼 때 이는 정말 실망스러운 일이다. 왜냐하면 우리는 이미 2년 전에 이 문제를 페이스북에 제기했기 때문”이라고 설명한다. 그녀는 또한 이 문제를 해결하기 위해 페이스북과 협력할 것을 제안해왔다고 말한다. “우리는 아직 대답을 듣지 못했다. 적어도 내게는 연락해오지 않았다”고 그녀는 밝힌다.

이전 인터뷰에서 페이스북은 진행중인 소송 때문에 자사의 광고 서비스에서 알고리즘 차별을 완화하기 위해 어떤 노력을 기울이고 있는지 구체적으로 밝힐 수 없다고 말했다. 회사 광고 팀은 또 기술적 문제로 일의 진척에 한계가 있다고도 말했다.

현재 이 플랫폼에 대해 세 차례 감사를 실시한 사피에진스키는 이런 주장은 이 문제와 전혀 관련이 없다고 말한다. “페이스북은 여전히 문제가 있다는 것을 인정하지 않고 있다”고 그는 말한다. 광고 팀이 기술적 결함을 해결하는 동안 마련할 수 있는 간단한 임시 해결책도 있다고 그는 덧붙인다. 다시 말해, 나머지 서비스에 영향을 주지 않고 명시적으로 주택, 고용 및 대출 광고를 타겟으로 하는 알고리즘 광고만 꺼버릴 수도 있다고 제안한다. 이것은 정말 그저 정치적 의지의 문제라고 그는 말한다.

알고리즘 편향성을 연구하고 있지만 코롤로바의 연구나 사피에진스키의 연구에는 참여하지 않은 노스이스턴 대학의 또 다른 연구원 크리스토 윌슨(Christo Wilson)도 동의하면서 다음과 같이 말한다. “연구자와 언론인들이 이런 문제를 몇 번이나 더 찾아내야 전체 광고타겟팅 시스템이 실패했다는 사실을 그대로 받아들이겠는가?”

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.