An algorithm intended to reduce poverty might disqualify people in need

빈곤을 감소시키려는 알고리즘이 역효과를 낼 수 있다.

휴먼라이츠워치의 새 보고서에 따르면, 세계은행이 지원한 요르단의 알고리즘 복지 분배 시스템이 불공정하고 부정확한 방식으로 가구의 빈곤 수준을 측정하고 있다.

6월 13일 오전, 휴먼라이츠워치(Human Rights Watch)가 발표한 조사 결과에 따르면, 요르단에서 재정 지원이 필요한 가구 선정에 사용하는 알고리즘이 자격에 부합하는 사람들을 오히려 제외할 가능성이 있는 것으로 나타났다. 

세계은행(World Bank)의 지원으로 제작된 타카풀(Takaful)이라는 이름의 이 알고리즘 시스템은 57개 사회경제적 지표에 가중치를 할당하는 비밀 계산법을 사용하여, 재정 지원을 신청한 가구에 빈곤 순위를 매긴다. 그러나 신청자들은 해당 알고리즘의 빈곤도 계산법이 현실을 반영하지 않을 뿐만 아니라 사람들의 경제 상황을 지나치게 단순화하여 부정확하거나 불공정한 판단을 내린다고 주장한다. 타카풀 알고리즘 개발에는 10억 달러(약 1조 2,900억 원)가 넘는 비용이 투입됐으며, 세계은행은 요르단 외에도 중동과 아프리카 8개국에서 유사한 프로젝트에 자금을 지원하고 있다.

휴먼라이츠워치는 해당 알고리즘 시스템에서 편향과 부정확성의 원인이 되는 근본적인 문제를 몇 가지 파악했다. 예를 들어 재정 지원 신청자들은 전기와 수도 사용량에 대한 질문을 받는데, 이는 알고리즘의 순위 시스템에 반영되는 두 가지 지표이다. 그러나 이번 보고서의 저자들은 전기와 수도 사용량이 신뢰할 만한 빈곤 지표가 아닐 수 있다고 결론내렸다. 인터뷰에 참여한 일부 가족들은 자동차가 낡았거나 출퇴근에 필요한 것이라고 해도 일단 자동차가 있으면 빈곤 순위 산정에 반영된다고 생각했다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!