The White House just unveiled a new AI Bill of Rights

美 백악관 ‘AI 권리장전’을 공개하다

미국 백악관이 AI 시대 시민의 권리를 보호하기 위해 ‘AI 권리장전’ 청사진을 발표했다.

‘인공지능(artificial intelligence, AI) 책임’의 시대가 다가오고 있다. 그리고 미국은 미국인들이 이 점을 인지하기를 바라는 듯하다. 조 바이든(Joe Biden) 미국 대통령은 4일(현지시간) 새 ‘AI 권리장전(AI Bill of Rights)’을 공개했다. 문서에는 AI 시대에 미국인들의 권리를 보호하기 위한 다섯 가지 방안의 개요가 담겨있다.

바이든 대통령은 이번 발표 이전부터 더 강력한 개인정보 보호 제도가 필요하다고 강조하며 기술 기업들에게 데이터 수집을 중단하라고 촉구해왔다. 그러나 미국은 세계 최대의 기술 및 AI 기업들이 위치한 국가임에도 불구하고 지금까지 AI의 위험성으로부터 자국민을 보호할 방법을 명시한 지침이 없는 유일한 서방 국가였다.

이번 발표는 ‘AI에 책임을 묻기 위해 미국 정부, 기술 기업, 시민들이 어떻게 협력해야 하는지’에 대한 백악관의 생각을 보여준다. 그러나 일각에서는 AI 권리장전에 담긴 청사진에는 강제성이 결여되어 있다고 비판하며 미국에는 AI에 대한 더 강력한 규제가 필요하다는 주장도 나오고 있다.

지난 9월 바이든 행정부는 차별적인 알고리즘의 의사결정 중단, 기술 분야의 경쟁 촉진, 연방 차원에서 개인정보 보호 장치 마련 등 기술적 책임과 개혁에 관한 핵심 원칙을 발표했다.

대통령에게 과학기술에 관해 조언하는 ‘과학기술정책실(Office of Science and Technology Policy, OSTP)’이 1년 전 처음 제안한 비전을 바탕으로 하는 ‘AI 권리장전’은 그러한 핵심 원칙을 달성할 방법을 제시한 청사진이다. AI 권리장전은 정부 기관에 실질적인 지침을 제공하며 기술 기업, 연구자, 시민사회가 이러한 보호 장치 마련을 위해 행동할 것을 촉구한다.

기자회견에서 한 고위 관계자는 기자들에게 “AI 기술들은 미국인들의 삶에 실질적 해악을 끼치고 있다”며 “해악은 개인정보 보호, 차별 받지 않을 권리, 기본적 존엄성 등 우리의 핵심 민주주의 가치에 역행한다”고 설명했다.

AI는 우리 사회를 변화시키고 있는 강력한 기술이다. 그러나 AI는 소수자들에게 더 심각한 해악을 초래할 잠재성이 있다. 예를 들어 치안 유지에 사용되는 얼굴인식(facial recognition) 기술이나 복지 혜택의 제공을 결정하는 알고리즘은 소수 인종을 대상으로 적용될 때 정확도가 떨어진다.

이번에 제시된 새로운 청사진은 그 균형을 목표로 한다. 청사진에 따르면 미국인은 안전하지 않거나 비효율적인 시스템으로부터 보호받아야 하며, 알고리즘은 차별적이지 않아야 하고 시스템은 형평의 원칙을 바탕으로 한 설계대로 사용되어야 하며, 시민들은 자신의 데이터에 대한 권리가 있어야 하고 내장된 안전장치를 통해 데이터 악용으로부터 보호받아야 한다. 시민들은 또한 자신들에게 자동화 시스템이 사용될 때마다 상황을 알아야 하고 자동화 시스템 사용이 결과에 미치는 영향을 이해해야 한다. 마지막으로 사람들은 항상 AI 시스템 대신에 사람을 대안으로 선택할 수 있어야 하며 문제가 있을 때 해결 방안에 접근할 수 있어야 한다.

두 번째 정부 고위 관계자는 기자회견에서 “우리는 어떤 기본적인 기술 프로세스가 사용되더라도 AI 기술이 초래할 수 있는 최악의 위험으로부터 시민들을 보호할 것임을 확실히 하고 싶다”고 밝혔다.

AI 정책을 추적하는 비영리단체 ‘인공지능디지털정책센터(Center for AI and Digital Policy)’의 마크 로텐버그(Marc Rotenberg) 소장은 과학기술정책실의 이번 AI 권리장전을 ‘인상적’이라고 평했다.

로텐버그는 “AI 권리장전은 출발점이며 이것만으로는 인간 중심의 신뢰할 수 있는 AI를 미국이 어떻게 구현할 수 있는지에 대한 논의를 끝낼 수 없다”며 “하지만 이것은 그러한 약속을 이행할 수 있는 곳으로 미국을 움직일 수 있는 매우 좋은 출발점”이라고 말했다.

디지털 권리 단체 ‘액세스나우(Access Now)’의 미국 정책 분석가 윌메리 에스코토(Willmary Escoto)는 이번 지침이 “데이터 최소화의 중요성”을 능숙하게 강조하면서 “감정인식(emotion recognition) 같은 다른 AI 기반 기술이 사람들에게 초래하는 다양한 해악까지도 조명하여 다루고 있다”고 평했다.

에스코토는 “AI 권리장전은 미국의 흑인 및 라틴계 사람들의 기본적인 시민자유에 기념비적인 영향을 미칠 수 있다”고 덧붙였다.

기술업계에서는 AI가 선의를 위해 사용될 수 있다는 백악관의 인식을 환영했다. 구글, 아마존, 우버 등을 회원사로 두고 있는 기술산업단체 컴퓨터통신산업협회(CCIA)의 맷 슈루어스(Matt Schruers) 회장은 “차별을 피해서 AI 윤리 원칙을 마련하고 정부의 기술전문가들을 위한 위험관리 프레임워크를 개발하는 과정에서 정부 기관들이 주도적인 역할을 해야 한다는 과학기술정책실의 접근 방향을 높이 평가한다”고 말했다.

마이크로소프트와 IBM을 회원사로 두고 있는 기술산업단체 소프트웨어연합(BSA)의 정책 책임자 숀드라 왓슨(Shaundra Watson)은 권리장전이 위험성과 그로 인한 영향 평가에 초점을 맞춘 것을 환영한다며 “이러한 원칙이 실제로 보호와 신뢰성을 높이는 방식으로 적용되도록 하는 것이 중요할 것”이라고 강조했다.

유럽연합(European Union, EU)은 AI의 해악을 방지하고 유해한 AI 기술에 대해 회사의 책임을 물을 수 있는 규제를 밀고 나가고 있으며 강력한 보호 제도도 가지고 있다. 그러나 미국은 새로운 규제 도입을 꺼려왔다.

이번에 새로 윤곽을 드러낸 보호 장치들은 EU에서 도입한 내용들을 반복하고 있다. 그러나 차이점이 있다면 AI 권리장전은 법적 구속력이 없고 미국 정부의 정책에도 해당하지 않는다. 과학기술정책실은 법을 제정하는 권한이 없기 때문이다. 새로운 법안을 발의하는 것은 국회의원들에게 달려있을 것이다.

스탠퍼드대학교 인간중심AI연구소(Stanford Institute for Human-Centered AI)의 러셀 왈드(Russell Wald) 정책국장은 이번 문서에 실질적인 시행을 위한 세부 사항이나 메커니즘이 부족하다고 지적했다.

그는 “이미 사용되고 있는 모델이나 오픈소스 기반 모델이 가져오는 위험과 피해를 완화하기 위한 연방 차원의 모니터링, 감사, 검토 조치 등 AI가 초래한 심각한 문제를 해결하기 위한 일관성 있는 연방 정책이 부족하다는 점이 실망스럽다”고 밝혔다.

로텐버그는 인간에게 해를 끼칠 잠재력이 가장 큰 AI 사용에 대한 추가적인 견제와 균형을 목적으로 곧 도입되는 EU의 AI법(AI Act) 같은 규제를 미국 또한 시행하기를 바란다고 말했다. 그는 “우리는 예를 들어 대규모 감시를 위한 얼굴인식 기술 사용 등 가장 논란이 되었던 AI 기술 사용을 명확하게 금지하는 조항을 보고 싶다”고 덧붙였다.

젊은 세대와 AI에 집중하는 단체 인코드저스티스(Encode Justice)를 이끄는 스네하 레바누르(Sneha Revanur)는 AI 권리장전이 알고리즘 책임 법안(Algorithmic Accountability Act) 통과나 AI 규제기관 설립 등 향후 입법 발판을 마련하는 데 도움이 될 것으로 전망했다.

레바누르는 “비록 민간부문의 해악을 해결하는 능력에는 한계가 있지만, AI 권리장전이 의미 있게 시행된다면 문서에서 제시한 약속들을 이행할 수 있을 것”이라며 “우리는 실제 강제력이 있는 규제가 뒤따라오기를 바란다”고 덧붙었다.

미리보기 2회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.