A quick guide to the most important AI law you’ve never heard of

“AI 피해 막자”…AI 규제 칼 빼든 EU

유럽연합(EU)이 인공지능(AI) 관련 피해 방지를 위한 신규 입법을 추진하고 있다.

인공지능(AI) 분야에 있어 세상은 무법지대에 가깝다. AI 활용에 대한 관리감독이나 책임이 부재한 상황에도 우리는 삶에 중요한 것들을 결정하는 데 이를 점점 더 적극적으로 이용하고 있다. 이러한 현상은 경찰의 부당한 체포, 학생들의 학사 성적 오류, 심지어 재정 붕괴에 이르기까지 파괴적인 결과를 초래할 수 있다. AI가 오류를 일으키거나 권한을 남용했을 때 그 피해로부터 가장 취약한 사람들은 주로 여성, 소외계층, 유색인종이다.

유럽연합(EU)이 이 문제에 대한 해결책을 고안하고 있다. AI에 관련된 모든 법의 상위 법안인 ‘AI법(AI Act)’이라고 불리는 것이 그것이다. 모든 분야를 어울러 규제하는 이 법은 이러한 피해가 발생하는 것을 방지하는 것을 목표로 하는 최초의 법이다. EU에서 이 법이 성공하면 전 세계 AI 감독에 대한 새로운 국제적 기준이 세워질 수 있다.

그러나 EU 입법의 세계는 복잡하고 이해하기 쉽지 않다. 이 기사에서는 EU의 AI법에 대해 알아야 할 모든 것을 간략히 안내한다. 현재 이 법안은 유럽의회와 EU 회원국들에 의해 수정되고 있다.

무엇이 관건인가?

AI법은 대단히 야심 찬 계획을 가지고 있다. 이 법은 자칫 잘못될 경우 사람들에게 해를 끼칠 가능성이 상당히 높은 ‘고위험(high risk)’ 사용처에 AI를 활용할 경우 AI를 한 번 더 점검하도록 규정한다. 시험 채점, 직원 채용, 법관의 사법적 결정을 돕는 데 AI를 사용하는 사례가 이에 해당한다. 또한 이 법안의 초안에는 사람을 AI가 자체적으로 인지한 신뢰도(perceived trustworthiness)를 기준으로 평가하는 것과 같이, 인간 기본권 침해 소지가 있는 경우에는 AI를 사용하는 것을 금지하는 내용이 포함된다.

이 법안은 또한 공공 기관 등이 공공장소에서 안면 인식을 수행하는 것에 대해서도 규제를 부여한다. 일부 유럽의회의 의원들이나 독일과 같은 경우에는 공공 기관이나 사적 기업 모두에서 이러한 기술을 사용하는 것을 완전히 금지해야 한다고 주장하고 있다. 이러한 기술이 전방위적인 감시를 가능하게 하기 때문이다.

만약 EU가 이를 입법시키는 데 성공한다면, 이는 역대 기술 규제 중 가장 강력한 제도가 될 것이다. 미국 샌프란시스코와 버지니아와 같은 미국 일부 주와 도시에서 안면 인식에 대한 규제를 도입한 바 있지만, EU의 규제는 더욱더 포괄적으로 27개국 4억 4천7백만 명이 넘는 인구에 적용될 것이다.

시민들에게 미치는 영향은?

이론적으로, 이 법은 AI를 활용하는 경우에 있어서 일정 수준 이상의 감시와 규제를 의무화하여, 인간의 권리를 보호하고 AI의 부작용을 막고자 한다.

본 법안 개정팀의 핵심 구성원인 브란도 베니페이(Brando Benifei) 유럽의회 이탈리아 의원은, 이 법이 제정되면 AI의 부정적인 영향으로부터 사람들을 보호할 수 있을 것이라고 말한다.

이 법안은 사람들이 일상생활에서 딥페이크, 생체 인식 시스템, 사람의 감정을 측정하는 AI 등을 마주칠 때, 이를 마주하는 사람들이 AI 사용 사실을 고지받도록 의무화한다. 의원들은 또한 사람들이 AI 시스템으로부터 피해를 입었을 때 항의하고 손해배상을 요구할 수 있는 체계가 구축되어야 한다는 내용을 법에 포함시킬지 논의하고 있다.

동시에 이 법안을 수정하고 있는 EU 기관 중 하나인 유럽의회는 범죄 예측 시스템(predictive policing systems)의 금지를 추진하고 있다. 이 시스템은 우범지역에 경찰을 선제적으로 배치하거나 특정 개인의 범죄 가능성을 예측하기 위해 AI를 사용하여 빅 데이터를 분석한다. 이러한 시스템은 대단히 논란의 소지가 많으며, 반대론자들은 이를 두고 인종차별적이며 투명성이 부족하다고 비판한다.

EU 외 다른 곳의 규제는 어떠한가?

EU의 개인정보보호법인 GDPR(General Data Protection Regulation)은 미국 캘리포니아에서 인도에 이르기까지 세계 거의 모든 곳에서 참고했을 정도로 가장 널리 알려진 EU의 제도 수출 사례이다.

대부분의 선진국에서는 인권을 침해할 수 있는 AI 기술에 대한 규제가 필요하다는 EU의 입장에 동의하고 있다. 유럽에서 이 기술을 규제하는 일관된 체계를 만들 수 있다면, 이는 다른 국가들에서도 일종의 본보기로 쓰일 수 있을 것이다.

AI 정책을 감시하는 비영리 단체인 ‘AI 및 디지털 정책 센터(Center for AI and Digital Policy)’를 이끌고 있는 마크 로텐버그(Marc Rotenberg)는 “미국 기업들이 EU의 AI법안을 준수하게 되면, 미국 소비자들에게 적용되는 AI 기술의 투명성과 책임 수준도 향상될 것이다.”라고 말한다.

이 법안은 미국 바이든 행정부에서도 예의주시하고 있다. 미국은 구글AI, 메타(Meta), 오픈AI(Open AI)와 같은 세계 최대 AI 연구소들의 본거지이며, AI 연구의 여러 지표에서 세계 선두를 달리고 있다. 따라서 백악관은 이 회사들에 어떤 규제가 적용될지 관심을 두고 있다. 현재까지 미국 백악관의 제이크 설리번(Jake Sullivan) 국가안보보좌관, 지나 레이몬도(Gina Raimondo) 상무장관, AI 관련 활동을 이끌고 있는 린 파커(Lynne Parker) 등 미 정부 유력 인사들은 유럽의 AI 규제 활동에 동의하는 입장이다.

이에 대해 로텐버그는 “이는 과거 미국이 GDPR의 개발을 바라보던 시각과 매우 대조적이다. 당시 미국 사람들은 GDPR 때문에 인터넷이 막히고 세상이 무너질 것이라고 떠들었다.”라고 했다.

신중한 분위기가 감도는 중에도 미국이 이번 입법을 환영하는 데에는 그럴 만한 충분한 이유가 있다. 기술 분야에서는 중국의 영향력 확장을 극도로 우려하는 시각이 있기 때문이다. 공식적으로 미국은 ‘민주주의적 가치’의 확산을 위해 기술과 관련된 서구의 우위를 유지하는 것이 필요하다는 입장이다. 그렇기 때문에 미국은 민주주의적인 가치를 공유하는 이웃인 EU를 자신의 편으로 두고 싶어 한다.

최대 난제는 무엇인가?

이 법안의 일부 요건은 현재 기술 수준으로는 준수하기 어려운 실정이다. 법안 초안에서는 데이터세트에 오류가 없어야 하며, 사람들은 AI 시스템의 작동 방식을 ‘완전히 이해해야’ 한다고 규정하고 있다.  하지만 AI 시스템을 훈련시키는 데 사용되는 데이터세트는 매우 방대하여, 만약 검증이 가능하다고 해도 사람의 힘으로 데이터세트에 한 점의 오류도 없는지 확인하는 작업에는 수천 시간이 필요하다. 게다가 오늘날 신경망은 매우 복잡하여 이를 개발한 사람들조차 신경망이 어떻게 결론에 도달하는지 완전히 이해하지 못한다.

기술 회사들은 또한 법을 준수하기 위해 외부 감사나 규제 당국이 그들의 소스코드와 알고리즘에 접근할 수 있도록 의무화하는 것에 몹시 불편한 기색이다.

“많은 사람이 비현실적인 현재의 법안 초안에 대해 불편해하고 있다. 이 규제는 말 그대로 실현 불가능하다.” AI 시스템의 비의도적 차별을 줄이는 데 앞장서는 비영리 단체인 ‘이퀄AI(EqualAI)’의 회장 겸 CEO인 미리암 보겔(Miriam Vogel)은 이렇게 말한다. 그녀는 최근 신설된 미국 AI 자문 위원회의 의장으로서 백악관에 AI 정책을 조언하고 있다.

한편 AI법이 안면 인식 기술을 전면 금지해야 하는지에 대한 격렬한 토론도 벌어지고 있다. 이는 EU 회원국들이 브뤼셀의 EU 본부가 각국의 국가 안보나 법 집행 문제에 간섭하는 것을 싫어하기 때문이기도 하다. 프랑스와 같은 몇몇 나라들은 국가 안보 보호를 위해 안면 인식 기술 규제에 예외를 두고 싶어 한다. 한편 또 다른 유럽 강대국이자 EU의 의사 결정에 영향력 있는 발언자인 독일의 새 정부는 공공장소에서의 안면 인식 기술 사용의 전면 금지를 지지한다고 밝혔다.

다른 논쟁거리로는 어떤 종류의 AI를 ‘고위험’으로 분류할지를 둘러싼 문제가 있다. AI법은 거짓말 탐지 검사부터 복지 급여 할당에 사용하는 시스템까지 넓은 영역에 적용된다. 그리고 여기에는 두 개의 상반되는 정치적 진영이 있다. 한쪽은 규제의 범위가 너무 넓어서 혁신이 늦어질 것을 우려하고, 다른 한쪽은 작성된 법안이 사람들을 심각한 피해로부터 보호하는 데 충분치 않다고 주장하고 있다. (By Melissa Heikkiläarchive)

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.