This has just become a big week for AI regulation

AI 규제 정책의 중요 변곡점이 된 한 주

유럽연합(EU)가 새롭고 강력한 AI 규정들을 공개했다. 하지만, 미국 연방거래위원회(FTC)의 발표가 더 효과적일 수도 있다.

인공지능의 오남용에 대한 정부의 대책이 쏟아져 나온 한 주였다.

EU는 얼마 전 초안이 유출되었던 인공지능(AI) 규제안을 4월 21일(현지시각) 발표했다. 이 규제안은 대규모 감시 기술이나 AI를 활용해 사람 행동에 영향을 미치는 행위 등 광범위한 내용을 담고 있다.

하지만 4월 19일 미국 연방거래의원회(FTC) 엘리사 질슨(Elisa Jillson) 변호사 명의로 올라온 블로그 포스트에 소개된 의향서가 당장에는 더 큰 영향력을 가질 수도 있다. 이 포스트에 의하면, FTC는 편향된 알고리즘을 판매 및 사용하는 기업들을 단속할 방침이다.

워싱턴대학에서 기술과 법을 연구하는 라이언 칼로(Ryan Calo) 교수는 지금 여러 기업이 두려움에 떨고 있을 것이라고 한다. 그는 “꼭 이 한 블로그 포스트 때문만은 아니다”라며 “이 블로그 포스트는 상전벽해와 같은 변화의 명백하고 단적인 예시일 뿐”이라고 말했다.

EU는 IT 대기업들에 대해 강경노선을 취하는 것으로 유명하지만, FTC는 최근 몇 년 동안 유화책을 펼치고 있다. FTC는 불공정하고 부정한 거래 관행을 단속하는 기관이다. FTC의 소관은 한정적이다. 정부 기관, 은행, 비영리 단체 등은 FTC의 관할 밖이다. 하지만 FTC는 기업이 자신들이 판매하는 제품의 기능을 잘못 전달하는 경우 개입할 수 있다. 이 경우에는 안면 인식 시스템, 예측 감시 알고리즘 및 의료 도구들이 편향되지 않았다고 주장하는 기업들이 이에 해당한다. 칼로는 이에 대해 “FTC는 권한이 있는 사안에 대해서는 강력한 힘을 행사할 수 있다”라고 말한다.

조치를 취하다

FTC는 이 힘을 항상 사용하려 했던 것은 아니다. FTC는 1980-1990년대에 너무 공격적이라는 비판 때문에 한발 뒤로 물러난 뒤로부터, 특히 기술 기업들 상대로 분쟁을 줄였다. 하지만 이런 방침은 곧 변할 것으로 보인다.

블로그 포스트에서 FTC는 기업들에게 AI에 대한 주장은 “진실하고, 기만이 없으며, 증거에 의해 뒷받침되어야 한다”고 밝혔다.

“예시로, AI 개발자가 클라이언트에게 ‘100% 편향 없는 채용 결정’을 제공할 것이라고 했지만 알고리즘은 인종 또는 성 다양성이 결여된 데이터를 사용해 만들어졌다고 하자. 이는 결과적으로 속임수와 차별, 그리고 FTC의 법 집행으로 이어질 수 있다.”

FTC의 조치는 의회에서 양당의 지지를 받고 있다. 의원들은 FTC 위원들에게 무엇을 더 할 수 있고, 그러기 위해 무엇이 필요한지 등의 질문을 하였다. 칼로는 “배의 돛이 바람을 받고 있다”고 말했다.

한편, EU의 AI 규제는 분명한 선을 그었지만 어디까지나 지침일 뿐이다. 2018년 도입된 GDPR 규정과 마찬가지로 이를 어떻게 이행할지는 EU 개별 회원국들의 몫이 될 것이다. 또한, 표현 중 일부는 애매모호하고 해석의 여지가 있다. 심리적 피해를 끼칠 수 있는, “사람의 행동을 실제로 왜곡하기 위해 무의식을 공략하는 기술”을 반대하는 조항을 예시로 들어보자. 이 조항은 소셜 미디어 뉴스 피드 및 타깃 광고에도 해당될까? 유니버시티칼리지런던(University College London)의 마이클 빌(Michael Veale) 교수에 의하면, “로비스트들이 광고 및 추천 시스템을 명시적으로 배제하려고 노력할 것을 예상할 수 있다”고 한다.

세부 사항들과 정의를 규정하기 위해서는 수년간의 법적 과정이 따를 것이다. 빌은 “이 또한 조사, 고소, 벌금, 항소, 반대항고, 유럽사법재판소 회부의 매우 긴 과정을 거친 후의 일일 것”이라며 “그리고 다시 이 과정을 또 거칠 것”이라고 말했다. 하지만 FTC는 소관이 한정되었음에도 불구하고 지금 당장이라도 행동할 수 있는 자치권이 있다.

FTC와 유럽 집행위원회 모두에게 해당하는 큰 제약이 있는데, 바로 정부의 유해한 AI 기술 사용을 억제할 수 없다는 것이다. 그 예시로, EU의 규제에는 국가에 의한 감시에 대한 유예 조항이 포함되어 있다. 또한, FTC는 오직 기업들만 처벌할 권한이 있다. FTC는 민간 기업들이 사법기관에 편향된 소프트웨어를 판매하는 것을 중지시킴으로써 개입할 수는 있다. 하지만 이러한 판매가 비밀리에 이루어지는 것과 정부 기관이 기술을 확보할 때 신고해야 하는 품목에 대한 규정이 없다는 것을 고려한다면, 이를 도입하는 것은 어려울 것이다.

그럼에도 불구하고 이번 발표는 지금까지 거의 감독 없이 개발 및 배치되었던 AI 기술의 심각한 규제에 대한 전 세계적인 변화를 반영하고 있다. 윤리 감시단은 수년간 불공정하고 해로운 AI 관행에 대해 규제를 주장해 왔다.

EU는 이 규제들이 인간의 자유 보호를 위한 기존 조치들에 AI를 편입시킬 것으로 본다. EU 집행위원장 우르술라 폰 데르 라인(Ursula von der Leyen)은 발표 직전의 연설에서 “인공지능은 사람에게 봉사해야 하고, 그렇기 때문에 인공지능은 항상 사람들의 권리에 따라야 한다”고 말했다.

규제는 AI의 이미지 문제를 해결하는 것에도 도움이 될 것이다. 우르술라는 “우리는 시민들이 AI를 안심하고 사용할 수 있도록 격려하고 싶다”라고 말했다.

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.