AI 규제에 대한 이슈가 뜨겁다. 오픈AI의 챗GPT가 성공을 거둔 이후, 대중의 관심은 이러한 강력한 AI 도구가 무엇을 할 수 있는지에 대한 궁금증과 걱정으로 가득 찼다. 생성형 AI(Generative AI)는 생산성 및 크리에이티브 도구 산업의 유망한 게임 체인저(game-changer)로 여겨졌지만, 이미 이 기술의 위험성이 드러나고 있다. 생성형 모델들은 잘못된 정보를 생성하는 데 사용되어 왔고, 스팸 및 사기 도구로 악용될 수 있다. 

지난 몇 주 동안 기술 기업 CEO부터 미국 상원의원, G7 회의의 지도자들까지 모두가 AI 기술에 대한 국제 표준과 더 강력한 보호 장치를 마련할 것을 촉구했다. 좋은 소식은 정책 입안자들이 처음부터 시작할 필요는 없다는 것이다. 

MIT 테크놀로지 리뷰는 인공지능 규제를 위한 6가지 국제적 시도를 분석하여 장단점을 정리하고, 각각의 시도가 얼마나 영향력이 있을지 예측한 점수를 대략적으로 매겼다. 

1. 법적 구속력이 있는 인공지능 조약

유럽평의회(The Council of Europe)는 46개 회원국을 둔 인권 기구로 법적 구속력이 있는 인공지능 조약을 마무리하고 있다. 이 조약의 서명국은 AI가 인권, 민주주의, 법치를 보호하는 방식으로 설계, 개발, 적용되도록 조치를 취해야 한다. 본 조약에는 안면 인식과 같이 인권에 위험을 초래할 수 있는 기술에 대한 모라토리엄이 포함될 가능성이 있다. 

유럽평의회 자문위원으로 벨기에 루뱅 가톨릭 대학교(KU Leuven) 법학과의 법학자이자 철학자인 나탈리 스무하(Nathalie Smuha)는 모든 것이 계획대로 진행된다면, 올해 11월까지 초안 작성이 완료될 것이라고 말한다. 

장점: 유럽평의회에는 영국과 우크라이나를 포함한 비유럽연합 국가가 많이 포함되어 있으며 미국, 캐나다, 이스라엘, 멕시코, 일본 등 다른 국가를 협상 테이블에 초대했다. 스무하는 “이것이 중요한 점”이라고 말한다. 

단점: 이 국제조약이 성사되려면 각 국가가 개별적으로 조약을 비준한 후 국내 입법 과정을 거쳐야 하므로 수 년이 소요될 수 잇다. 또한 각 국이 엄격한 조항이나 모라토리엄과 같이 마음에 들지 않는 특정 요소를 제외할 가능성도 있다. 스무하는 협상팀이 보호 강화와 가능한 한 많은 국가의 서명을 받는 일 사이에서 균형을 잡기 위해 노력하고 있다고 말한다. 

영향력 점수: 3/5

2. OECD 인공지능 원칙

2019년 경제협력개발기구(OECD) 소속 국가들은 AI 개발에 근간이 되어야 하는 몇 가지 가치를 명시한 구속력 없는 원칙을 채택하기로 합의했다. 이 원칙에 따르면 AI 시스템은 투명하고 설명 가능해야 하며, 강력하고 보안이 유지되며 안전한 방식으로 작동해야 하고, 책임 메커니즘을 갖추어야 하며, 법의 지배와 인권, 민주적 가치, 다양성을 존중하는 방식으로 설계되어야 한다. 또한 OECD 원칙에서는 AI가 경제 성장에 기여해야 한다고 명시하고 있다. 

장점: 서구 AI 정책의 일종의 헌법과 같은 이러한 원칙은 전 세계의 AI 정책 이니셔티브를 형성해왔다. 예를 들어, AI에 대한 OECD의 법적 정의는 유럽연합(EU)의 인공지능법(AI Act)에 채택될 가능성이 높다. OECD는 또한 각국의 AI 규제를 추적 및 모니터링하고 AI의 경제적 영향에 대한 연구를 수행한다. OECD는 성공 사례를 연구하고 공유하는 글로벌 AI 전문가 네트워크를 갖추고 있다. 

단점: 국제기구로서의 OECD의 역할은 규제 마련이 아닌 경제 성장 촉진이라고 스무하는 말한다. 책임감 있는 AI 플랫폼인 아밀리아(Armilla)에서 일하는 정책 책임자 필 도슨(Phil Dawson)은 이러한 상위 원칙을 실행 가능한 정책으로 전환하려면 개별 국가가 많은 노력을 기울어야 한다고 말한다. 

영향력 점수: 4/5

3. 인공지능에 대한 글로벌 파트너십(GPAI)

저스틴 트뤼도 캐나다 총리와 에마뉘엘 마크롱 프랑스 대통령이 고안한 인공지능에 대한 글로벌 파트너십(GPAI)은 AI 연구와 정보를 공유하고 책임감 있는 AI에 대한 국제적 연구협력을 촉진하며, 전 세계의 AI 정책을 알리기 위해 2020년에 설립된 국제 기구이다. 이 기구에는 아프리카, 남미, 아시아 지역의 29개국이 참여하고 있다. 

장점: GPAI의 가치는 국제 연구 및 협력을 증진할 수 있는 잠재력이다. 

단점: 일부 AI 전문가들은 AI에 대한 지식과 연구를 공유하기 위해 유엔(UN)의 기후변화에 관한 정부간 패널(Intergovernmental Panel on Climate Change)과 유사한 국제기구 신설을 촉구해왔고, GPAI는 이러한 기구가 될 수 있다. 그러나 위풍당당한 출범 이후 2023년까지 GPAI는 관심을 끌지 못하고 있으며 2023년 현재까지 아무런 결과물도 발표하지 않고 있다. 

영향력 점수: 1/5

4. 유럽연합 인공지능법(AI Act)

유럽연합의 인공지능법은 5월 11일 유럽의회 상임위원회를 통과하고 6월 본회의 표결을 앞두고 있다. 이 법안은 AI 시스템의 ‘가장 위험한’ 사용 방식을 규제하는 것을 목표로 한 포괄적 규제안이다. 유럽연합 인공지능법은 2021년 처음 제안된 것으로, 의료 및 교육과 같은 분야에서의 AI 사용을 규제할 것이다. 

장점: 이 법안은 규정을 준수하지 않는 AI 기술에 막대한 벌금을 부과하고 유럽연합 내 판매 및 사용을 금지하여 악의를 가진 행위자에게 책임을 묻고 유해한 AI의 과도한 사용을 예방할 수 있다. 또한 이 법안은 생성형 AI를 규제하고, 안면 인식과 같이 ‘용인할 수 없는’ 위험을 초래한다고 간주되는 AI 시스템을 일부 제한할 것이다. 유럽연합 인공지능법이 포괄적 AI 규제안으로는 유일하기 때문에 유럽연합은 이 분야에서 선점 효과를 누릴 수 있다. 비유럽연합 국가에 소속된 기업이 유럽연합이라는 거대한 무역권에서 사업을 하려면 이 법안을 준수하기 위해 관행을 조정해야 하므로, 유럽연합의 인공지능 법안이 전 세계의 실질적 AI 규제안이 될 가능성이 높다.

단점: 안면 인식 금지, 생성형 AI 규제에 대한 접근 방식 등 이 법안의 여러 요소에 논란의 여지가 많이 있으며, 유럽연합은 이 법안을 무력화하기 위한 기술 기업의 집중 로비에 직면할 것이다. 또한 이 법안이 유럽연합의 입법 절차를 거쳐 발효되기까지는 최소 2년이 소요될 것으로 예상된다. 

영향력 점수: 5/5

5. 기술 산업 표준 

아말리아의 필 도슨은 표준 지정 기관이 중요해질 것이라 말한다. 이들의 기술 표준이 AI 규제를 기업이 따를 수 있는 쉬운 규칙으로 변환하는, 점점 더 중요한 역할을 맡게 될 것이기 때문이다. 예를 들어, 유럽연합의 인공지능 법안이 통과되면, 특정 기술 표준을 따르는 기업들은 자동으로 이 법을 준수하게 된다. 이미 많은 AI 표준이 있고, 더 많은 표준이 만들어지고 있다. 국제표준화기구(ISO)는 AI 위험 관리, 영향 평가 및 개발 관리 방법에 있어 기업이 수행해야 하는 방법에 대한 표준을 이미 개발했다. 

장점: 이러한 표준은 기업이 복잡한 규제를 실용적 조치로 전환하는 데 도움을 준다. 도슨은 각국이 AI에 대한 개별 법안을 작성하기 시작하면서, 기술 표준이 기업이 다수의 사법권에서 통용되는 제품을 개발하는 데 도움을 줄 것이라고 말한다. 

단점: 대부분의 표준은 포괄적이며 여러 산업군에 적용된다. 따라서 기업은 특종 산업에서 사용할 수 있도록 이러한 표준을 상당히 변형해야 할 것이며, 소규모 기업에는 이 또한 큰 부담이 될 수 있다고 도슨은 말한다. 윤리적 위험을 둘러싼 규칙 초안을 기술 전문가와 엔지니어가 작성해야 하는지 여부에 대한 논쟁도 있다. 도슨은 “많은 사람은 정책 입안자들이 최선의 방안에 대한 어려운 질문을 이러한 표준 개발기관에게 떠넘길 것이라 우려하고 있다”고 말한다. 

영향력 점수: 4/5

6. 유엔(The United Nations)

193개국을 회원국으로 두고 있는 유엔(UN)은 AI에 대한 글로벌 협력을 지원하고 촉진하는 국제기구가 되고자 한다. 이를 위해 유엔은 2021년 신기술 특사를 설립했다. 지난해 유엔 산하기구인 유네스코(UNESCO)와 회원국은 자발적인 AI 윤리 프레임워크를 채택하여 회원국들이 서약하게 했다. 이 프레임워크는 AI에 대한 윤리적 영향 평가를 도입하고, 환경적 영향을 평가하며, 양성평등을 촉진하게 하고, AI가 대규모 감시에 사용되지 않도록 하는 내용을 담고 있다. 

장점: 유엔은 남반구의 저개발국가들이 AI 정책에 영향을 행사할 수 있는 유일한 국제 무대이다. 서방 국가들은 OECD 원칙을 준수하고 있지만, 유네스코의 AI 윤리 프레임워크는 AI 윤리 이슈를 처음 접하는 개발도상국에 큰 영향을 미쳤다. 특히 서방의 AI 윤리 논의에서 배제되어 왔던 중국과 러시아도 유네스코의 AI 윤리 프레임워크에 서명했다. 

단점: 중국과 러시아를 포함한 많은 국가가 AI를 사용해 사람들을 감시하고 있기 때문에 각국이 이러한 자발적 윤리 지침을 얼마나 따르고 있는지는 의문이다. 또한 유엔은 기술 분야에서 부진한 편이다. 유엔 최초의 국제 기술 공조 시도는 기술 특사로 임명된 외교관이 성희롱 스캔들에 연루되어 불과 5일 만에 직무가 정지되면서 실패로 돌아갔다. 그리고 (킬러 로봇이라고도 알려진) 치명적인 자율 드론을 규제하고자 하는 시도도 수년 간 아무 진전을 이루지 못하고 있다. 

영향력 점수: 2/5