‘AI 정책’이 새로운 전환점을 맞이한 듯하다. 수년 동안 미국의 입법자와 테크 기업들은 엄격한 기술 규제 도입을 꺼리거나 반대하지는 않았지만, 이제 둘 다 규제를 도입해 달라고 간청하기 시작했다.

지난주 5월 16일(현지 시각) 오픈AI의 CEO 샘 올트먼은 미국 상원에서 열린 청문회에 출석해 AI 언어모델의 위험성과 잠재력에 관해 이야기했다. 올트먼은 다수의 상원의원과 함께 인공지능에 대한 국제 표준을 제정할 것을 요청했다. 그는 또한 미국이 기술을 규제하고, 미 식품의약국(FDA)와 같은 기관을 신설하여 AI를 규제할 것을 촉구했다.

필자처럼 AI 정책을 파고드는 사람에게 이번 청문회는 고무적이기도 하고 실망스럽기도 했다. 고무적이었던 점은 논의가 미온적인 자율 규제 촉진에서 벗어나 실제 기업에 책임을 물을 수 있는 규정으로 진전되었다는 것이다. 반면 실망스러웠던 점은 이번 논의가 마치 지난 5년간 진행되었던 AI 정책에 대한 논의를 잊은 것 같다는 것이다.

이런 생각을 하는 사람은 나 혼자만이 아니다.

미국 조지 워싱턴 대학교 데이터 민주주의 및 정책 연구소에서 일하는 의회 직원 출신 정책 연구원인 애나 렌하트(Anna Lenhart)는 “미 의회가 원점에서 시작하자고 제안하는 것은 인공지능 업계가 가장 좋아하는 시나리오를 그리고 있다. 즉 이들은 “의회가 너무 뒤처져 있고 기술을 이해하지 못하는데 어떻게 우리를 규제할 수 있겠는가?’ 생각할 것이다”라고 말한다.

실제로 2021년 1월부터 2023년 1월까지 진행된 회기 동안 정치인들은 수많은 AI 관련 법안을 발의했다. 렌하트는 이 기간 제정된 모든 AI 법안을 깔끔하게 정리했다. 정리한 목록에는 인공지능의 위험 평가부터 투명성, 데이터 보호에 이르는 모든 내용이 포함되어 있었다. 이 중 어느 것도 대통령의 책상 위에 오르지는 못했지만, (많은 사람에게는 두렵기까지 한) 흥미를 불러일으켰기 때문에 새로운 생성형 AI 도구들은 미 정부의 주목을 끌었다. 렌하트는 이 법안 중 일부가 어떤 형태로든 개선되어 재등장할 것이라 예상한다.

우리가 주목해야 할 몇 가지 법안을 소개한다. 

알고리즘 책임법안(Algorithmic Accountability Act)

챗GPT 출시 이전인 2022년, 미 의회 및 상원의 민주당 의원들이 발의한 법안으로 자동 의사 결정 시스템의 실질적인 유해성을 해결하기 위한 것이다. 이러한 시스템은 사람들의 진통제 처방이나 모기지 신청을 거부하는 등의 문제를 일으킬 수 있다. 

렌하트는 이 법안이 통과되면 기업들이 알고리즘 영향 및 위험 평가를 실시해야 한다고 말한다. 또한 미 연방거래위원회(FTC)가 AI 관련 규정의 규제 및 집행을 담당하게 하고, 조직 규모를 확대하게 할 것이다. 

미국 개인정보 보호법안(American Data Privacy Protection Act)

미국 개인정보 보호법안(ADPPA)은 초당적 법안으로 기업이 데이터를 수집 및 처리하는 방식을 규제하기 위한 시도였다. 이 법안은 지난해 로 대 웨이드(Roe v. Wade) 판결이 폐기된 후 여성이 개인 건강 데이터를 안전하게 보호할 방안으로 부각되며 추진력을 크게 얻었지만, 회기 내 통과되지 못했다. 생성형 AI의 위험을 둘러싼 논의는 이 법안을 지난해보다 더 시급히 처리되어야 할 법안으로 부상시킬 수 있다. ADPPA는 생성형 AI 기업이 차별적인 방식으로 데이터를 수집, 처리 또는 전송하는 것을 금지한다. 또한 사용자에게 기업의 개인정보 사용 방식에 더 많은 통제권을 줄 수 있다.

인공지능국(AI agency) 신설

청문회에서 올트먼과 몇몇 상원의원은 AI를 규제할 새로운 미국 내 기관의 필요성을 제시했다. 렌하트는 인공지능 기술을 규제하기 위해서는 미국 정부에 더 많은 전문 기술 지식과 자원이 필요하다고 말한다. 더 중요한 것은 새로운 규제기관이든 기존 규제기관이든 간에 법을 집행할 수 있는 권한이 필요하다는 점이다. 

렌하트는 “규제 기관을 만들어 놓고 아무 권한도 주지 않는 일은 흔하다”고 말한다. 

민주당은 디지털 플랫폼 위원회 법안, 데이터 보호법안, 온라인 개인정보 보호법안 등을 통해 새로운 보호 장치를 마련하고자 했다. 하지만 초당적 지지를 얻지 못한 대부분의 미국 법안과 마찬가지로 이 시도도 실패로 돌아갔다. 

향후 단계는? 

인공지능 규제를 위한 또 다른 기술 중심 기관이 설립될 가능성이 높다. 공화당의 린지 그레이엄(Lindsey Graham) 상원의원과 민주당의 엘리자베스 워런(Elizabeth Warren) 의원은 소셜 미디어 기업의 단속 및 허가 권한을 가진 새로운 디지털 규제기관을 설립하기 위해 협력하고 있다. 

민주당의 척 슈머(Chuck Schumer) 상원의원도 AI의 유해성을 구체적으로 지적하는 새로운 법안을 발의하기 위해 의원들을 결집하고 있다. 그는 책임감 있는 AI 개발을 촉진하기 위한 안전장치를 마련하는 포괄적 AI 법안을 위해 초당적 지지를 모으고 있다. 이 법안이 발의되면 기업은 기술 출시 전 외부 전문가들에게 감사받고, 사용자 및 정부에 자사의 AI 시스템에 대한 정보를 더 많이 제공해야 할 수도 있다. 

렌하트는 올트먼이 상원 법사위원회를 설득한 것으로 보이지만, 포괄적인 접근 방식의 AI 규제안이 법으로 제정되려면 상원 및 하원의 상업위원회 위원들이 모두 이에 동참해야 한다고 말한다. 

그리고 이 모든 절차는 사람들이 생성형 AI에 대한 흥미를 잃기 전에 이뤄져야 한다. 

렌하트는 “까다로울 순 있지만, 무엇이든 가능하다”고 말했다.