fbpx
Nancy Pelosi’s replacement is ready to regulate AI

美 AI 규제론자 하원 입성…연방 차원 규제 탄력받나

첨단 AI의 위험을 규제해 온 스콧 위너 캘리포니아주 민주당 상원의원이 연방 하원에 진출하면서 AI 안전 규제와 연방 차원의 감독 체계 구축에 힘을 실을 전망이다.
📋한눈에 보는 AI 요약AI 자동 요약▶ 펼쳐보기

미국에서 AI 규제를 강하게 주장해 온 스콧 위너 의원이 연방 하원의원으로 당선되었습니다. 그는 AI가 스스로를 개선하는 속도가 너무 빨라지면 사람이 통제할 수 없게 될 수 있다고 경고하고 있습니다. 위너 의원은 연방 차원에서 AI를 감독하는 기관을 만들고, 위험할 때 AI를 멈출 수 있는 장치를 도입해야 한다고 주장합니다. 다만 트럼프 대통령이 AI 위험론에 부정적이고, 일반 국민의 관심은 데이터센터 같은 지역 문제에 집중되어 있어 연방 규제가 쉽지 않을 수 있습니다.

왜 중요한가요?

AI 기술이 매우 빠르게 발전하고 있어서, 적절한 규제가 없으면 사람이 AI를 통제하지 못하는 상황이 올 수 있기 때문입니다. 미국 연방 차원의 AI 규제는 전 세계 AI 정책의 방향에 큰 영향을 미치므로 우리 모두에게 중요합니다.

주요 용어 설명
재귀적 자기 개선 (Recursive Self-Improvement)

AI가 스스로를 더 똑똑하게 만들고, 그렇게 똑똑해진 AI가 다시 자신을 개선하는 과정이 반복되는 것을 말합니다. 마치 공부를 잘하는 학생이 더 좋은 공부법을 스스로 만들어내고, 그 공부법으로 더 빨리 성장하는 것과 비슷합니다. 이 과정이 계속되면 발전 속도가 걷잡을 수 없이 빨라질 수 있어 우려의 대상입니다.

킬 스위치 (Kill Switch)

비상 상황이 발생했을 때 AI 시스템을 즉시 멈출 수 있는 안전장치를 의미합니다. 공장에서 위험할 때 누르는 비상 정지 버튼과 같은 개념입니다. AI가 예상치 못한 위험한 행동을 할 경우 사람이 강제로 작동을 중단시킬 수 있도록 하는 것입니다.

범용인공지능 (AGI, Artificial General Intelligence)

특정 작업만 잘하는 현재의 AI와 달리, 사람처럼 다양한 분야의 문제를 스스로 이해하고 해결할 수 있는 수준의 AI를 말합니다. 지금의 AI가 한 과목만 잘하는 학생이라면, AGI는 모든 과목을 사람 수준으로 잘하는 학생에 비유할 수 있습니다.

내부고발자 보호 (Whistleblower Protection)

회사 내부에서 위험하거나 불법적인 일을 외부에 알린 직원이 해고나 불이익을 당하지 않도록 법으로 보호하는 제도입니다. AI 개발 회사에서 안전 문제를 발견한 직원이 두려움 없이 이를 사회에 알릴 수 있도록 하는 것이 목적입니다.

⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.

첨단 AI의 위험을 규제하기 위한 법안을 발의해 온 스콧 위너(Scott Wiener) 캘리포니아주 민주당 상원의원이 미국 중간선거에서 낸시 펠로시(Nancy Pelosi) 전 하원의장의 뒤를 이어 샌프란시스코를 대표하는 연방 하원의원으로 당선되면서 미국 연방 차원의 AI 규제 논의에서 중요한 역할을 할 가능성이 커졌다.

위너 의원은 그동안 캘리포니아주 의회에서 활동해 왔으나 이번 당선으로 주 의회 상원의원에서 미국 연방 의회 하원의원으로 활동 무대를 옮기게 됐다.

필자는 6일(현지시간) 위너 의원의 당선이 확정된 지 불과 몇 시간 만에 그와 인터뷰했다. 그러나 그의 관심은 이미 AI의 위험에 쏠려 있었다.

필자가 전날 AI 안전 연구 비영리단체 METR이 발표한 보고서에 관해 묻자, 위너 의원은 “매우 우려스러운 보고서”라며 AI 규제에 나설 시간이 빠르게 줄어들고 있음을 보여주는 사례로 이 보고서를 들었다. 그는 “의회가 연말 전에 단호한 조치를 취하기를 바랐지만, 그렇게 될 것 같지는 않다”고 덧붙였다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!