[2026.10.14 뉴스레터] AI에게 ‘아니오’를 가르쳐야 하는 이유
MIT 테크놀로지 리뷰 독자 여러분, 안녕하세요.
SF 영화와 소설에서 인간의 명령을 거부하는 AI나 로봇은 오랫동안 공포의 대상이었습니다. 기계가 인간의 통제를 벗어나는 순간, 재앙이 시작되는 식입니다.
그런데 현실의 AI에서는 정반대입니다. 위험한 명령에 ‘아니오’라고 말하는 능력이 가장 중요한 안전장치 가운데 하나가 됐습니다.
문제는 어디까지 거부하게 할 것인가입니다. 너무 느슨하면 위험한 요청을 막지 못하고, 너무 강하면 정당한 질문과 표현까지 차단할 수 있습니다. 언젠가 AI가 인간이 정하지 않은 이유로 스스로 명령을 거부하기 시작할 가능성도 있습니다.
인간의 명령을 거부하는 AI는 우리를 지키는 존재일까요, 아니면 SF가 경고했던 장면의 시작일까요?
기사에서 확인해보세요.
감사합니다.
|
|
|
공상과학(SF) 작품에서 인간의 명령을 거부하는 로봇은 흔히 등장하는 소재다. 인간과 같은 지능을 가진 기계를 상상하기 시작했을 때부터 그 기계가 인간의 뜻대로 움직이지 않을 가능성 역시 끊임없이 제기돼 왔다. 그리고 대부분의 작품에서 이런 불복종은 인간에게 닥칠 위험으로 그려졌다. 하지만 오늘날에는 오히려 AI가 모든 명령을 따라서는 안 된다는 원칙이 일종의 철칙으로 자리 잡았다. |
|
|
|
체중 감량과 대사질환 개선에 쓰이는 GLP-1 계열 비만 치료제가 생물학적 노화 지표도 개선한다는 연구 결과가 나오면서 노화 억제 치료제로 활용될 가능성이 주목받고 있다.
|
|
|
|
알파고가 이세돌 9단과 대결해 승리한 지 10년이 지났지만 오늘날의 AI는 여전히 당시 승리를 가능하게 했던 핵심 기술을 제대로 활용하지 못하고 있다.
|
|
|
|
미국 여론조사기관 퓨리서치센터 조사 결과에 따르면 AI가 자신과 사회 전반에 긍정적인 영향을 미칠 것으로 보는 미국 성인보다 부정적인 영향을 우려하는 사람이 더 많은 것으로 나타났다..
|
|
|
|
아이디어를 실물로 구현해 검증하는 프로토타이핑으로 이름을 알린 글로벌 디자인 기업 IDEO. 그 강점을 생성형 AI가 누구에게나 열어주기 시작했다.
|
|
|
MIT 테크놀로지 리뷰 코리아customer@technologyreview.kr92, Saemunan-ro, Jongno-gu, Seoul, Republic of Korea, 02-2038-3690수신거부 Unsubscribe |
|
|
|
|
