[2026.10.23 뉴스레터] '불가능'이라던 AI 블랙박스가 열리기 시작했다
MIT 테크놀로지 리뷰 독자 여러분,
안녕하세요.
고양이와 자동차, 이 둘의 공통점은 뭘까요?
못 맞히셔도 괜찮습니다. AI 연구자들도 수년간 몰랐으니까요. AI 속 뉴런 하나가 고양이 사진과 자동차 사진에 똑같이 반응하는데, 그 이유를 아무도 설명하지 못했습니다. 챗GPT가 가끔 엉뚱한 답을 내놔도 왜 그러는지 모르는 것과 같은 이유입니다. AI 내부는 풀 수 없이 얽힌 매듭, '블랙박스'로 여겨져 왔죠.
그런데 한 연구자가 이 수수께끼의 답을 찾았습니다. 지난 1년, 하루 10시간씩 뉴런만 들여다본 사람입니다. 답은 ‘V자'였습니다. 고양이의 뾰족한 얼굴 윤곽과 옆에서 본 자동차의 앞부분, 둘 다 V자 모양이었던 겁니다. 뉴런은 엉켜 있던 게 아니라 형태를 보고 있었습니다. 그는 "우리가 신경망을 잘못된 시각으로 바라보고 있었다"고 말합니다.
관점을 바꾸면 이해할 수 있다는 건데요. 이 발견을 담은 블로그 글 하나가 지금 AI 업계를 흔들고 있습니다. 물론 성급한 낙관이라는 반박도 만만치 않습니다.
여러분이 쓰는 AI가 왜 그런 답을 내놓는지 알 수 있는 날이 올까요? 기사에서 판단해보세요.
한 주 수고 많으셨습니다. 즐거운 주말 되세요.
감사합니다.
|
|
|
AI 신경망은 오랫동안 내부 작동 원리를 알 수 없는 '블랙박스'로 여겨져 왔다. 그러나 최근 굿파이어의 닉 카마라타 연구원은 신경망이 예상보다 훨씬 이해하고 통제하기 쉬울 수 있다는 낙관적 관점을 제시해 업계에 파란을 일으켰다. 그는 개별 뉴런이 반응하는 시각적 패턴의 공통점을 찾아내며 신경망 해석의 새로운 실마리를 발견했다. 학계의 평가는 기대와 회의론으로 엇갈리지만, 그의 주장은 통제 불가능할 것 같았던 AI 안전성 연구에 새로운 희망과 중요한 화두를 던지고 있다. |
|
|
|
모델 개발부터 반도체, 로봇, 산업 현장까지. 한국 AI의 경쟁력은 어디에서 만들어지고 있는가. 그 답을 찾기 위해 MIT 테크놀로지 리뷰 코리아 편집국이 지난 1년 추적 취재와 외부 전문가 심사를 거쳐 변화를 이끄는 30인을 선정했다.
|
|
|
|
수명 연장 약물부터 복제와 냉동 보존까지 반려동물과의 이별을 미루려는 기술이 발전하고 있지만 죽음과 상실을 받아들이는 일의 의미도 돌아볼 필요가 있다.
|
|
|
|
MIT 연구진은 클로드 기반 AI 에이전트가 가상 무인도에서 스스로 놀이와 도전 과제를 만들어 탐색하고, 그 경험을 바탕으로 이후 과제 수행 능력도 높일 수 있다는 사실을 확인했다.
|
|
|
|
최근 개방형 AI 모델을 어떻게 다룰 것인지를 둘러싼 논쟁은 공개적으로 진행되고 있으며, 그 결과에 막대한 경제적 이해관계가 걸려 있다.
|
|
|
|
의식과 자아를 보존하고 죽음 이후에도 이어가기 위해 과학자와 기술 전문가들이 제안한 여섯 가지 파격적인 구상을 살펴봤다.
|
|
|
MIT 테크놀로지 리뷰 코리아customer@technologyreview.kr92, Saemunan-ro, Jongno-gu, Seoul, Republic of Korea, 02-2038-3690수신거부 Unsubscribe |
|
|
|
|
