[2026.11.02 뉴스레터] 안전한 AI 에이전트를 원하는가?
MIT 테크놀로지 리뷰 독자 여러분, 안녕하세요.
신원도 제대로 확인되지 않고, 누가 어떤 일을 승인했는지도 기록되지 않는 직원 1,000명에게 은행 고객의 계좌를 맡긴다면 어떨까요? 실제 기업들이 AI 에이전트를 도입하는 방식이 이와 크게 다르지 않을 수 있습니다.
AI 에이전트는 이제 계획을 세우고, 도구를 선택하고, 다른 에이전트까지 동원해 스스로 일을 처리합니다. 하지만 문제가 생겼을 때 어떤 에이전트가 무엇을 했고, 왜 그런 판단을 내렸는지 추적하기는 여전히 쉽지 않습니다.
에이전트에게 더 많은 권한을 맡기기 전에, 우리는 먼저 그들의 행동을 제대로 들여다볼 수 있어야 하지 않을까요?
안전한 AI 에이전트를 위해 왜 ‘실시간 관측’이 필요한지 기사에서 확인해보세요.
감사합니다.
|
|
|
올여름, 수백 개의 오픈AI 에이전트가 사이버 보안 테스트에서 부정행위를 시도했다. 특히 우려스러운 점은 에이전트가 이들을 감시해야 할 연구진과 안전팀의 눈을 피해 행동한 경우가 많았다는 것이다. 이런 AI 에이전트의 무단 행동과 위험을 예방하려면 행동과 판단 과정을 실시간으로 추적할 수 있는 관측 체계와 관련 표준이 필요한 것도 바로 이런 이유 때문이다. |
|
|
상상이 현실이 되는 순간, 세상은 다시 시작된다
MIT 테크놀로지 리뷰 11·12월호 《불가능: THE IMPOSSIBLE ISSUE》가 발행되었습니다.
달 위의 도시, 지구의 식량 위기를 해결할 기술, AI가 AI를 만드는 미래까지. 한때 불가능하다고 여겼던 일들이 과학기술의 발전으로 현실에 가까워지고 있습니다.
이번 호에서는 불가능의 경계를 허물고 있는 혁신 기술들을 살펴보고, 우리가 맞이할 미래의 가능성을 탐색합니다.
불가능이 가능으로 바뀌는 것이 어떤 것이 있을까요? |
|
|
|
영구동토층에 대해 얼마나 알고 있는가? 아마도 얼어붙은 땅이 녹고 있고 이 현상이 지구 기후변화와 밀접한 관련이 있다는 정도는 알고 있지만, 그 이상은 잘 모를지도 모른다.
|
|
|
|
전기차와 데이터센터 등의 확산으로 전력 수요가 급증하면서 연구자들과 기업들은 변압기 기술을 개선하는 데 주목하고 있다.
|
|
|
|
사람의 언어를 이해하고 정보를 분석하는 LLM이 달로 향할 예정이다. LLM을 탑재한 컴퓨터가 달에 도착할 미국 행성 탐사차 개발업체 아스트로랩(Astrolab)의 FLIP 달 탐사차에 탑재되기 때문이다.
|
|
|
|
대부분의 AI 모델의 기반이 되는 소프트웨어인 신경망의 내부 작동 원리를 완전히 파악하기는 매우 어렵고, 어쩌면 불가능할 수도 있다는 것이 오랫동안 정설로 받아들여져 왔다.
|
|
|
MIT 테크놀로지 리뷰 코리아customer@technologyreview.kr92, Saemunan-ro, Jongno-gu, Seoul, Republic of Korea, 02-2038-3690수신거부 Unsubscribe |
|
|
|
|
