MIT 테크놀로지 리뷰 독자 여러분, 안녕하세요.

우리는 매일 AI에게 무언가를 묻습니다. 엉뚱한 답을 내놓는 환각이 눈에 띄게 줄면서, AI의 답은 점점 사실처럼 보입니다.

그런데 답이 맞더라도 그 답이 잘못된 근거에 기인하고 있다면 어떨까요? 결과가 맞다고 판단을 맡길 경우, 우리는 이 오류를 영영 발견하지 못할 것입니다. 더구나 문제가 발생할 경우에 대비해 대책을 세울 수도 없습니다.

좋은 사례가 워싱턴대 이수인 교수 연구팀이 밝힌 폐 엑스레이 판독 연구입니다. 코로나19 시기, 엑스레이로 감염을 판별하던 AI 모델들은 높은 정확도를 기록했지만, 정작 폐 병변이 아니라 사진 구석의 표식과 병원마다 다른 화질을 근거로 답을 맞히고 있었습니다.

이 교수는 자신이 개발한 SHAP 프레임워크(AI 판단의 근거를 수치로 보여주는 설명가능 AI(XAI)의 대표 기법)로 이 사실을 밝혀내며 세계적인 학자로 자리 잡았습니다.

이번 호에서는 MIT 테크놀로지 리뷰 한국팀이 이수인 교수를 직접 인터뷰했습니다. AI의 다음 경쟁력은 더 높은 성능이 아니라, 인간이 AI의 판단을 어떻게 검증할 것인가에 달려 있음을 보여주는 대화입니다.

이 교수는 AI 에이전트의 다음 단계가 '실행'을 넘어 무엇을 '발견'할 것인가의 시대가 될 것이라고 내다봅니다.

지적이고 미래를 내다보는 이 인터뷰, 일독을 권합니다.

새로운 한 주도 힘차게 시작하시길 바랍니다.

감사합니다.