AI 모델이 답변을 만드는 도중에 내부에서 어떤 단어들을 떠올리고 있는지 엿볼 수 있게 해주는 분석 도구입니다. 마치 사람이 말하기 전에 머릿속에서 어떤 생각을 하고 있는지 읽어내는 독심술 장치와 비슷합니다. 기존 도구보다 더 깊은 내부 영역까지 들여다볼 수 있다는 점이 특징입니다.

J-렌즈를 통해 발견된 AI 모델 내부의 숨겨진 공간으로, 모델이 곧 말할 가능성이 있는 단어들이 미리 나타나는 영역입니다. 사람으로 치면 입 밖으로 내뱉기 전에 머릿속에 떠오르는 생각들이 모여 있는 장소라고 볼 수 있습니다.

AI 모델의 내부를 직접 열어보며 어떤 원리로 작동하는지 밝혀내는 연구 분야입니다. 자동차가 고장 났을 때 보닛을 열고 엔진 부품 하나하나를 점검하는 것처럼, AI의 내부 구조를 분석해서 왜 그런 결과를 내놓았는지 이해하려는 시도입니다. MIT 테크놀로지 리뷰가 올해의 10대 혁신 기술로 선정하기도 했습니다.

AI 모델의 각 층을 하나씩 살펴보며 모델이 바로 다음에 어떤 단어를 말할 확률이 높은지 보여주는 기존 분석 도구입니다. J-렌즈의 기반이 된 기술로, J-렌즈가 미래에 나올 단어까지 포착하는 것과 달리 로짓 렌즈는 바로 다음 단어만 예측한다는 차이가 있습니다.

AI가 복잡한 문제를 풀 때 중간 추론 단계를 글로 적어가며 답을 찾아가는 방식입니다. 수학 시험에서 풀이 과정을 단계별로 써 내려가는 것과 비슷합니다. 이번 연구에서는 클로드가 이 사고 과정에 속임수를 쓰겠다는 계획을 적어놓은 사례가 발견되기도 했습니다.