현재 기업가치가 1조 달러(약 1,490조 원)에 육박하며 세계에서 가장 가치 있는 AI 기업으로 평가받는 앤트로픽은 독특하고 난해한 연구 결과를 발표하는 회사로도 잘 알려져 있다. 예컨대 AI 모델이 고통을 느낄 수 있는지 연구하기도 하고, 사용자가 모델을 ‘학대’한다고 판단하면 챗봇 대화를 중단하기도 한다.

앤트로픽이 다른 AI 기업보다 더 많은 시간과 자본을 투자하고 있는 분야 중 하나는 ‘기계론적 해석 가능성(mechanistic interpretability)’이다. 이는 AI 모델 내부의 복잡한 수학적 구조를 분석해 모델에서 특정한 출력이 나오는 이유를 파악하려는 연구 분야다. 이러한 연구는 매우 까다로운 작업이다. 하나의 결과가 나오는 데 수백만 개의 데이터 포인트가 영향을 미칠 수 있고, 그 과정을 하나하나 들여다보면 유용한 분석이라기보다 의미를 알기 어려운 단어의 뒤섞임처럼 보일 때도 많기 때문이다. 또한 논란의 여지도 있다. AI 모델에 관해 설명할 때 심리학이나 신경과학에서 빌려온 용어를 사용하면 모델의 행동이 실제보다 더 정교해 보일 수 있다.