앤트로픽과 오픈AI 같은 AI 기업들은 정기 보고서를 통해 클로드와 챗GPT 등 자사 서비스가 어떻게 활용되고 있는지 공개한다. 하지만 AI 연구자들은 “기업이 공개하는 자료만으로는 실제 AI 이용 실태를 온전히 파악하기는 어렵다”고 지적한다. 기업이 어떤 데이터를 공개할지 직접 결정하기 때문이다.

스탠퍼드 신뢰할 수 있는 AI 연구소(Stanford Trustworthy AI Research Lab)의 안카 로이엘(Anka Reuel) 컴퓨터과학 박사과정 연구원은 이러한 한계를 보완하기 위한 새로운 프로젝트 ‘AI 옵저버토리(AI Observatory)’를 공동으로 이끌고 있다.

AI 옵저버토리는 이용자의 동의를 받아 수집된 기존 7개 데이터세트를 바탕으로 클로드, 제미나이 등 주요 AI 모델과 사용자가 실제로 나눈 대화를 분석하는 공개 플랫폼이다. 연구진은 생성형 AI가 실제로 어떻게 활용되는지 연구자와 정책 결정자가 독립적으로 분석할 수 있는 자료를 제공하는 것을 목표로 한다. 로이엘은 “현재 생성형 AI의 이점과 위험성을 둘러싼 중대한 결정이 매우 제한적인 데이터를 바탕으로 이뤄지고 있어 이를 독립적으로 검증할 수 있는 자료가 없다”고 말했다.