루먼 초두리(Rumman Chowdhury)의 업무에는 많은 ‘통역’ 작업이 따랐다. 초두리는 컨설팅 기업 액센츄어에서 ‘책임있는 AI’ 분야를 총괄하면서 자신들이 사용하는 AI 모델을 이해하는데 어려움을 겪는 고객들을 상대하곤 했다. 고객들은 자사 AI 모델이 해야 할 일을 하고 있는지 어떻게 파악했을까? 이런 혼란이 자주 발생하는 이유 중 하나는 사내 데이터 과학자(data scientists)와 변호사, 경영진이 서로 다른 언어를 사용하는 것 같았기 때문이다. 초두리의 팀은 모든 당사자가 서로 뜻을 통하게 할 중재자 역할을 맡았다. 이는, 아무리 좋게 말해도 비효율적이었다. 모델 하나 평가하는 데만 몇 달이 걸릴 수 있었다.

그래서 2020년 말 초두리는 액센츄어를 떠나 패리티 AI(Parity AI)를 창업했다. 이 회사는 이 같은 과정을 몇 주로 단축하는 도구들을 제공한다. 먼저 고객이 모델의 어떤 점을 검증하고 싶은지 – 편향성 문제인지, 규제 준수 문제인지 – 를 파악하는 데 도움을 준 다음, 문제 해결 방안을 자문한다.