올해 초 동영상 스트리밍 서비스인 HBO 맥스에 로그인을 시도한 사용자들은 많은 곡을 듣고, 그중에서 반복 패턴이 있는 곡을 선택해야 하는 음성 문제를 풀어야 했다. 또한 필자가 최근 비즈니스 전문 소셜 미디어 플랫폼인 링크드인(LinkedIn)에 로그인하려고 하자 낯선 퍼즐을 풀어 필자가 인간임을 증명하라는 요구를 받았다. 필자는 좌우 버튼을 사용해 분홍색 개의 3D 이미지를 그것 옆에 있는 손이 가리키는 방향까지 회전시켜야 했다.

이처럼 사용자가 실제 사람인지 컴퓨터 프로그램인지를 판별해주는 기술을 캡차라고 한다. CAPTCHA는 Completely Automated Public Turing test to tell Computers and Humans Apart의 줄임말이다. 그런데 누구나 캡차가 점점 더 어려워지고 복잡해지고 있다는 걸 눈치챘을 것이다. 이렇게 된 건 우리가 캡차 테스트를 푼 이후에 생긴 일 때문이다. 다시 말해, 우리가 흐릿한 그리드에서 신호등이나 텍스트나 버스 등을 찾아 클릭하는 작업에서 얻은 데이터는 인공지능(AI) 시스템의 훈련에 사용된다. 그 결과, AI 시스템이 캡차를 풀 수 있는 능력이 향상되어 시스템을 속여 그들을 시스템이 인간으로 인식하게 만드는 것이다.

인간과 기계 사이의 ‘군비 확장 경쟁’은 얼마 전부터 이어지고 있다. 이미 2016년에 컬럼비아 대학교 연구팀이 봇 디자이너들이 쉽게 사용할 수 있는 기성품 자동 이미지 인식툴을 사용해서 구글의 화상 인증을 70%의 확률로 뚫어낼 수 있다는 걸 보여줬다.