‘알고리즘(algorithm)’을 일종의 의사결정 체계로 묘사하는 것은 인간의 책임(accountability)이 희석하기 위한 의도에서 비롯된 것일 때가 많다. 많은 이들이 알고리즘이라는 용어에서 실증적 증거나 데이터에 객관적인 기반을 둔 규칙의 집합체를 떠올린다. 인간의 지적 능력으로는 시스템 내부의 작동 원리를 이해하거나 현실에서의 행동을 예측하기가 지극히 힘든 복잡한 시스템을 떠올리기도 한다.

이 같은 생각이 과연 맞을까? 꼭 그렇지는 않다.

작년 12월 말 스탠포드대학 병원(Stanford Medical Center)에서 코로나19 백신접종 순서를 둘러싼 논란이 있었다. 비난의 화살은 일선 의료진보다 고위 행정직에 우선권을 준 ‘알고리즘’에 돌아갔다. 당시 본지를 통해서도 보도되었지만, 병원측은 윤리 전문가의 도움을 받아 설계한 “아주 복잡한 알고리즘이 제 기능을 하지 못한 것이 분명하다”고 밝혔다. 이 같은 설명을 두고 당시 많은 이들이 AI 또는 머신러닝과 관련된 것으로 생각했지만, 사실 병원이 의미한 것은 ‘의료 알고리즘(medical algorithm)이었다. 이는 우리가 흔히 생각하는 알고리즘과는 기능적으로 다른 것으로, 의료 알고리즘은 사람으로 구성된 의료위원회가 정하는 매우 단순한 일종의 공식 또는 의사결정 모형을 말한다.