인공지능이 의료 상담을 해준다면 그 조언에 따르겠는가? 인공지능 기술이 다양한 질병을 진단할 수 있다는 소식이 연일 보도되는 가운데 최근 떠오르는 질문이다. 이 질문의 기저에는 인공지능이 인간 의료 전문가보다 더 정확하고 빠르며 저렴하다는 의식이 깔려있다.

이러한 기술 중 상당수는 잘 알려진 문제점을 안고 있다. 먼저 인공지능은 제한적이고 편향된 데이터를 학습하기 때문에 백인 남성 환자에 비해 여성이나 유색인종의 경우에는 잘 작동하지 않을 때가 많다. 그뿐 아니라 이러한 시스템은 완전히 틀린 내용의 데이터를 학습하기도 한다.

또 다른 문제도 있다. 보건의료 환경에 인공지능 기술이 침투하기 시작하면서 연구자들은 ‘AI 온정적 간섭주의(AI paternalism)’가 늘고 있다고 지적한다. 의료 온정적 간섭주의 혹은 부권주의라고 불리는 문제는 의사라는 직업이 생긴 이래 계속해서 문제가 되어 왔다. 하지만 이제 의사들은 자신의 임상적 판단뿐만 아니라 환자의 직접적인 경험을 무시하면서까지 AI를 신뢰하려 할지 모른다.(번역주: 온정적 간섭주의(Paternalism)란 한 개인에게 도움이 된다는 명목 하에 다른 주체가 그 개인을 보호 및 통제하는 행위나 입장을 말한다. 비슷한 맥락에서 의료 온정적 간섭주의는 선한 목적을 가진 의료 전문인이 환자의 자율성보다 우선하여 환자를 치료하는 것을 의미한다.)