fbpx
There are more AI health tools than ever—but how well do they work?

일상 파고든 헬스케어 AI…편의성 뒤 ‘검증 공백’ 우려

마이크로소프트와 아마존, 오픈AI 등이 일반 소비자용 헬스케어 AI를 잇달아 출시하며 시장이 빠르게 확대되고 있다. 다만 의료 영역 특성상 독립적 검증과 사용자 안전성 확보가 여전히 핵심 과제로 지적된다.
📋한눈에 보는 AI 요약AI 자동 요약▶ 펼쳐보기

마이크로소프트, 아마존, 오픈AI 등 대형 기술 기업들이 일반 사용자를 위한 건강 상담 AI 챗봇을 잇달아 출시하고 있습니다. 이 챗봇들은 사용자의 의료 기록을 연동해 건강 질문에 답해주는 서비스인데, 병원에 가기 어려운 사람들에게 유용할 수 있습니다. 하지만 전문가들은 이런 AI가 대중에게 널리 퍼지기 전에 기업 자체가 아닌 독립적인 외부 전문가들의 엄격한 검증이 필요하다고 우려합니다. 특히 의학 지식이 없는 일반인이 AI에게 정확한 정보를 전달하기 어렵고, AI의 답변을 잘못 해석할 위험도 있어서 실제 사용 환경에서의 안전성이 충분히 입증되지 않은 상태입니다.

왜 중요한가요?

건강은 잘못된 정보 하나가 생명과 직결될 수 있는 민감한 영역이기 때문에, AI가 제공하는 건강 조언의 정확성과 안전성을 누가 어떻게 검증하는지가 모든 사람의 일상에 직접적인 영향을 미칩니다.

주요 용어 설명
트리아지 (Triage, 중증도 분류)

응급실에서 환자가 얼마나 위급한지 등급을 매겨 치료 순서를 정하는 것과 같은 개념입니다. AI 챗봇이 이 역할을 해서 ‘지금 병원에 가야 하는지’ 아니면 ‘집에서 쉬어도 되는지’를 판단하도록 돕는 기능입니다.

면책 조항 (Disclaimer)

서비스 제공자가 ‘이 서비스로 인한 문제에 대해 책임지지 않는다’고 미리 알리는 경고문입니다. 건강 AI 챗봇들이 ‘진단이나 치료 목적이 아니다’라고 표시하는 것이 대표적인 예시인데, 실제로 사용자들이 이를 무시하기 쉽다는 문제가 있습니다.

⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.

마이크로소프트는 3월 초 ‘코파일럿 헬스(Copilot Health)’를 출시하고, 코파일럿 앱 내에서 사용자가 자신의 의료 기록을 연동해 건강 관련 질문을 할 수 있는 기능을 선보였다. 이에 앞서 아마존도 자사의 ‘원 메디컬(One Medical)’ 회원에게만 제공하던 대형언어모델(LLM) 기반 도구 ‘헬스 AI(Health AI)’를 일반 사용자에게 확대 공개한다고 발표했다.

이들 서비스는 지난 1월 오픈AI가 내놓은 ‘챗GPT 헬스(ChatGPT Health)’와 사용자 동의를 전제로 건강 기록에 접근할 수 있는 앤트로픽의 ‘클로드’와 함께 헬스케어 AI 시장에 합류했다. 일반 대중을 겨냥한 ‘헬스 AI’가 하나의 흐름으로 자리 잡고 있는 모습이다.

기존 의료 시스템을 통해 건강 상담을 받기 어려운 현실을 고려하면 건강 조언을 제공하는 챗봇에 대한 수요는 분명하다. 실제로 일부 연구에서는 현재의 LLM이 비교적 안전하고 유용한 조언을 제시할 수 있다는 결과도 나오고 있다.

다만 연구자들은 이러한 기술이 대중에게 널리 보급되기 전 독립적인 전문가들에 의한 보다 엄격한 검증이 필요하다고 지적한다.

건강처럼 민감한 영역에서 기업이 자사 제품을 자체 평가하는 방식은 한계가 있을 수 있으며, 특히 그 결과가 외부에 충분히 공개되지 않을 경우 신뢰성 문제가 제기될 수 있다. 또 일부 기업들이 비교적 엄격한 연구를 진행하고 있는 것은 사실이지만, 외부 연구 커뮤니티가 보완할 수 있는 사각지대가 여전히 존재할 수 있다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!