불확실성을 도구로: AI 의료 진단의 새로운 접근법
문제의식
에피소드 90은 AI 의료 진단의 한계를 이야기하지만, 역설적으로 불확실성 자체가 강력한 진단 도구가 될 수 있음을 시사한다.
핵심 통찰: 확률의 역발상
AI가 “이 환자는 A 질환일 확률 60%, B 질환일 확률 30%, C 질환일 확률 10%“이라고 진단할 때, 대부분의 의사는 ‘가장 높은 확률’인 A를 선택한다. 하지만 여기서 중요한 것은 확률의 분포다.
- 비약적 연결: 확률이 고르게 분포되어 있을 때(예: 33%, 33%, 34%), 오히려 더 많은 정보를 제공한다. 이는 ‘진단이 불확실하다’는 신호이며, 의사에게 추가 검사나 다른 관점이 필요함을 알린다.
- 반대로, 확률이 한쪽으로 쏠려 있을 때(예: 95%, 3%, 2%)는 의사가 자신의 판단을 의심해야 한다. AI가 너무 확신할 때, 오히려 오류 가능성이 높다는 연구 결과도 있다.
해결 방안: ‘불확실성 기반 진단 프로토콜’
- AI의 출력을 ‘단일 정답’이 아닌 ‘확률 분포’로 표시하도록 설계
- 확률 분포의 ‘엔트로피(불확실성)‘를 계산하여, 진단의 신뢰도 지표로 활용
- 의사는 AI의 확률 분포를 보고, 자신의 임상적 판단을 교차 검증하는 프로토콜을 따라야 함
일상적 적용
이 접근법은 의료뿐만 아니라, AI가 추천하는 모든 영역(예: 넷플릭스 추천, 주식 투자)에 적용된다. AI가 ‘이 영화를 볼 확률 90%‘라고 추천할 때, 오히려 그 추천을 의심해보는 것이 더 나은 선택일 수 있다.