AI 진단의 인지적 함정: 의사가 스스로를 속이는 순간
문제의식
에피소드 90을 듣다 보면, AI 의료 진단의 가장 큰 위험은 AI의 오류가 아니라, 의사가 AI의 오류를 자신의 판단으로 착각하는 순간에 있다는 것을 깨닫게 된다.
핵심 통찰: ‘인지적 위안’의 역설
AI가 “이 환자는 감기입니다. 95% 확신합니다.”라고 말할 때, 의사는 이 AI의 확신에 안도감을 느낀다. 하지만 이 안도감은 인지적 위안(cognitive comfort) 의 함정이다. 의사는 AI의 확신에 기대어 자신의 임상적 의심을 억누르게 된다.
- 예시: AI가 흉부 X-ray에서 결절을 놓쳤을 때, 의사는 AI가 “정상”이라고 판단했기 때문에 자신의 직관적 불안을 무시한다. 결과적으로 암이 늦게 발견된다.
해결 방안: ‘의도적 불편함’ 시스템
- AI는 항상 불확실성 구간을 표시해야 한다. 예: “이 환자는 감기일 확률 95% (범위: 80-99%)”
- 의사는 AI의 판단과 무조건 반대되는 가설을 하나씩 생각해보는 습관을 가져야 한다.
- 병원 시스템은 AI와 의사의 판단이 일치할 때 경고를 보내도록 설계해야 한다. (일치가 오히려 위험할 수 있으므로)
일상적 적용
이 통찰은 의료뿐만 아니라, AI가 추천하는 모든 영역(뉴스, 쇼핑, 데이트 앱)에 적용된다. 우리는 AI가 우리의 인지적 위안을 위해 설계되었음을 인식하고, 의도적으로 불편함을 찾아야 한다.