AI 의료에서 책임의 확산: ‘AI가 그렇게 말했어요’의 위험성
문제의식
에피소드 90에서 인상 깊었던 부분은, AI 진단이 도입되면서 의사들이 ‘AI가 그렇게 진단했으니까’ 라는 말로 자신의 판단 책임을 회피하는 현상이다.
핵심 통찰: 책임의 무한 후퇴
AI가 진단을 내리면, 의사는 “AI가 그렇게 말했다”고 말하고, AI 개발자는 “데이터가 그렇게 학습했다”고 말하고, 데이터 과학자는 “알고리즘의 한계다”고 말한다. 이는 책임의 무한 후퇴(infinite regress of responsibility) 를 만든다.
- 숨겨진 의도: 이는 단순한 법적 문제가 아니다. 의료라는 신뢰 기반 관계의 본질을 파괴한다. 환자는 더 이상 의사를 신뢰하지 않고, ‘AI가 틀렸다’는 시스템을 신뢰하게 된다.
해결 방안: ‘단일 책임 지점’의 설정
- AI 시스템은 진단의 ‘보조 도구’로만 법적으로 정의되어야 한다.
- 최종 진단과 책임은 항상 단일 의사에게 귀속되어야 한다.
- AI가 오진했을 경우, 의사가 AI의 판단을 ‘맹목적으로’ 따랐는지, ‘비판적으로 검토’했는지를 평가하는 기준이 필요하다.
일상적 적용
이 원칙은 의료뿐만 아니라, AI가 권고하는 모든 영역(법률, 금융, 교육)에 적용된다. 우리는 AI의 권고를 ‘참고’할 수는 있지만, 최종 결정의 책임은 항상 인간에게 있다는 원칙을 지켜야 한다.