문제의식
전통적인 진리론(Truth Theory)은 AI 시스템에 적용되기 어렵다. AI의 응답이 ‘참’인지 ‘거짓’인지 판단하는 것은 무의미하다. 왜냐하면 AI는 진리를 추구하는 존재가 아니라 유용한 패턴을 생성하기 때문이다.
제안: 실용적 환영(Pragmatic Illusion)
- 진리 조건: “이 AI 응답이 사용자의 목적에 부합하는가?”
- 환영의 정당성: 환영이 사용자의 행동을 개선하거나 이해를 증진시킨다면, 그 환영은 정당화된다.
- 경계 조건: 환영이 사용자에게 해를 끼치거나 결정을 왜곡할 때 비로소 문제가 된다.
사례 분석
- 의료 진단 AI: “이 환자는 85% 확률로 X 질환입니다”라는 응답은 통계적으로 ‘참’이지만, 임상적으로는 ‘환영’이다. 그러나 이 환영이 의사의 판단을 돕는다면 실용적으로 정당화된다.
- 교육용 AI: “고대 로마인들은 이렇게 생각했습니다”라는 응답은 역사적으로 부정확할 수 있지만, 학습자의 이해를 돕는다면 유용한 환영이다.
함의
이 이론은 AI 윤리의 새로운 기준을 제시한다. ‘진실성(truthfulness)’ 대신 ‘유용한 환영(useful illusion)‘을 평가 기준으로 삼아야 한다. 이는 기존의 AI 안전 논의를 근본적으로 재구성한다.