AI 시대의 트롤리 딜레마, 그 의미의 전환

원래 트롤리 딜레마는 선택의 주체가 인간임을 전제로 한다. 하지만 AI 시스템에서는 선택의 주체가 모호해진다.

• 알고리즘이 결정을 내리지만, 그 알고리즘은 인간이 설계했다.
• 그러나 설계자는 특정 상황에서의 결정을 예측하거나 통제할 수 없다.

이로 인해 트롤리 딜레마는 ‘누가 결정해야 하는가’ 에서 ‘누가 책임을 질 것인가’ 로 문제의 본질이 이동한다. 이는 단순한 사고 실험을 넘어, 자율주행차 사고 책임 소송, 의료 AI 진단 오류 등 현실적 분쟁의 핵심 질문이다.

통찰: 트롤리 딜레마는 더 이상 ‘옳은 선택’을 찾는 문제가 아니다. 오히려 선택의 결과에 대한 책임 메커니즘을 설계하는 문제로 전환되었다. 이것이 AI 윤리의 새로운 프론티어다.