현상
AI 음성 복제 기술은 고인(故人)의 목소리를 복원하여 영상, 게임, 가상 비서 등에 사용할 수 있게 한다. 이는 기술적 경이로움과 동시에 깊은 윤리적 딜레마를 제기한다.
핵심 윤리적 질문
1. 동의의 문제
고인은 자신의 목소리가 사후에 이렇게 사용될 것이라는 사실에 동의할 수 없었다. 살아있을 때의 일반적인 동의(예: “내 목소리를 사용해도 좋다”)는 AI 기술의 발전 범위를 예측할 수 없었기에 무효에 가깝다.
2. 추모의 상품화
고인의 목소리를 상업적으로 사용하는 것은 추모의 상품화라는 비판을 면하기 어렵다. 이는 죽음을 자본의 영역으로 끌어들이는 행위이며, 유족의 정서적 취약성을 이용하는 것일 수 있다.
3. 기억의 왜곡
AI로 재현된 목소리는 고인의 실제 목소리일까, 아니면 살아있는 자의 기억을 기반으로 재구성된 환영일까? 이는 기억의 신뢰성과 기술적 재현의 한계에 대한 질문을 던진다.
실천적 권고
- 사전 동의 시스템 구축: 살아있을 때 자신의 음성 데이터가 사후에 어떻게 사용될지 명시할 수 있는 법적 장치 마련
- 비상업적 사용 우선: 추모, 교육, 역사 기록 등 비상업적 용도로 제한
- 명확한 표시: AI로 생성된 음성임을 명시하는 워터마크 또는 메타데이터 의무화
- 유족의 결정권: 유족에게 최종 사용 결정 권한 부여