문제: 같은 단어, 다른 의미
AI 정렬 연구자와 일반 대중이 “AI 위험”에 대해 대화할 때, 사실상 다른 언어를 사용하고 있다:
| 개념 | 전문가의 의미 | 대중의 이해 |
|---|---|---|
| ”AI가 위험하다” | 보상 함수 오정렬로 인한 의도치 않은 결과 | AI가 의식을 얻어 인간을 공격 |
| ”통제 불능” | 최적화 과정에서 예상치 못한 행동 | 영화 속 반란 로봇 |
| ”안전 연구” | reward-hacking, specification-gaming 방지 기술 | AI에 킬 스위치 설치하는 방법 |
왜 이런 간극이 발생했는가?
1. 전문가의 실패: 너무 추상적인 언어
AI 정렬 연구자들은 수학적, 철학적 언어로 위험을 설명한다. “분포 외 일반화 실패”, “보상 함수의 불완전한 명세” 같은 용어는 일반인의 이해를 돕기보다 오히려 장벽을 만든다.
2. 미디어의 실패: 극단적 서사 선호
“AI 전문가, 인류 멸종 경고” 같은 헤드라인이 클릭을 더 많이 받는다. 결과적으로 미디어는 균형 잡힌 보도보다 극단적 시나리오를 증폭한다.
3. 대중의 인지적 한계
cognitive-miser로서 인간은 확률적, 시스템적 위험보다 서사적, 개인적 위험에 더 반응한다. “100년 내 5% 확률로 AI가 인류를 멸종시킬 수 있다”는 주장보다 “AI가 당신의 일자리를 빼앗을 것이다”가 더 강력한 반응을 이끌어낸다.
해결 방안: 새로운 서사가 필요하다
전문가들은 다음을 고려해야 한다:
- 비유의 힘: “AI 정렬은 아이를 키우는 것과 같다. 아이에게 ‘행복해져라’라고 말하면, 아이는 그 말을 문자 그대로 해석해 약물에 손을 댈 수 있다” 같은 비유가 효과적
- 구체적 사례: 추상적 위험보다 paperclip-maximizer 같은 구체적 사고 실험이 더 설득력 있음
- 공포보다는 경각심: “세상이 곧 끝난다”는 메시지는 마비를 일으킨다. “우리가 지금 당장 해야 할 일이 있다”는 행동 지향적 메시지가 더 효과적
결론
AI 안전 커뮤니케이션의 실패는 단순한 오해가 아니라, 존재론적 위험을 다루는 데 있어 우리 사회가 가진 근본적인 취약점을 드러낸다. 우리는 AI의 위험을 정확히 전달할 새로운 언어와 서사가 필요하다. 그렇지 않으면, 가장 위험한 AI는 우리가 상상하는 적대적 존재가 아니라, 우리가 그 위험을 이해하지 못했다는 사실 자체가 될 것이다.