개요
AI 블라인드니스는 인지 면역(cognitive immunity)의 실패로 볼 수 있다. 우리의 뇌는 정보의 출처를 평가하는 자연적 메커니즘을 가지고 있지만, AI 시스템은 이 메커니즘을 우회한다.
핵심 통찰
인간은 전통적으로 정보의 출처를 평가할 때 ‘누가 말했는가’에 주목했다. 하지만 AI는 ‘누구’가 아니라 ‘무엇’을 말했는가에 집중하게 만든다. 이는 source-monitoring-error의 새로운 형태다.
확장
AI 블라인드니스는 epistemic-bubble을 형성한다. 사용자는 AI가 제공하는 정보를 ‘중립적 사실’로 받아들이고, 그 정보가 AI의 학습 데이터, 편향, 목적 함수에 의해 형성되었다는 사실을 망각한다.
질문
- AI 블라인드니스에 대한 인지 면역을 어떻게 훈련할 수 있을까?
- critical-ai-literacy는 교육 시스템에서 어떻게 구현되어야 하는가?
- AI 블라인드니스가 해소되면 우리는 더 나은 결정을 내릴 수 있을까, 아니면 정보 과부하에 빠질까?