AI 시선의 구조적 불평등
개요
이 노트는 특정 스레드(clipping)에서 드러난 AI 시스템이 특정 집단을 바라보는 방식의 구조적 불평등 문제를 분석한다. 표면적으로는 기술적 오류나 편향(bias)으로 보이지만, 더 깊은 층위에서는 누가, 누구를, 어떤 목적으로 바라보는가에 대한 권력 관계가 작동하고 있음을 드러낸다.
핵심 통찰
1. 시선의 주체와 객체의 비대칭성
AI 시스템은 절대적 관찰자로 설정되는 경향이 있다. 이는 서구 근대성의 ‘전지적 시점(omniscient perspective)‘을 기술적으로 재현한다. 문제는 이 시선이 누구에게는 데이터로, 누구에게는 오류로 작동하는 이중 기준을 내재화한다는 점이다.
2. ‘오류’로 치부되는 타자의 경험
스레드에서 논의된 사례들은 공통적으로 소수 집단의 경험이 시스템에 의해 ‘노이즈’나 ‘이상치’로 처리되는 패턴을 보인다. 이는 단순한 기술적 결함이 아니라, 지식 생산의 구조에서 주변부 목소리가 체계적으로 배제되는 메커니즘과 동형적(isomorphic)이다.
3. 데이터 식민주의의 새로운 국면
AI 시선의 구조적 불평등은 데이터 식민주의(data colonialism) 의 연장선에 있다. 과거 식민 권력이 인구를 분류하고 통제했던 방식이, 이제는 알고리즘이 특정 집단을 ‘분석 대상’으로만 규정하고 ‘의사 결정 주체’로는 인정하지 않는 방식으로 재현된다.
파생 질문
- AI가 ‘공정하다’고 간주될 때, 그 기준은 누구의 시선인가?
- 기술적 ‘오류’를 줄이는 것이 곧 구조적 불평등을 해소하는 것인가, 아니면 다른 층위의 개입이 필요한가?
- ‘시선의 민주화’를 위해 어떤 대안적 설계 원칙이 가능한가?