AGI 윤리 논의가 감추는 권력의 지도
날카로운 통찰
AGI 윤리 프레임워크에 대한 대부분의 논의는 ‘무엇이 옳은가’라는 규범적 질문에 집중하지만, ‘누가 무엇을 결정하는가’라는 권력의 질문을 체계적으로 회피한다.
핵심 주장
1. 윤리 위원회의 구성 편향
현재 주요 AI 기업들의 윤리 위원회는 기술적 배경과 경영진 중심으로 구성되어 있으며, 철학자, 사회학자, 노동조합 대표, 소비자 단체 등의 참여는 형식적이다. 이는 ‘윤리적 결정’이 실제로는 ‘기술-경영 복합체’의 이익을 반영하게 만든다.
2. 데이터 노동의 은폐
AGI 학습에 필요한 데이터를 생산하는 플랫폼 노동자, 저임금 데이터 라벨러, 콘텐츠 창작자의 권리는 윤리 프레임워크에서 체계적으로 배제된다. ‘공정한 AI’를 논의하면서, 그 AI를 만드는 사람들은 공정한 대우를 받지 못하는 역설.
3. 글로벌 불평등의 재생산
선진국 중심의 윤리 프레임워크는 글로벌 사우스의 맥락을 무시한 채 ‘보편적 윤리’를 가장한 신식민주의적 규범을 강요한다. 예를 들어, ‘프라이버시’에 대한 서구적 개념이 다른 문화권의 데이터 공유 관행을 무시하거나 악마화함.
한국적 함의
한국에서 이 문제는 특히 심각하다:
- 재벌 중심 구조: 윤리 논의의 주도권이 자연스럽게 대기업으로 집중
- 정부-기업 유착: 규제를 ‘기업의 자율’에 맡기는 관행이 권력 불균형을 심화
- 시민사회의 약화: AI 윤리를 감시하고 비판할 시민사회의 역량과 자원 부족
실천적 질문
- 당신이 속한 조직의 AI 윤리 결정 구조는 누구로 구성되어 있는가?
- 그 결정이 배제하는 목소리는 무엇인가?
- ‘윤리적 AI’라는 말이 실제로는 누구의 이익을 정당화하는 도구는 아닌가?