개요
이 노트는 팟캐스트 에피소드 93회에서 논의된 AI가 인간의 정치적 중재자(mediator)로 기능할 가능성과 그로 인해 발생하는 정체성의 재구성 문제를 다룬다. 단순한 기술 도입을 넘어, AI가 민주주의의 핵심 과정인 의견 조율, 갈등 해소, 집단 지성 형성에 어떻게 개입할 수 있는지에 대한 통찰을 제공한다.
핵심 통찰: AI 중재의 역설
표면적으로는 AI가 중립적인 중재자 역할을 할 수 있다는 낙관적 전망이 제시되지만, 숨겨진 의도는 AI의 ‘중립성’ 자체가 정치적 입장이라는 점이다. AI가 인간의 편향을 제거한다는 주장은, 사실상 AI를 설계한 집단의 가치관과 세계관을 ‘보편적 합의’로 위장하는 메커니즘이 될 수 있다.
비약적 연결: AI 중재는 마치 ‘공정한 게임의 심판’을 꿈꾸는 환상과 같다. 그러나 심판의 판정 기준 자체가 게임의 규칙을 결정하듯, AI의 중재 기준은 곧 정치적 질서의 새로운 헌법이 된다.
주요 논점
1. 정체성의 위기: ‘나’는 누구인가?
AI가 의견을 조율하고 대안을 제시할 때, 인간은 자신의 정치적 정체성을 AI가 제시하는 ‘최적’의 관점과 대비하며 재정의하게 된다. 이는 **정체성의 유동화(fluidization)**를 초래하며, 고정된 이념 대신 상황에 따라 변하는 ‘유연한 정체성’이 등장하게 만든다.
2. 민주주의의 진화: 대의에서 생성으로
기존 민주주의는 대의(representation)에 기반했지만, AI 중재는 **생성적 민주주의(generative democracy)**로의 전환을 촉진한다. 더 많은 의견을 수렴하고, 더 빠르게 합의점을 찾으며, 이전에는 불가능했던 창의적 타협안을 생성할 수 있다.
3. 권력의 재분배: 전문가 vs 시민
AI 중재는 정치적 전문가 집단(정치인, 관료, 로비스트)의 권력을 약화시키고, 일반 시민의 정치 참여 비용을 획기적으로 낮춘다. 그러나 동시에 AI를 통제하는 기술 엘리트에게 새로운 권력이 집중될 위험이 있다.
통찰력: 기술적 중립성의 신화
가장 날카로운 통찰은 ‘AI 중재의 정치적 중립성’이 신화라는 점이다. 모든 알고리즘은 가치 판단을 내재화하며, 그 가치를 ‘보편적’으로 포장하는 순간 그것은 가장 강력한 정치적 도구가 된다. 이는 algorithmic-bias와 political-epistemology의 교차점에 위치한 문제다.
결론: 새로운 정치적 상상력의 필요
AI 중재는 민주주의의 위기를 해결할 도구가 아니라, 민주주의의 개념 자체를 재정의하는 계기다. 우리는 AI를 단순한 도구로 보는 시각을 넘어, AI가 인간의 정치적 존재 방식을 어떻게 변화시킬지에 대한 근본적인 질문을 던져야 한다. 이는 posthuman-politics와 technology-and-democracy 영역의 핵심 논제다.