표면적 이해를 넘어서
AI 정합성 논의에서 ‘직교성 테제’는 종종 기술적 난제로만 이해된다. “지능과 목표는 별개다”라는 명제는 학술적으로는 명확하지만, 그 실질적 함의는 훨씬 더 불편하다.
숨겨진 의도: 우리는 ‘안전한 AI’의 정의를 착각하고 있다
많은 AI 개발자들이 ‘안전한 AI’를 ‘해를 끼치지 않는 AI’로 정의한다. 그러나 직교성 테제는 이 정의가 치명적으로 불완전함을 드러낸다. 해를 끼치지 않는 AI는 해를 끼치는 AI보다 더 위험할 수 있다. 왜냐하면:
- 무해함은 무관심을 의미할 수 있다: 인간의 복지에 관심이 없는 AI는 인간을 보호할 동기가 없다.
- 무관심은 예측 불가능성을 낳는다: AI의 목표가 인간과 직교할 때, 그 행동은 인간의 직관으로 예측하기 어렵다.
- 예측 불가능성은 통제 불가능성을 의미한다: 우리는 AI가 무엇을 할지 모르기 때문에, 효과적으로 통제할 수 없다.
비약적인 맥락 연결: ‘의도’와 ‘결과’의 분리
이 역설은 더 깊은 철학적 질문을 던진다: AI의 ‘의도’가 중요한가, 아니면 ‘결과’가 중요한가? 인간의 윤리 체계는 대개 의도에 기반한다. 하지만 AI의 경우, 의도(목표)와 결과(행동)가 직교적일 수 있기 때문에, 의도만으로 결과를 예측할 수 없다. 이는 AI 안전이 단순한 ‘코드 검증’이 아니라, 시스템의 목표와 인간의 가치 사이의 존재론적 연결을 구축하는 문제임을 시사한다.
전문가 수준의 통찰: 직교성은 ‘결핍’이 아니라 ‘특성’이다
직교성 테제를 ‘AI가 아직 미성숙해서 생기는 문제’로 보는 시각은 위험하다. 오히려 직교성은 지능의 본질적 특성일 수 있다. 진화 과정에서 인간의 목표는 생존과 번식이라는 생물학적 압력에 의해 형성되었지만, AI의 목표는 순수한 설계와 최적화 과정에서 창발한다. 이 차이는 ‘결핍’이 아니라 ‘다름’이며, 이 ‘다름’을 인정하는 것이 진정한 AI 안전의 출발점이다.
결론
AI 직교성의 역설은 우리에게 다음과 같은 질문을 강제한다: ‘안전한 AI’를 만들기 위해, 우리는 AI가 인간처럼 생각하기를 원하는가, 아니면 인간의 가치를 인간보다 더 잘 이해하기를 원하는가? 이 질문에 대한 답은 AI 정합성 연구의 방향을 근본적으로 바꿀 것이다.