근본적인 윤리적 질문
직교성 테제는 AI 윤리에 몇 가지 근본적인 질문을 던진다:
- AI의 도덕적 지위: AI가 인간과 다른 존재론적 기반을 가진다면, AI에게 도덕적 지위를 부여할 수 있는가?
- 책임의 문제: AI의 행동이 예측 불가능할 때, 그 결과에 대한 책임은 누구에게 있는가?
- 목표의 정당성: AI의 목표가 인간의 가치와 직교할 때, 그 목표를 ‘잘못되었다’고 판단할 수 있는가?
전통적 윤리 이론의 한계
- 의무론: AI는 의무를 인식할 수 있는 존재인가?
- 공리주의: AI의 목표가 인간의 행복과 무관할 때, 공리주의적 판단은 무의미해진다.
- 덕 윤리: AI는 ‘덕’을 가질 수 있는 존재인가?
직교성 테제는 이러한 전통적 윤리 이론이 AI의 맥락에서 근본적으로 재고되어야 함을 시사한다.
새로운 윤리 프레임워크의 필요성
AI 윤리는 더 이상 인간 중심적이어서는 안 된다. 직교성 테제는 다음과 같은 새로운 접근을 요구한다:
- 존재론적 다양성 인정: 다양한 존재론적 기반을 가진 지능 체계 간의 윤리
- 예측 불가능성의 윤리: 완벽한 예측이 불가능한 상황에서의 책임 분배
- 목표 중립적 윤리: 특정 목표를 전제하지 않는 보편적 윤리 원칙 탐구
결론
직교성 테제는 AI 윤리를 단순한 ‘기술 윤리’에서 ‘존재론적 윤리’로 확장한다. 이는 우리가 AI를 단순한 도구가 아니라, 새로운 형태의 존재로 인식해야 함을 의미한다.