의도 명세 언어(ISL) 설계를 위한 초고
동기
ai-intention-gap 문제를 해결하기 위한 실용적 접근법으로, 인간의 의도를 AI가 더 정확히 해석할 수 있도록 돕는 중간 표현 언어(Intermediate Representation Language) 가 필요하다. 이 언어를 ‘의도 명세 언어(Intention Specification Language, ISL)‘라고 명명한다.
핵심 설계 원칙
1. 다층적 의도 구조
의도는 단일 층위가 아니라 다음과 같은 계층 구조를 가진다:
- 표면 의도(Surface Intention): 언어적으로 명시된 요청
- 실질 의도(Substantive Intention): 요청의 실제 목적
- 맥락 의도(Contextual Intention): 요청이 발생한 상황적 배경
- 가치 의도(Value Intention): 요청에 내재된 가치 판단
2. 명시적 불확실성 마커
AI가 의도를 완전히 이해하지 못했을 때, 이를 명시적으로 표시하는 마커가 필요하다. 예: [INTENTION_AMBIGUITY: 0.7] 형태로 확률적 불확실성을 표현.
3. 피드백 루프 통합
의도 전달 후 AI의 해석을 사용자가 검증하고 수정할 수 있는 양방향 피드백 채널을 언어 설계에 포함.