AI 에이전트의 거버넌스는 자연어 정책(Rule)만으로는 부족하다. Rule은 AI에게 가이드를 주지만 준수를 보장하지는 못한다. 진정한 안전망은 AI의 실행 직전 단계에서 코드로 강제되는 ‘Hook’이며, 이 둘은 상호 보완적으로 작동해야 한다.
근거
Rule은 “설명 가능성”을 제공하고, Hook은 “강제성”을 제공한다. 예를 들어, 개인정보(PII) 마스킹이나 스캔 용량 제한 등은 AI의 판단에 맡기기보다 코드 레벨에서 차단(Hook)하는 것이 훨씬 안전하다. 마이리얼트립은 Role, Gate, Rule, Hook의 4중 안전망을 통해 이를 실현했다.
Rule이 설명 가능한 안전망이라면, Hook은 실행을 멈추는 안전망이에요. 둘 다 필요합니다. SELECT만 허용, 100GB scan cap, PII 자동 마스킹까지 코드 레벨에서 강제돼요.
연결된 생각
- 20260611-ai-reliability-comes-from-engineering-not-prompts — Hook 또한 엔지니어링 루프의 일부로 관리되어야 함
- 20260611-deterministic-mapping-over-llm-memory — 명시적 지식이 Rule의 근거가 되고, Hook이 그 실행을 담보함