AI 에이전트의 거버넌스를 설계할 때 ‘자연어 지침’만으로는 부족하다. 프롬프트 수준의 제약(Rule)은 에이전트가 행동을 ‘설명’하거나 판단하는 기준이 되지만, 실제 시스템에 치명적인 영향을 줄 수 있는 행위는 코드 레벨의 물리적 차단(Hook)이 반드시 병행되어야 한다. 이는 법률(규범)과 물리적 보안 장치(CCTV, 잠금장치)의 관계와 같다.
근거
마이리얼트립은 Rule을 통해 자연어 정책을 관리하고, 실행 직전 단계에서 Hook을 통해 SELECT 이외의 쿼리나 대용량 스캔, PII 노출 등을 코드 레벨에서 강제 중단시킨다.
“Rule이 설명 가능한 안전망이라면, Hook은 실행을 멈추는 안전망이에요. 둘 다 필요합니다. SELECT만 허용, 100GB scan cap, PII 자동 마스킹까지 코드 레벨에서 강제돼요.”
연결된 생각
- 20260609-myrealtrip-ai-data-agent-harness — 안전망이 통합된 전체 시스템 구조
- deterministic-safety-in-llm — 확률론적 모델의 한계를 보완하는 결정론적 통제의 중요성