자연어로 작성된 ‘규칙(Rule)‘은 AI에게 행동의 가이드라인을 제공하지만, 이를 반드시 준수한다는 보장은 없다. 진정한 프로덕션 수준의 신뢰는 실행 직전에 코드가 개입하여 위험한 동작을 물리적으로 차단하는 ‘훅(Hook)’ 시스템을 통해 완성된다.
근거
마이리얼트립은 Rule과 Hook을 명확히 구분하여 운영한다. Rule이 “설명 가능한 안전망”이라면, Hook은 “실행을 실제로 멈추는 안전망”이다.
SELECT만 허용, 100GB scan cap, PII 자동 마스킹까지 코드 레벨에서 강제돼요.
연결된 생각
- 20260611-myrealtrip-data-agent-architecture — Hook이 포함된 4중 안전망 레이어
- 이는 ‘Soft Constraint(LLM에 대한 지시)‘와 ‘Hard Constraint(전통적인 소프트웨어 검증)‘의 조화를 의미하며, 비결정론적인 LLM 위에 결정론적인 안전 가드레일을 씌우는 설계 패턴이다.