프롬프트로 작성된 안전 가이드라인은 모델의 확률적 특성 때문에 언제든 뚫릴 수 있다. 진정한 의미의 AI 안전망은 모델 외부의 코드 레벨에서 작동해야 한다. 마이리얼트립이 도입한 ‘Hook’ 개념은 실행 직전에 물리적으로 코드를 차단하는 장치다. SELECT 쿼리만 허용하거나 데이터 스캔 용량을 제한하는 등의 행위는 LLM의 판단에 맡기지 않고 하드코딩된 로직으로 강제한다. ‘설명 가능한 안전망(Rule)‘과 ‘멈추는 안전망(Hook)‘의 결합이야말로 비결정적인 AI를 실무에 투입하기 위한 최종 관문이다.
근거
PII 마스킹이나 스캔 캡(Scan cap) 같은 보안 및 비용 통제 요소는 프롬프트 엔지니어링의 영역이 아닌 인프라와 코드의 영역이다.
“Rule이 설명 가능한 안전망이라면, Hook은 실행을 멈추는 안전망이에요. 둘 다 필요합니다. SELECT만 허용, 100GB scan cap, PII 자동 마스킹까지 코드 레벨에서 강제돼요.”
연결된 생각
- 20260515-deterministic-metric-registry — 훅이 참조하는 결정적 기준
- 20260515-myrealtrip-data-agent-architecture — 훅이 배치된 안전망 4계층 구조