“일을 돕는 AI”와 “일을 하는 AI”의 차이는 모델의 지능이 아니다. 결과를 검토 없이 받아들일 수 있는가 — 즉 위임(delegation)이 가능한가의 문제다. 마이리얼트립의 하루 500건 처리가 보여주는 것은, 이 위임의 문턱을 넘게 하는 것이 더 똑똑한 모델이 아니라 흐름(Harness)·기준(Knowledge)·신뢰(Hook과 test)라는 인프라 3층이라는 점이다.
이것은 인간 조직의 위임 구조와 정확히 동형이다. 신입에게 일을 맡길 수 있으려면 업무 프로세스(흐름), 용어와 기준의 합의(기준), 그리고 사고를 막는 권한 통제와 검증 절차(신뢰)가 필요하다. 셋 중 하나라도 없으면 관리자가 모든 결과물을 재검토해야 하고, 그 순간 위임은 보조로 강등된다. AI Agent 도입이 “챗봇 데모”에서 멈추는 조직과 프로덕션까지 가는 조직의 차이도 여기서 갈린다 — 모델 선택이 아니라 신뢰 인프라에 대한 투자 여부다.
근거
Harness로 흐름을 만들고, Knowledge Layer로 기준을 만들고, Hook으로 신뢰를 만들면 일을 돕는 AI가 아니라, 일을 하는 AI를 만들게 됩니다.
안전망이 4겹(Role·Gate·Rule·Hook)인 이유도 위임 때문이다. SELECT만 허용, 100GB scan cap, PII 자동 마스킹이 코드 레벨에서 강제되기에, 인간이 실행 하나하나를 지켜보지 않아도 된다.
연결된 생각
- 20260623-working-ai-trust-stack — 이 주장의 구조화된 프레임 (wiki)
- 20260610-agent-harness-as-performance-differentiator — 성능 차별화도 같은 결론: 모델이 아니라 하네스
- 20260609-dual-safety-net-natural-language-rules-and-code-hooks — 위임을 가능하게 하는 안전망의 이중 구조