기업이 AI에 지불하는 것은 API 요금만이 아니다. 직원의 판단, 고객 경험에서 얻은 예외 규칙, 틀린 답을 고치는 시간, 무엇이 좋은 답인지 정의하는 노력까지 전부 투입된다. 그런데 그 대화가 끝나면 전부 사라진다. 다음 대화에서 같은 설명을 처음부터 다시 해야 한다.
이건 비용 문제가 아니라 회계 문제다. 회사는 매일 학습하는데 대차대조표에는 아무것도 쌓이지 않는다. 직원 개인의 암묵지로만 남고, 그 사람이 퇴사하면 함께 나간다.
근거
기업은 AI를 사용할 때 돈만 내는 것이 아닙니다. 직원의 판단, 고객 경험, 실패를 수정하는 시간, 무엇이 좋은 답인지 정의하는 노력까지 투자합니다. 그런데 그 과정이 회사의 자산으로 남지 않는다면, 기업은 매일 학습하면서도 아무것도 축적하지 못합니다.
정구봉은 여기서 흔한 프라이버시 논의를 뒤집는다. “모델 회사가 우리 데이터로 학습하지 않는 것만으로는 충분하지 않다”는 것. 기업들이 데이터 유출 방어에만 집중하는 동안, 정작 자기 조직이 자기 경험으로부터 학습하는 구조는 아무도 만들지 않았다. 방어는 자산을 만들지 않는다.
그래서 첫 번째 처방이 private eval, correction, trace, memory, skill이다. 화려한 파인튜닝이 아니라 수정 이력을 버리지 않는 것부터다. 개인이 노트를 남기는 이유와 정확히 같은 이유로, 조직도 correction을 남겨야 한다.
연결된 생각
- 20260806-internal-ai-lab — 이 문제 인식에서 출발하는 처방
- 20260716-agent-memory-compounding-efficiency — 에이전트 메모리가 복리로 효율을 만드는 메커니즘
- 20260716-domain-knowledge-as-agent-infrastructure — CLAUDE.md·skill을 인프라로 보는 같은 발상
- 20260806-taste-is-the-only-unborrowable-moat — 축적된 correction이 결국 taste가 된다