정의
Waste Tokens, Save Time은 AI 모델 비용을 아끼기보다 사람 시간을 아끼는 것을 우선하는 운영 휴리스틱이다. Naval Ravikant의 표현처럼 모델이 비싸 보여도 사람 시간보다 훨씬 싸다면, 여러 모델과 반복을 써서 빠르게 결과에 접근하는 것이 합리적일 수 있다.
핵심 논리
- Token은 절약해야 할 비용이 아니라 시간을 사는 연료가 될 수 있다.
- 중요한 지표는 token 소비량이 아니라 최종 결과물과 사람 시간 절약이다.
- 검증 가능한 문제에서는 여러 번 시도하고 마지막에 다시 검토시키는 방식이 효과적이다.
- 단, token 사용량을 생산성 지표로 삼으면 코드 줄 수로 개발자 생산성을 재는 것과 같은 오류가 생긴다.
적용 조건
이 전략은 모든 문제에 맞지 않는다. 특히 다음 조건에서 유효하다.
- 결과를 테스트나 reviewer로 검증할 수 있다.
- 실패 비용이 낮거나 sandbox에서 반복할 수 있다.
- 사람 시간이 병목이다.
- 여러 모델 또는 agent를 병렬로 던지는 비용이 충분히 낮다.
- 마지막 quality gate가 존재한다.
위험
검증 불가능한 문제에서 token만 많이 쓰면 확신 있는 noise가 늘어난다. 또한 token 순위표처럼 소비량 자체를 성과로 만들면, 조직은 output보다 burn rate를 최적화하게 된다.
연결
- 20260710-verifiable-stop-condition — token 반복이 안전하려면 완료 조건이 검증 가능해야 한다.
- 20260710-agentic-loop-taxonomy — 반복을 구조화하는 loop taxonomy.
- 20260710-software-factory-engineering — token을 써서 공장을 만드는 엔지니어링 관점.