모델 선택에서 토큰 단가만 보는 것은 착시다. Opus 4.5가 Sonnet 4.5보다 단가가 높아도, few-shot으로 한 번에 일을 해내면 Sonnet이 길게 rollout하며 시행착오를 반복하는 것보다 총비용이 싸질 수 있다. 비용의 실제 단위는 토큰이 아니라 ‘완수된 과제’다.
근거
“Sonnet 4.5보다 더 쌀 수 있는 게 Opus 4.5가 few-shot으로, 몇 번 더 안 가고도 Sonnet이 오래 rollout하는 것보다도 성능이 높을 수 있고 그게 더 싸다.” — 최승준
이 경제학은 지속 학습 논의와 같은 뿌리다. 김성현의 지적처럼 사람은 뜨거운 것에 손을 한 번 대보면 다시는 대지 않는다 — 시행착오 횟수 자체가 지능의 척도다. 지속 학습이 가치 있으려면 여러 번의 시행착오가 아니라 한두 번의 경험으로 배워야 하고, 같은 논리로 에이전트 비용 계산도 “시간당 토큰”이 아니라 “과제당 시도 횟수”로 바뀌어야 한다.
실무 함의: 에이전트 파이프라인에서 값싼 모델로 재시도 루프를 도는 설계보다, 비싼 모델로 첫 시도 성공률을 높이는 설계가 총비용에서 이길 수 있다. 벤치마크 점수가 아니라 완수까지의 총 토큰으로 모델을 비교해야 한다.
연결된 생각
- 20260606-continual-learning — 샘플 효율성은 지속 학습의 가치를 결정하는 핵심 변수다
- 20260707-frontier-ai-needs-priming-not-automation — 첫 시도 성공률은 모델만이 아니라 프라이밍 등 사용 기술로도 올라간다
출처
- 📎 클리핑: 20260707-ep78-ko-transcript