Chatbot에서 token은 대부분 소모품이다. 매번 같은 배경을 설명하고, 같은 절차를 다시 만들고, 같은 실수를 다시 고친다. Session이 끝나면 비용도 사라진다.

Persistent agent에서는 일부 token spend가 자본으로 바뀐다. 복잡한 작업을 해결한 뒤 skill이 생기고, 반복 선호가 memory에 남고, 파일과 runbook이 축적되면 다음 작업의 탐색 비용이 줄어든다. 같은 비용을 써도 결과가 다음 실행을 더 싸게 만든다.

이것이 Hermes의 경제성이다. 단순히 월 구독료보다 싸다는 이야기가 아니라, 시간이 지날수록 작업 절차가 누적되어 marginal cost가 내려가는 구조다.

연결된 생각

출처

클리핑 · X