LLM의 한 레이어가 수행할 수 있는 연산량은 고정되어 있으며, 전체 레이어의 수도 유한하다. 따라서 복잡한 2차 방정식을 단 한 번의 토큰 생성(One-pass)으로 풀어내려 한다면, 모델은 알고리즘을 이해하는 대신 정답 데이터를 ‘암기(Memorization)‘하여 오버피팅될 확률이 높다. 사고의 연쇄(Chain of Thought, CoT)는 이 방대한 연산 요구량을 여러 단계의 토큰으로 쪼개어 분산시킴으로써, 모델이 각 단계에서 소화할 수 있는 수준의 ‘알고리즘적 추론’을 가능하게 한다. 즉, CoT는 친절한 설명이 아니라 성능적 한계를 극복하기 위한 구조적 필수 장치다.
근거
인터넷에 널려 있는 ‘문제-정답’ 구조의 데이터(예: Math Stack Exchange의 중간 과정 없는 답변)는 모델에게 암기를 강요한다. 하지만 강화 학습을 통해 CoT를 유도하면, 모델은 각 토큰마다 낮은 엔트로피를 유지하면서도 전체적으로는 고난도의 문제를 해결하는 ‘일반화된 알고리즘’을 학습하게 된다.
“모델이 풀 수 없는 문제에 대해서는 암기하게 되고 일반화가 불가능해진다. 단계를 쪼개주면 각 단계의 연산량은 줄어들고 모델이 풀 수 있는 문제가 되며, 비로소 일반화가 발생한다.”
연결된 생각
- 20260605-rl-based-reasoning-modeling — 연산량 분산을 통한 추론 모델링의 원리
- Inference-Time-Compute — 추론 시점의 연산 자원 투입이 지능에 미치는 영향