정의

AlphaGo가 2016년 이세돌 9단을 상대로 보여준 승리는 단순한 게임 AI의 성공이 아니라, 방대한 인간 데이터 모방 → 추론 시점 연산량 증가(Monte Carlo Tree Search) → 강화학습을 통한 자기 개선이라는 3단계 접근법을 확립했으며, 이는 현재의 추론 모델(Chain of Thought, RLVR)과 동일한 패러다임의 원형이다.

핵심 속성

  • 모방 학습 → 자기 증강: 초기에는 인간 기보로 정책망을 학습하고, 이후 강화학습(self-play)으로 스스로를 넘어섬. 현재 LLM의 SFT → RLHF/RLVR과 동일한 곡선.
  • 추론 시 연산 스케일링: AlphaGo는 MCTS를 통해 추론 단계에서 추가 연산을 투입하여 성능을 높였고, 현재는 Chain of Thought가 같은 역할을 수행함. Noam Brown은 이를 “오늘날 최전선 추론 모델을 가능하게 한 핵심 방식”이라고 지적.
  • 검증 가능한 신호(Verifiable Signal): 바둑은 승패라는 명확한 보상이 존재. AlphaZero는 이 신호만으로 인간 데이터 없이도 초인적 성능에 도달. 이 원리는 현재 Autoresearch(RLVR)에서 “메트릭이 명확한 도메인에서는 무한 반복이 성공을 보장한다”는 형태로 확장됨.
  • Bitter Lesson의 구현: CNN의 로컬 귀납 편향 대신 Transformer의 일반성, MCTS의 도메인 일반성은 “스케일이 커질수록 inductive bias를 최소화한 방법이 승리한다”는 Bitter Lesson을 재확인.

관계

  • autoresearch-paradigm — 적용: AlphaGo의 verifiable 신호 기반 자기 개선이 Autoresearch의 Ralph loop로 발전함
  • bitter-lesson-ai — 상위개념: AlphaGo와 Transformer 모두 귀납 편향을 최소화하고 스케일에 의존하는 전략을 취함
  • transformer-scaling — 연장: Transformer는 Attention만으로 CNN보다 scale에 더 잘 적응했고, 이는 AlphaGo의 MCTS가 가지는 일반성과 유사함
  • hyperaccel-ai-semiconductor — 대조: 추론 칩에서 HBM 대신 LPDDR을 사용하는 HyperAccel의 접근은 “비싼 메모리를 줄여도 verifiable한 성능을 확보할 수 있다”는 반대 방향의 최적화

인용

“오늘날 최전선 추론 모델들을 가능하게 한 핵심 방식은 놀랍게도 AlphaGo와 비슷하다. 방대한 양의 인간 데이터를 모방하고, 더 나은 추론을 위해 추론 시점에 연산량을 늘리고(당시에는 MCTS, 오늘날에는 Chain of Thought), 강화학습을 사용해 단순한 모방을 넘어선다.” — Noam Brown, 2026

출처

클리핑 · youtube.com