Ilya Sutskever의 ‘연구의 시대’ 선언은 단순한 기술적 논평 이상이다. 이는 AI 산업이 ‘무조건 스케일링’이라는 단순한 공식을 넘어, 근본적인 연구 질문으로 회귀해야 한다는 신호다. 경제적 투자 규모가 너무 커져서 단순히 GPU를 더 사는 것만으로는 AGI에 도달하지 못할 것이라는 인식이 연구자들 사이에서 확산되고 있다. Noam Brown의 정리처럼, 연구자들은 AGI 도달을 위한 추가 돌파구의 필요성에 동의하고 있으며, 그 시차만 다를 뿐이다.

근거

“pre-training의 스케일링만으로 지금 수준의 모델 성능에 도달하려고 하면 그 스케일이 어마어마해야 했을 겁니다. 그런데 그 돌파구를 찾았던 게 굉장히 연구적인 접근이었던 o1하고 RL이죠. o1과 RL을 통해서 pre-training의 스케일링 이상으로 훨씬 더 커다란 성능 향상을 끌어낼 수 있었습니다.”

연결된 생각

출처

클리핑 · youtu.be