정의

AI 발전이 ‘방법론의 혁신’ 단계를 지나 RL(강화학습)을 답지로 삼는 ‘The Second Half’에 진입하면서, 진정한 병목은 에이전트가 활동할 환경을 얼마나 효율적으로 확장하고 다양화하느냐의 문제로 전이되었다. 이는 RL 환경을 생성·관리하는 복잡성이 모델 발전 속도를 결정하는 핵심 요인임을 의미한다.

핵심 속성

  • 병목 원인: RL 환경은 에이전트가 행동·관찰·보상을 주고받는 공간이며, 소프트웨어 엔지니어링 과제에서 통합 서비스 구축으로 수준이 높아질수록 환경의 복잡성과 제작 비용이 급증.
  • 세 가지 발전 궤적:
    • 지수적 (녹색): 지속학습 문제가 해결되어 모델이 스스로 환경을 생성·평가할 경우 폭발적 발전.
    • 점근적 (파란색): 기술 혁신 없이 수작업에만 의존할 경우 복잡성이 감당 불가능해져 정체.
    • 선형적 (빨간색): 점진적인 기술 혁신(합성데이터, 일반화 능력 향상 등)이 꾸준히 복잡성을 낮춰 꾸준한 발전 유지. (실제로는 계단식 불연속 곡선)
  • 핵심 가정: ‘RL이 모든 문제의 답이다’라는 전제가 받아들여질 때, 남은 유일한 병목은 환경 스케일링.

관계

인용

“The Second Half로 오면서 우리는 방법에 대해서 답을 찾았다, 답지를 찾았으니까 이 답을 가지고 여기저기 문제에 대해서 적용하면 그만이다… 굉장히 오만하게 느껴지는 표현인데 동시에 지금 1년 동안은 굉장히 정확했다는 생각이 듭니다.”

출처

클리핑 · youtube.com