AGI(범용 인공지능)의 도달이 임박한 시점에서, 수학, 과학, 코딩처럼 기계가 스스로 정답을 확인하고 학습 데이터를 무한 생성할 수 있는 ‘검증 가능한 영역’은 빅테크의 전유물이 될 것이다. 스타트업이 살아남기 위해서는 역설적으로 기계가 스스로 정답을 알 수 없어 인간의 개입이 필수적인 ‘검증 불가능한 도메인’으로 비즈니스를 옮겨야 한다.

근거

빅테크의 프론티어 모델들은 ‘Test-time Compute’와 ‘Verifiable Reward Function’을 통해 스스로 사고하고 데이터를 정제하는 능력을 갖췄다. 이는 인간이 제공하는 데이터의 양적 한계를 뛰어넘었음을 의미한다. 따라서 인간의 주관적 취향이나 복잡한 물리적 환경처럼 기계가 스스로 레이블링할 수 없는 영역만이 유일한 해자로 남는다.

“AGI가 될 프런티어 모델들의 공격으로부터 어떻게 살아남아야 되는가… 검증 불가능한 영역으로 그럼 도망가면 되겠구나.”

연결된 생각

출처

클리핑 · youtu.be