노정석은 이 에피소드에서 스타트업이 생존하기 위해 프론티어 모델과 정면승부하지 말고 ‘검증 불가능한 데이터 도메인’으로 피해야 한다고 주장한다. 수학·과학·코딩 등은 reward function이 명확하기 때문에, frontier model이 자체 생성 → distillation → 더 강한 모델로 이어지는 선순환 속에서 이미 Big Tech에 의해 점령당했다. 따라서 스타트업의 진짜 기회는 사람의 취향·맥락·주관적 판단처럼 알고리즘으로 검증할 수 없고, 특정 환경에서만 수집 가능한 데이터에 있다.

근거

노정석은 테슬라의 data flywheel을 예시로 든다. 자동차에 달린 카메라, 급제동/급가속 신호, Autopilot 해제 여부 등은 ‘non-verifiable’한 주행 상황을 사용자 피드백과 결합해 verifiable label로 바꾸는 폐루프 시스템이다. 이런 환경이 없다면 LLM은 절대 그런 데이터를 스스로 만들어낼 수 없다.

“검증 불가능한 영역으로 그럼 도망가면 되겠구나. … 프런티어 모델들이 잘 다루지 못하는 그런 vertical 영역에서의 AI 서비스를 만드는 게 좋겠구나.”

연결된 생각

출처

클리핑 · youtube.com