Karpathy가 Sarah Guo와의 인터뷰를 마무리하며 한 말 — “에이전트가 못하는 것이 이제 당신의 일이다. 에이전트가 할 수 있는 것은 당신보다 더 잘하거나 곧 그렇게 될 것이다. 그래서 시간을 어디에 쓸지 전략적이어야 한다.” 그렇다면 에이전트가 아직 못하는 것은 무엇인가. 모호한 영역에서 무엇을 목표로 설정하고, 어디까지가 성공이고 어느 방향이 진보인지를 정의하는 능력이다.

근거

엔지니어링·수학·과학에서는 모델이 사람보다 더 많이 알아 metric을 잘 만든다. 그러나 비즈니스 판단처럼 글과 사람에 가까운 영역에서는 LLM에게 물어봐도 metric을 잘 못 만든다.

그 metric들을 정의하는 것, 어디까지가 성공이고 어느 방향이 진보하는 것인가를 정하는 것이 사람의 능력인 것 같아요.

이것이 “시간을 전략적으로 쓰라”는 말의 해석이다. 1~2주 안에 될 일은 사방에서 딸깍거려 실시간으로 만들어지므로 하지 마라. 6개월 뒤에 될 일을 위해 지금의 맥락을 읽고 주제를 명확히 세팅하는 능력에 시간을 써라. 모든 verifiable 루프는 결국 이 번역 능력에 dependency를 갖는다.

연결된 생각

출처

클리핑 · youtu.be