이 인사이트는 최승준이 말한 “모델이 나를 잘 돕게 하려면 내가 모델을 잘 도울 필요가 있다”는 대목에서 비롯된다. 흔히 프롬프팅은 사용자가 원하는 출력을 얻기 위해 모델을 조종하는 기술로 생각하지만, 실제로는 사용자가 모델의 작동 메커니즘에 맞춰 사전 지식(토큰)을 제공해야 모델이 제 능력을 발휘할 수 있다. 토큰 프라이밍은 이 ‘도움의 상호성’을 구체적으로 실현한 기법이다.

근거

원문에서 최승준은 “지금 이 모델들이나 AI들은 뭔가 이국적인 존재… 이 모델이 나를 잘 돕게 하려면 내가 모델을 잘 도울 필요가 있다”고 말한다. 또한 “모델을 도우려면 모델을 잘 알아야 된다”는 점을 강조한다. 무작위 두문자어 생성이나 arXiv 초록 주입 같은 프라이밍 기법은 모두 모델이 효과적으로 작동할 수 있는 토큰 환경을 조성하는 행위다.

“모델이 나를 잘 돕게 하려면 내가 모델을 잘 도울 필요가 있다. 결국에는 모델이 나를 도우려면 내가 모델을 도와야 된다는 맞물린 고리.”

연결된 생각

출처

클리핑 · youtube.com