많은 사람들이 프롬프팅을 “모델에게 명확히 지시하는 기술”로 생각하지만, 최승준 씨의 원리를 생각하는 프롬프팅은 완전히 다른 본질을 드러낸다. 프롬프팅의 핵심은 모델이 이미 가지고 있는 능력(overhang)을 깨우는 ‘맥락 공학’이다. 단순한 지시문보다 해당 도메인에서 실제로 사용되는 적확한 토큰들(arXiv 초록, 전문 용어, 인물명)을 프롬프트 앞부분에 배치하는 것만으로도 모델의 응답 품질이 급격히 상승한다. 이는 마치 게임에서 특정 지역에 가야 미니맵이 밝아지듯, 모델의 내부 표현 공간에서 특정 영역이 조명되는 현상이다.

사용자가 도메인 전문가가 아니더라도, 두문자어 생성이나 arXiv API를 활용한 낯선 논문 초록 도입 등의 방법으로 전문가 수준의 토큰을 확보할 수 있다. 이는 프롬프팅의 패러다임을 “지시”에서 “맥락 설계”로 전환하는 중요한 통찰이다.

근거

“적확한 토큰을 넣어줘야 반응이 나오거든요. MD 파일들, 아까 그 스킬들의 MD 파일을 보면 그런 능력들이 발휘될 수 있는 지시문들이 쓰여 있어요. 그 도메인에 맞는 지시문들, 그리고 적확한 용어들이 있을 때 능력이 발휘되죠.”

연결된 생각

출처

클리핑 · youtube.com