정의

맥락 프라이밍은 언어 모델이 사전 학습으로 보유한 방대한 지식과 능력을 특정 도메인 또는 작업에 맞게 활성화하기 위해, 입력 프롬프트에 적확한 도메인 토큰(용어, 인물명, 논문 초록 등)을 전략적으로 배치하는 기법이다. 이는 모델의 내부 표현 공간에서 특정 영역을 조명하여 더 높은 품질의 응답을 유도한다.

핵심 속성

  • 적확한 토큰의 중요성: 단순한 페르소나 지시보다 해당 도메인 전문가가 실제로 사용하는 용어와 개념을 포함한 토큰이 모델의 응답 질을 크게 향상시킨다.
  • 전문가 불필요: 사용자가 해당 도메인을 깊이 이해하지 못하더라도, arXiv 초록, 인물 목록, 두문자어 생성 등의 방법으로 의미 있는 토큰을 확보하여 효과를 볼 수 있다.
  • 스포츠카 모드 리스크: 과도한 프라이밍은 모델이 사용자를 고도 전문가로 오인하여 제어 불가능한 수준의 복잡한 응답을 내놓을 위험이 있다.
  • 발산-수렴 이중 구조: 먼저 넓은 분포(무작위 두문자어, 인물 A-Z)로 발산한 후, ‘피상적이다’ 등의 피드백으로 수렴하여 깊이 있는 토큰을 확보하는 단계적 접근이 효과적이다.

관계

인용

“그 특정한 용어를 쓸 때와 안 쓸 때의 응답의 질 차이는 꽤 나거든요. 예를 들어서 대강 이런 전문가 persona를 써서 그 사람이 할 법한 것처럼 얘기를 하는 것과 실제로 그 전문가가 쓸 만한 토큰을 그래도 유사하게나마 넣어줬을 때의 응답은 질이 달라져요.”

출처

클리핑 · youtube.com