dataofmen

wikigardenclippings

태그: batching

3건의 항목

  • 2026년 8월 09일

    개인화된 AI는 대기업에만 경제적이다 — 배치 크기 1의 저주

  • 2026년 6월 07일

    추론 비용의 대부분은 메모리 대역폭이 결정한다 — 배치 규모 최적화가 핵심

  • 2026년 6월 03일

    LLM 추론 경제학 — 배칭과 메모리/연산 트레이드오프


Created with Quartz v4.5.2 © 2026