dataofmen
wiki
garden
clippings
Search
검색
다크 모드
라이트 모드
태그: batching
2건의 항목
2026년 6월 07일
추론 비용의 대부분은 메모리 대역폭이 결정한다 — 배치 규모 최적화가 핵심
2026년 6월 03일
LLM 추론 경제학 — 배칭과 메모리/연산 트레이드오프