개요

로컬 LLM을 데스크탑에서 실행하는 무료 GUI 앱 (lmstudio.ai). Mac·Windows·Linux 지원. OpenAI API와 동일 포맷의 로컬 서버를 실행해 기존 클라우드 연동 도구를 그대로 로컬로 전환할 수 있다.

핵심 정보

  • 로컬 API 엔드포인트: http://localhost:1234/v1 — OpenAI API 포맷 완전 호환
  • 지원 모델: Mistral, Llama 3, Phi-3, DeepSeek 등 주요 오픈소스 모델 (Discover 탭에서 직접 다운로드)
  • 파일 크기: 모델당 4–8GB
  • 무료: 앱 자체 무료. 모델도 오픈소스 무료
  • 하드웨어: Apple Silicon M1+ → 7B–13B 모델 원활. 16GB RAM(Windows) → 7B. 32GB+GPU → 13B–34B

주요 발언 / 기여

“LM Studio now runs a local API at http://localhost:1234 — identical in format to the OpenAI API. Any tool that can connect to OpenAI can now connect to your local model instead.”

관계

출처

클리핑 · x.com