로컬 모델

오픈 웨이트 모델을 직접 하드웨어에서 실행합니다. 프런티어 API보다 느리고 작지만, 프라이빗하고 오프라인에서 동작하며 토큰당 비용이 없습니다.

LM Studio

LM Studio

로컬 LLM을 찾고 실행·서빙하는 데스크톱 앱 — OpenAI 호환 서버 내장

App독점

#llm #local #desktop #gguf

무료 티어 유료

Ollama

Ollama

명령 한 줄로 오픈 LLM을 로컬에서 실행 — 오프라인·프라이빗 에이전트를 위한 OpenAI 호환 API

v0.32.32026-07-23GoMIT

#local #open-models #self-host #runtime

176.7k 오픈소스 무료 티어 유료

vLLM

PyTorch Foundation

OpenAI 호환 API로 오픈 LLM을 구동하는 고처리량 서빙 엔진

v0.25.12026-07-14PythonApache-2.0

#llm #serving #inference #python

87.0k 완전 무료 오픈소스