문서버전 1.0 · 업데이트
OpenRouter는 여러 제공자의 300개 이상 모델을 하나의 OpenAI 호환 API와 키 뒤에 노출하는 게이트웨이입니다.
라우팅·자동 폴백·통합 과금을 더해, 에이전트가 계정을 따로 관리하지 않고 Claude·GPT·Gemini·Llama 등에 접근할 수 있습니다.
flowchart LR app[your app] --> or[OpenRouter] or --> a[Anthropic] or --> o[OpenAI] or --> g[others]
코드 샘플 탭에는 LiteLLM 경유와 OpenAI SDK 경유 예시가 있습니다 — 선택기에서 골라 비교해 보세요.
여러 제공자에 걸쳐 키와 엔드포인트 하나만 쓰고 싶을 때 — 모델 비교, 폴백 추가, 계정 관리 회피 — OpenRouter를 쓰세요.
선불 크레딧 종량제로, 제공자 요금이 마크업 없이 그대로 적용되고 크레딧 구매 시 5.5% 수수료가 붙습니다. 25종 이상 무료 모델은 속도 제한이 있습니다.
출처 ↗ · 기준일 2026-06-27
다른 모든 제공자와 같은 호출 형식으로 OpenRouter의 어떤 모델이든 쓰려면 LiteLLM으로 라우팅하세요.
openrouter/ prefix가 LiteLLM에 OpenRouter로 보내라고 지시하고, OpenRouter가
선택한 모델로 전달합니다.
flowchart LR app[your app] --> lite[LiteLLM] lite -->|openrouter/| or[OpenRouter] or --> models[(300+ models)]
from litellm import completion
# openrouter/<vendor>/<model> routes through OpenRouter with OPENROUTER_API_KEY.
resp = completion(
model="openrouter/anthropic/claude-opus-4-8",
messages=[{"role": "user", "content": "Summarize OpenRouter in one line."}],
)
print(resp.choices[0].message.content)
이미 OpenAI 형식을 쓰는 도구를 그냥 OpenRouter로 돌리고 싶을 때 OpenAI SDK를 바로 쓰세요.
OpenRouter가 OpenAI API를 그대로 반영하므로 base_url과 키만 바꾸면 됩니다.
flowchart LR app[your app] --> or[OpenRouter] or --> a[Anthropic] or --> o[OpenAI] or --> g[others]
import os
from openai import OpenAI
# OpenRouter is OpenAI-compatible — point the base_url at it.
client = OpenAI(
base_url="https://openrouter.ai/api/v1",
api_key=os.environ["OPENROUTER_API_KEY"],
)
resp = client.chat.completions.create(
model="anthropic/claude-opus-4-8",
messages=[{"role": "user", "content": "Summarize OpenRouter in one line."}],
)
print(resp.choices[0].message.content)
실제로 실행 가능한 미니 프로젝트입니다. 받아서 Docker로 실행해 보세요.
2026년 6월 28일
OpenRouter — 키 하나로 여러 모델 (LiteLLM 경유)아주 작은 OpenRouter 스크립트입니다. 프롬프트 하나를
litellm.completion()으로 보내고 응답을 출력합니다.
OpenRouter는 수백 개의 모델을 단일 API 키 뒤에 두는
OpenAI 호환 게이트웨이입니다. 코드는 그대로 두고 MODEL만 바꾸면 Claude,
GPT, Gemini, Llama 등을 오갈 수 있습니다.
cd samples/openrouter_1
cp .env.sample .env
# .env 편집: OPENROUTER_API_KEY를 붙여넣고 필요하면 MODEL도 변경
MODEL은 openrouter/<vendor>/<model> 형식의 LiteLLM 식별자입니다:
| 벤더 / 모델 | MODEL |
|---|---|
| Anthropic Claude | openrouter/anthropic/claude-opus-4-8 |
| OpenAI | openrouter/openai/gpt-4o |
| Google Gemini | openrouter/google/gemini-2.5-flash |
| Meta Llama | openrouter/meta-llama/llama-3.3-70b-instruct |
모든 모델이 같은 OPENROUTER_API_KEY를 사용합니다. 키는
openrouter.ai/keys에서 발급받고, 모델 식별자는
openrouter.ai/models에서 찾아보세요. .env는
gitignore 처리되어 있고 .env.sample만 커밋됩니다.
팁:
:free로 끝나는 모델 식별자(예:openrouter/openai/gpt-oss-120b:free)는 크레딧 구매 없이 실행되며 속도 제한이 있습니다.openrouter/openai/gpt-4o같은 유료 모델은 계정에 크레딧이 있어야 하고, 없으면 요청이402 Insufficient credits로 실패합니다.
cd samples/openrouter_1
docker build -t aas-openrouter .
docker run --rm --env-file .env aas-openrouter "Summarize OpenRouter in one line."
호스트 Docker 데몬과 통신하는 dev container(Docker-outside-of-Docker)에서는 위의
포그라운드 docker run이 종종 아무것도 출력하지 않고 exit 0으로 끝납니다. 하지만
실행 자체는 성공한 것입니다. 스크립트는 끝까지 실행되고 출력도 Docker가 모두
캡처하는데, 실시간 attach 스트림만 그 출력을 VM 경계에서 흘려버립니다.
detached로 실행하고 로그를 따라가세요:
cd samples/openrouter_1
docker build -t aas-openrouter .
docker logs -f "$(docker run -d --env-file .env aas-openrouter \
"Summarize OpenRouter in one line.")"
cd samples/openrouter_1
pip install -r requirements.txt
python app.py "Summarize OpenRouter in one line."
python-dotenv가 .env를 자동으로 불러옵니다.
모델과 실행마다 결과가 달라집니다 — LLM은 비결정적이라 표현이 매번 다릅니다. 아래는
openrouter/openai/gpt-oss-120b:free로 실행한 한 예입니다.
OpenRouter is an AI gateway that aggregates multiple language model providers into a single, unified API for easy, cost‑effective access to diverse LLMs.
파일
# Copy this file to `.env` and add your OpenRouter API key.
# cp .env.sample .env
#
# Get a key at https://openrouter.ai/keys
OPENROUTER_API_KEY=
# LiteLLM model id: openrouter/<vendor>/<model>. Swap the vendor/model freely.
# The default is a `:free` model — runs without purchased credits (rate-limited).
# Paid models (need credits): openrouter/anthropic/claude-opus-4-8, openrouter/openai/gpt-4o
MODEL=openrouter/openai/gpt-oss-120b:free
# Local secrets — never commit the real .env
.env
# ...but keep the committed template (root .gitignore's `.env.*` would hide it).
!.env.sample
"""OpenRouter: one gateway to many models, called through LiteLLM.
Sends one prompt to a model on OpenRouter. The `openrouter/<vendor>/<model>`
prefix routes through OpenRouter with your OPENROUTER_API_KEY, so you can reach
Claude, GPT, Gemini, Llama, and more with a single key by changing MODEL.
Run:
docker build -t aas-openrouter .
docker run --rm --env-file .env aas-openrouter "Summarize OpenRouter in one line."
"""
import os
import sys
from dotenv import load_dotenv
from litellm import completion
# Load .env when running locally; in Docker the config comes from --env-file.
load_dotenv()
MODEL = os.environ.get("MODEL", "openrouter/anthropic/claude-opus-4-8")
def main() -> None:
prompt = " ".join(sys.argv[1:]) or "Summarize what OpenRouter does in one sentence."
resp = completion(model=MODEL, messages=[{"role": "user", "content": prompt}])
print(resp.choices[0].message.content)
if __name__ == "__main__":
main()
# Minimal image for the OpenRouter sample.
FROM python:3.13-slim
ENV PYTHONUNBUFFERED=1
WORKDIR /app
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY app.py .
# Provide your config at run time (.env is NOT baked into the image):
# docker run --rm --env-file .env aas-openrouter "<prompt>"
ENTRYPOINT ["python", "app.py"]
litellm>=1.80,<2
python-dotenv>=1.2,<2