samples/openrouter_1 — awesome-ai-stack

예제

OpenRouter — 키 하나로 여러 모델 (LiteLLM 경유)

실제로 실행 가능한 미니 프로젝트입니다. 받아서 Docker로 실행해 보세요.

GitHub에서 samples/openrouter_1 보기 ↗

2026년 6월 28일

OpenRouter — 키 하나로 여러 모델 (LiteLLM 경유)

아주 작은 OpenRouter 스크립트입니다. 프롬프트 하나를 litellm.completion()으로 보내고 응답을 출력합니다. OpenRouter는 수백 개의 모델을 단일 API 키 뒤에 두는 OpenAI 호환 게이트웨이입니다. 코드는 그대로 두고 MODEL만 바꾸면 Claude, GPT, Gemini, Llama 등을 오갈 수 있습니다.

설정

cd samples/openrouter_1
cp .env.sample .env
# .env 편집: OPENROUTER_API_KEY를 붙여넣고 필요하면 MODEL도 변경

MODEL은 openrouter/<vendor>/<model> 형식의 LiteLLM 식별자입니다:

벤더 / 모델	`MODEL`
Anthropic Claude	`openrouter/anthropic/claude-opus-4-8`
OpenAI	`openrouter/openai/gpt-4o`
Google Gemini	`openrouter/google/gemini-2.5-flash`
Meta Llama	`openrouter/meta-llama/llama-3.3-70b-instruct`

모든 모델이 같은 OPENROUTER_API_KEY를 사용합니다. 키는 openrouter.ai/keys에서 발급받고, 모델 식별자는 openrouter.ai/models에서 찾아보세요. .env는 gitignore 처리되어 있고 .env.sample만 커밋됩니다.

팁: :free로 끝나는 모델 식별자(예: openrouter/openai/gpt-oss-120b:free)는 크레딧 구매 없이 실행되며 속도 제한이 있습니다. openrouter/openai/gpt-4o 같은 유료 모델은 계정에 크레딧이 있어야 하고, 없으면 요청이 402 Insufficient credits로 실패합니다.

Docker로 실행

cd samples/openrouter_1
docker build -t aas-openrouter .
docker run --rm --env-file .env aas-openrouter "Summarize OpenRouter in one line."

Docker로 실행 (DooD를 쓰는 devcontainer에서)

호스트 Docker 데몬과 통신하는 dev container(Docker-outside-of-Docker)에서는 위의 포그라운드 docker run이 종종 아무것도 출력하지 않고 exit 0으로 끝납니다. 하지만 실행 자체는 성공한 것입니다. 스크립트는 끝까지 실행되고 출력도 Docker가 모두 캡처하는데, 실시간 attach 스트림만 그 출력을 VM 경계에서 흘려버립니다. detached로 실행하고 로그를 따라가세요:

cd samples/openrouter_1
docker build -t aas-openrouter .
docker logs -f "$(docker run -d --env-file .env aas-openrouter \
  "Summarize OpenRouter in one line.")"

로컬에서 실행

cd samples/openrouter_1
pip install -r requirements.txt
python app.py "Summarize OpenRouter in one line."

python-dotenv가 .env를 자동으로 불러옵니다.

실행 결과

모델과 실행마다 결과가 달라집니다 — LLM은 비결정적이라 표현이 매번 다릅니다. 아래는 openrouter/openai/gpt-oss-120b:free로 실행한 한 예입니다.

OpenRouter is an AI gateway that aggregates multiple language model providers into a single, unified API for easy, cost‑effective access to diverse LLMs.

.env.sample

# Copy this file to `.env` and add your OpenRouter API key.
#   cp .env.sample .env
#
# Get a key at https://openrouter.ai/keys
OPENROUTER_API_KEY=

# LiteLLM model id: openrouter/<vendor>/<model>. Swap the vendor/model freely.
# The default is a `:free` model — runs without purchased credits (rate-limited).
# Paid models (need credits): openrouter/anthropic/claude-opus-4-8, openrouter/openai/gpt-4o
MODEL=openrouter/openai/gpt-oss-120b:free

app.py

"""OpenRouter: one gateway to many models, called through LiteLLM.

Sends one prompt to a model on OpenRouter. The `openrouter/<vendor>/<model>`
prefix routes through OpenRouter with your OPENROUTER_API_KEY, so you can reach
Claude, GPT, Gemini, Llama, and more with a single key by changing MODEL.

Run:
    docker build -t aas-openrouter .
    docker run --rm --env-file .env aas-openrouter "Summarize OpenRouter in one line."
"""

import os
import sys

from dotenv import load_dotenv
from litellm import completion

# Load .env when running locally; in Docker the config comes from --env-file.
load_dotenv()

MODEL = os.environ.get("MODEL", "openrouter/anthropic/claude-opus-4-8")


def main() -> None:
    prompt = " ".join(sys.argv[1:]) or "Summarize what OpenRouter does in one sentence."

    resp = completion(model=MODEL, messages=[{"role": "user", "content": prompt}])
    print(resp.choices[0].message.content)


if __name__ == "__main__":
    main()

Dockerfile

# Minimal image for the OpenRouter sample.
FROM python:3.13-slim

ENV PYTHONUNBUFFERED=1

WORKDIR /app

COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt

COPY app.py .

# Provide your config at run time (.env is NOT baked into the image):
#   docker run --rm --env-file .env aas-openrouter "<prompt>"
ENTRYPOINT ["python", "app.py"]