samples/dspy_1 — awesome-ai-stack

예제

DSPy — 스스로 최적화하는 예측기

실제로 실행 가능한 미니 프로젝트입니다. 받아서 Docker로 실행해 보세요.

GitHub에서 samples/dspy_1 보기 ↗

2026년 6월 28일

DSPy — 스스로 최적화하는 예측기

아주 작은 DSPy 프로그램입니다. 타입이 있는 시그니처 (question -> answer)를 선언하고 ChainOfThought 모듈로 감싸 답을 출력합니다. 프롬프트는 DSPy가 만들고, 여러분은 작업만 기술합니다. LM은 LiteLLM을 통해 라우팅되므로 같은 코드가 Anthropic Claude, OpenAI, Google AI Studio (Gemini) 에서 모두 동작합니다 — .env의 MODEL만 바꾸면 됩니다.

설정

cd samples/dspy_1
cp .env.sample .env
# .env 편집: MODEL과 해당 제공자의 키를 설정

MODEL이 제공자를 결정합니다:

제공자	`MODEL` 예시	`.env`의 키
Anthropic Claude	`claude-opus-4-8`	`ANTHROPIC_API_KEY`
OpenAI	`gpt-4o`	`OPENAI_API_KEY`
Google AI Studio	`gemini/gemini-2.5-flash`	`GEMINI_API_KEY`
Ollama (local)	`ollama_chat/qwen3.5:9b`	`OLLAMA_API_BASE`

.env는 gitignore 처리되어 있고, .env.sample만 커밋됩니다.

Ollama (로컬 모델): 먼저 호스트에서 모델을 받아두세요 — ollama pull qwen3.5:9b(또는 ollama run qwen3.5:9b)를 실행합니다. 그다음 MODEL=ollama_chat/qwen3.5:9b로 설정하고 OLLAMA_API_BASE를 서버 주소로 지정하세요 — API 키는 필요 없습니다. DooD를 쓰는 devcontainer에서는 컨테이너가 호스트의 Ollama에 http://host.docker.internal:11434로 접근하고, 로컬 실행 시에는 http://localhost:11434를 씁니다.

Docker로 실행

cd samples/dspy_1
docker build -t aas-dspy .
docker run --rm --env-file .env aas-dspy "Why is the sky blue?"

Docker로 실행 (DooD를 쓰는 devcontainer에서)

호스트 Docker 데몬과 통신하는 dev container(Docker-outside-of-Docker)에서는 위의 포그라운드 docker run이 종종 아무것도 출력하지 않고 exit 0으로 끝납니다. 하지만 실행 자체는 성공한 것입니다. 스크립트는 끝까지 실행되고 출력도 Docker가 모두 캡처하는데, 실시간 attach 스트림만 그 출력을 VM 경계에서 흘려버립니다. 같은 컨테이너에 docker logs를 실행하면 전체 출력이 그대로 보이고, 컨테이너는 exit 0으로 끝나며 OOM도 아닙니다. detached로 실행하고 로그를 따라가세요:

cd samples/dspy_1
docker build -t aas-dspy .
docker logs -f "$(docker run -d --env-file .env aas-dspy \
  "Why is the sky blue?")"

로컬에서 실행

cd samples/dspy_1
pip install -r requirements.txt
python app.py "Why is the sky blue?"

python-dotenv가 .env를 자동으로 불러옵니다. 키는 다음에서 발급받으세요: Anthropic, OpenAI, Google AI Studio.

실행 결과

모델과 실행마다 결과가 달라집니다 — LLM은 비결정적이라 표현(그리고 에이전트의 구체적 단계)이 매번 다릅니다. 아래는 claude-opus-4-8로 실행한 한 예입니다.

The sky is blue because of a process called Rayleigh scattering. Sunlight is made up of all colors, but as it passes through Earth's atmosphere, the shorter blue wavelengths are scattered in all directions by air molecules much more than the longer red wavelengths. This scattered blue light fills the sky, making it appear blue to our eyes.

.env.sample

# Copy this file to `.env` and fill in the key for the provider you want.
#   cp .env.sample .env
#
# One codebase, many providers — DSPy routes the request via LiteLLM based on MODEL.

# Pick the model. Examples:
#   claude-opus-4-8              Anthropic Claude   -> needs ANTHROPIC_API_KEY
#   gpt-4o                       OpenAI             -> needs OPENAI_API_KEY
#   gemini/gemini-2.5-flash      Google AI Studio   -> needs GEMINI_API_KEY
#   ollama_chat/qwen3.5:9b       Ollama (local)     -> needs OLLAMA_API_BASE, no key
MODEL=claude-opus-4-8

# Set only the key for the provider you chose; leave the rest blank.
ANTHROPIC_API_KEY=
OPENAI_API_KEY=
GEMINI_API_KEY=

# Ollama only — where the Ollama server runs (pull the model first, e.g.
# `ollama pull qwen3.5:9b`). Other providers ignore this line.
#   Local, no Docker:           http://localhost:11434
#   Docker / DooD on the host:  http://host.docker.internal:11434
OLLAMA_API_BASE=http://host.docker.internal:11434

app.py

"""DSPy: declarative LM modules instead of hand-tuned prompts.

A typed signature (`question -> answer`) is the whole spec — DSPy builds the
prompt for you. The LM is routed through LiteLLM, so MODEL in `.env` picks the
provider (claude-opus-4-8 / gpt-4o / gemini/gemini-2.5-flash) without touching
the code.

Run:
    docker build -t aas-dspy .
    docker run --rm --env-file .env aas-dspy "Why is the sky blue?"
"""

import os
import sys

import dspy
from dotenv import load_dotenv

# Load .env when running locally; in Docker the keys come from --env-file.
load_dotenv()


DEFAULT_QUESTION = "Why is the sky blue? Answer in one sentence."


def main() -> None:
    question = " ".join(sys.argv[1:]) or DEFAULT_QUESTION

    # MODEL chooses the provider; dspy.LM routes it through LiteLLM.
    model = os.environ.get("MODEL", "claude-opus-4-8")
    dspy.configure(lm=dspy.LM(model=model))

    # ChainOfThought adds a reasoning step before producing the answer field.
    qa = dspy.ChainOfThought("question -> answer")
    result = qa(question=question)

    print(result.answer)


if __name__ == "__main__":
    main()

Dockerfile

# Minimal image for the DSPy sample.
FROM python:3.13-slim

# Stream stdout/stderr unbuffered so the output appears live.
ENV PYTHONUNBUFFERED=1

WORKDIR /app

COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt

COPY app.py .

# Provide your config at run time (.env is NOT baked into the image):
#   docker run --rm --env-file .env aas-dspy "<question>"
ENTRYPOINT ["python", "app.py"]