만든 곳 Stanford NLP
프롬프트가 아니라 프로그램으로 LM을 다룹니다 — 모듈을 선언하면 DSPy가 프롬프트를 컴파일·최적화합니다.
문서버전 1.0 · 업데이트
DSPy(스탠퍼드 NLP)는 손으로 다듬은 프롬프트 문자열 대신, LM 파이프라인을 타입이 있는 시그니처(question -> answer)를 가진 선언적 파이썬 모듈로 작성하게 합니다.
그런 다음 옵티마이저(“텔레프롬프터”)가 그 모듈을 컴파일하며 — 지표를 기준으로 프롬프트와 few-shot 예시를 탐색해 — 수동 프롬프트 조정 없이 품질을 끌어올립니다.
flowchart LR sig["question -> answer"] --> module[DSPy module] module --> lm[(LM via LiteLLM)] lm --> out[answer]
코드 샘플 탭에는 모듈 선언과 옵티마이저 컴파일 예시가 있습니다 — 선택기에서 둘을 비교해 보세요.
깨지기 쉬운 프롬프트 문자열을 관리하기보다 파이프라인을 지표에 맞춰 최적화하고 싶을 때 — 특히 다단계 추론이나 RAG 시스템에 — DSPy를 선택하세요.
오픈소스(MIT)라 무료로 셀프호스트하며, LLM 호출 비용만 부담합니다.
출처 ↗ · 기준일 2026-06-27
프롬프트 문자열을 직접 다루는 대신 작업을 시그니처로 선언하고 싶을 때
모듈을 쓰세요. ChainOfThought는 답변 전에 추론 단계를 덧붙입니다.
DSPy가 시그니처로 프롬프트를 만들고, LiteLLM 경유로 LM을 호출한 뒤
answer 필드를 채워 돌려줍니다.
flowchart LR sig["question -> answer"] --> cot[ChainOfThought] cot --> lm[(LM via LiteLLM)] lm --> ans[answer]
import dspy
dspy.configure(lm=dspy.LM("anthropic/claude-opus-4-8"))
# The signature "question -> answer" is the whole spec; DSPy writes the prompt.
qa = dspy.ChainOfThought("question -> answer")
result = qa(question="Why is the sky blue?")
print(result.answer)
이 모듈을 실제로 돌려보려면 구현 샘플 탭의 dspy_1을 보세요.
프롬프트를 손으로 튜닝하는 대신 지표에 맞춰 자동으로 최적화하고 싶을 때 옵티마이저를 쓰세요.
BootstrapFewShot가 trainset에서 지표를 최대화하는 few-shot 예시를 탐색해
컴파일된 모듈을 만듭니다.
flowchart LR train[(trainset)] --> opt[BootstrapFewShot] qa[ChainOfThought] --> opt opt -->|metric| tuned[compiled module]
import dspy
from dspy.teleprompt import BootstrapFewShot
dspy.configure(lm=dspy.LM("anthropic/claude-opus-4-8"))
qa = dspy.ChainOfThought("question -> answer")
# A few labeled examples to optimize against.
trainset = [
dspy.Example(question="2+2?", answer="4").with_inputs("question"),
dspy.Example(question="Capital of France?", answer="Paris").with_inputs("question"),
]
def exact_match(example, pred, trace=None):
return example.answer.lower() in pred.answer.lower()
# Search few-shot demos that maximize the metric, then compile a tuned module.
tuned = BootstrapFewShot(metric=exact_match).compile(qa, trainset=trainset)
실제로 실행 가능한 미니 프로젝트입니다. 받아서 Docker로 실행해 보세요.
2026년 6월 28일
DSPy — 스스로 최적화하는 예측기아주 작은 DSPy 프로그램입니다. 타입이 있는 시그니처
(question -> answer)를 선언하고 ChainOfThought 모듈로 감싸 답을 출력합니다.
프롬프트는 DSPy가 만들고, 여러분은 작업만 기술합니다. LM은
LiteLLM을 통해 라우팅되므로 같은 코드가
Anthropic Claude, OpenAI, Google AI Studio (Gemini) 에서 모두
동작합니다 — .env의 MODEL만 바꾸면 됩니다.
cd samples/dspy_1
cp .env.sample .env
# .env 편집: MODEL과 해당 제공자의 키를 설정
MODEL이 제공자를 결정합니다:
| 제공자 | MODEL 예시 |
.env의 키 |
|---|---|---|
| Anthropic Claude | claude-opus-4-8 |
ANTHROPIC_API_KEY |
| OpenAI | gpt-4o |
OPENAI_API_KEY |
| Google AI Studio | gemini/gemini-2.5-flash |
GEMINI_API_KEY |
| Ollama (local) | ollama_chat/qwen3.5:9b |
OLLAMA_API_BASE |
.env는 gitignore 처리되어 있고, .env.sample만 커밋됩니다.
Ollama (로컬 모델): 먼저 호스트에서 모델을 받아두세요 —
ollama pull qwen3.5:9b(또는 ollama run qwen3.5:9b)를 실행합니다. 그다음
MODEL=ollama_chat/qwen3.5:9b로 설정하고 OLLAMA_API_BASE를 서버 주소로 지정하세요 — API
키는 필요 없습니다. DooD를 쓰는 devcontainer에서는 컨테이너가 호스트의 Ollama에
http://host.docker.internal:11434로 접근하고, 로컬 실행 시에는
http://localhost:11434를 씁니다.
cd samples/dspy_1
docker build -t aas-dspy .
docker run --rm --env-file .env aas-dspy "Why is the sky blue?"
호스트 Docker 데몬과 통신하는 dev container(Docker-outside-of-Docker)에서는 위의
포그라운드 docker run이 종종 아무것도 출력하지 않고 exit 0으로 끝납니다. 하지만
실행 자체는 성공한 것입니다. 스크립트는 끝까지 실행되고 출력도 Docker가 모두
캡처하는데, 실시간 attach 스트림만 그 출력을 VM 경계에서 흘려버립니다. 같은
컨테이너에 docker logs를 실행하면 전체 출력이 그대로 보이고, 컨테이너는 exit 0으로
끝나며 OOM도 아닙니다. detached로 실행하고 로그를 따라가세요:
cd samples/dspy_1
docker build -t aas-dspy .
docker logs -f "$(docker run -d --env-file .env aas-dspy \
"Why is the sky blue?")"
cd samples/dspy_1
pip install -r requirements.txt
python app.py "Why is the sky blue?"
python-dotenv가 .env를 자동으로 불러옵니다. 키는 다음에서 발급받으세요:
Anthropic,
OpenAI,
Google AI Studio.
모델과 실행마다 결과가 달라집니다 — LLM은 비결정적이라 표현(그리고 에이전트의 구체적 단계)이 매번 다릅니다. 아래는
claude-opus-4-8로 실행한 한 예입니다.
The sky is blue because of a process called Rayleigh scattering. Sunlight is made up of all colors, but as it passes through Earth's atmosphere, the shorter blue wavelengths are scattered in all directions by air molecules much more than the longer red wavelengths. This scattered blue light fills the sky, making it appear blue to our eyes.
파일
# Copy this file to `.env` and fill in the key for the provider you want.
# cp .env.sample .env
#
# One codebase, many providers — DSPy routes the request via LiteLLM based on MODEL.
# Pick the model. Examples:
# claude-opus-4-8 Anthropic Claude -> needs ANTHROPIC_API_KEY
# gpt-4o OpenAI -> needs OPENAI_API_KEY
# gemini/gemini-2.5-flash Google AI Studio -> needs GEMINI_API_KEY
# ollama_chat/qwen3.5:9b Ollama (local) -> needs OLLAMA_API_BASE, no key
MODEL=claude-opus-4-8
# Set only the key for the provider you chose; leave the rest blank.
ANTHROPIC_API_KEY=
OPENAI_API_KEY=
GEMINI_API_KEY=
# Ollama only — where the Ollama server runs (pull the model first, e.g.
# `ollama pull qwen3.5:9b`). Other providers ignore this line.
# Local, no Docker: http://localhost:11434
# Docker / DooD on the host: http://host.docker.internal:11434
OLLAMA_API_BASE=http://host.docker.internal:11434
# Local secrets — never commit the real .env
.env
# ...but keep the committed template (root .gitignore's `.env.*` would hide it).
!.env.sample
"""DSPy: declarative LM modules instead of hand-tuned prompts.
A typed signature (`question -> answer`) is the whole spec — DSPy builds the
prompt for you. The LM is routed through LiteLLM, so MODEL in `.env` picks the
provider (claude-opus-4-8 / gpt-4o / gemini/gemini-2.5-flash) without touching
the code.
Run:
docker build -t aas-dspy .
docker run --rm --env-file .env aas-dspy "Why is the sky blue?"
"""
import os
import sys
import dspy
from dotenv import load_dotenv
# Load .env when running locally; in Docker the keys come from --env-file.
load_dotenv()
DEFAULT_QUESTION = "Why is the sky blue? Answer in one sentence."
def main() -> None:
question = " ".join(sys.argv[1:]) or DEFAULT_QUESTION
# MODEL chooses the provider; dspy.LM routes it through LiteLLM.
model = os.environ.get("MODEL", "claude-opus-4-8")
dspy.configure(lm=dspy.LM(model=model))
# ChainOfThought adds a reasoning step before producing the answer field.
qa = dspy.ChainOfThought("question -> answer")
result = qa(question=question)
print(result.answer)
if __name__ == "__main__":
main()
# Minimal image for the DSPy sample.
FROM python:3.13-slim
# Stream stdout/stderr unbuffered so the output appears live.
ENV PYTHONUNBUFFERED=1
WORKDIR /app
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY app.py .
# Provide your config at run time (.env is NOT baked into the image):
# docker run --rm --env-file .env aas-dspy "<question>"
ENTRYPOINT ["python", "app.py"]
dspy>=2.5,<3
python-dotenv>=1.1,<2