Guardrails AI

만든 곳 Guardrails AI

Guardrails Hub의 조합형 검증기로 LLM 입출력을 검증하고 구조화합니다.

웹사이트 ↗ 저장소 ↗ 문서 ↗

v0.10.22026-06-04PythonApache-2.0

#guardrails #validation #safety #python

7.2k 오픈소스 유료

문서버전 1.0 · 업데이트 2026년 6월 28일

개요

Guardrails AI는 Guardrails Hub에서 가져온 조합형 검증기로 LLM 입출력을 검증하고 구조화하는 Python 프레임워크입니다.
PII·탈옥·형식·사실성 같은 검증기를 모아 Guard를 만들면, 모델의 텍스트를 가로채 통과·수정·거부합니다.

flowchart LR
  llm[LLM output] --> guard[Guard]
  guard --> validators[validators]
  guard --> ok[valid / fixed]

코드 샘플 탭에는 Hub 검증기로 Guard를 만들고 출력을 점검하는 예시가 있습니다.

언제 쓰면 좋은가

LLM 입출력이 PII 제거, 스키마 강제, 탈옥 차단 같은 구체적 규칙을 지켜야 하고, 검사를 직접 짜기보다 Hub의 기성 검증기를 골라 조합하고 싶다면 Guardrails AI가 좋은 선택입니다.

예제

Python · validate output

언제 쓰나

PII 차단, 유효한 JSON, 정해진 형식처럼 LLM 입출력이 규칙을 지켜야 사용자나 후속 코드에 도달하도록 보장하고 싶을 때 적합합니다.

흐름

Hub 검증기를 Guard에 조합하면 validate가 텍스트를 점검해 통과시키거나 수정하거나 실패 시 예외를 던집니다.

구조

flowchart LR
  llm[LLM output] --> guard[Guard]
  guard --> validators[validators]
  guard --> ok[valid / fixed]

from guardrails import Guard, OnFailAction
from guardrails.hub import RegexMatch  # guardrails hub install hub://guardrails/regex_match

guard = Guard().use(
    RegexMatch,
    regex=r"\(?\d{3}\)?-? *\d{3}-? *-?\d{4}",
    on_fail=OnFailAction.EXCEPTION,
)

outcome = guard.validate("123-456-7890")
print(outcome.validation_passed)  # -> True

예제

Guardrails AI — 구현 샘플

실제로 실행 가능한 미니 프로젝트입니다. 받아서 Docker로 실행해 보세요.

GitHub에서 samples/guardrails-ai_1 보기 ↗

2026년 6월 28일

Guardrails AI — 구현 샘플

아주 작은 Guardrails AI 샘플입니다. LLM에 JSON을 요청한 뒤, 그 출력을 Pydantic 스키마로 검증합니다 — 타입을 변환하고 age >= 0 제약을 확인한 다음에야 신뢰합니다.

설정

cd samples/guardrails-ai_1
cp .env.sample .env
# .env 편집: OPENAI_API_KEY 설정(LLM 호출에 사용)

Docker로 실행

cd samples/guardrails-ai_1
docker build -t aas-guardrails .
docker run --rm --env-file .env aas-guardrails

Docker로 실행 (DooD를 쓰는 devcontainer에서)

Docker-outside-of-Docker에서는 포그라운드 docker run이 아무것도 출력하지 않을 수 있습니다 — detached로 실행하고 로그를 따라가세요:

docker logs -f "$(docker run -d --env-file .env aas-guardrails)"

로컬에서 실행

cd samples/guardrails-ai_1
pip install -r requirements.txt
python app.py

실행 결과

모델이 Rex·dog·3이 담긴 JSON을 반환하고, Guard가 이를 스키마에 맞춰 파싱· 검증합니다. gpt-4o-mini로 실행한 한 예입니다:

validation passed: True
validated output: {'name': 'Rex', 'species': 'dog', 'age': 3}

파일

.env.sample

# Copy to `.env` and add your OpenAI API key (used for the guarded LLM call).
#   cp .env.sample .env
OPENAI_API_KEY=

MODEL=gpt-4o-mini

app.py

"""Guardrails AI: validate an LLM's output against a typed schema.

The model is asked for JSON (our prompt), then a Guard built from a Pydantic
schema parses and validates that output — coercing types and enforcing
constraints (here, age >= 0) before you trust it. The LLM call uses
OPENAI_API_KEY via LiteLLM.

Run:
    docker build -t aas-guardrails .
    docker run --rm --env-file .env aas-guardrails
"""

import os

from dotenv import load_dotenv
from pydantic import BaseModel, Field
from guardrails import Guard
from litellm import completion

load_dotenv()

MODEL = os.environ.get("MODEL", "gpt-4o-mini")


class Pet(BaseModel):
    name: str = Field(description="the pet's name")
    species: str = Field(description="the kind of animal, e.g. dog or cat")
    age: int = Field(description="age in whole years", ge=0)


def main() -> None:
    # 1) The model produces output from our prompt — we control what it sees.
    raw = completion(
        model=MODEL,
        temperature=0,
        messages=[
            {
                "role": "user",
                "content": (
                    "Extract the pet into a JSON object with keys name, species, age. "
                    "Return only the JSON.\n\nSentence: Rex is a three-year-old dog."
                ),
            }
        ],
    ).choices[0].message.content

    # 2) Guardrails parses + validates that output against the Pet schema.
    guard = Guard.for_pydantic(Pet)
    outcome = guard.parse(raw)

    print("raw model output:", raw)
    print("validation passed:", outcome.validation_passed)
    print("validated output:", outcome.validated_output)


if __name__ == "__main__":
    main()

Dockerfile

FROM python:3.13-slim

ENV PYTHONUNBUFFERED=1

WORKDIR /app

COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt

COPY app.py .

ENTRYPOINT ["python", "app.py"]