LlamaIndex

만든 곳 LlamaIndex

자체 데이터 위에서 RAG 파이프라인과 문서 에이전트를 만드는 데이터 프레임워크

웹사이트 ↗ 저장소 ↗ 문서 ↗

v0.14.232026-06-24PythonMIT

#rag #retrieval #indexing #python

51.0k 오픈소스 무료 티어 유료

문서버전 1.0 · 업데이트 2026년 6월 28일

개요

LlamaIndex는 LLM을 자체 데이터에 연결하는 데이터 프레임워크입니다 — 문서를 수집·청크·임베딩·색인하고 질의 시 관련 부분을 검색합니다.
수십 종의 벡터 스토어·데이터 소스 커넥터를 갖춰, RAG 파이프라인과 문서 에이전트를 만드는 가장 일반적인 방법 중 하나입니다.

flowchart LR
  data[your documents] --> idx[(VectorStoreIndex)]
  q[question] --> idx
  idx --> ans[grounded answer]

코드 샘플 탭에서 최소 색인·질의 흐름을 보여줍니다.

언제 쓰면 좋은가

검색이 앱의 핵심일 때 — 문서·지식베이스·정형 소스에 대한 RAG — 수집과 질의를 성숙한 프레임워크에 맡기고 싶다면 LlamaIndex를 고르세요. LlamaCloud는 호스팅 파싱·색인을 더합니다.

가격

오픈소스 프레임워크라 무료로 쓸 수 있고, LlamaCloud는 관리형 파싱·인덱싱 서비스입니다.

플랜	가격	비고
Free	$0	월 1만 크레딧
Starter	$50/월	크레딧 상향, 커넥터 추가
Pro	$500/월	팀 기능, 대용량 처리
Enterprise	문의	SSO·SLA·셀프호스팅

출처 ↗ · 기준일 2026-06-27

예제

Python · index & query

언제 쓰나

검색·청킹·프롬프팅을 대신 처리해주는 상위 수준 인덱스·쿼리 엔진이 필요할 때.

흐름

from_documents가 문서를 청크·임베딩해 인덱스로 만들고, 쿼리 엔진이 관련 청크를 검색해 그에 근거하여 LLM에 묻습니다.

구조

flowchart LR
  docs[your documents] --> idx[(VectorStoreIndex)]
  q[question] --> idx
  idx --> ans[grounded answer]

from llama_index.core import VectorStoreIndex, Document
from llama_index.llms.openai import OpenAI

# Index a few documents, then ask a question grounded in them.
docs = [
    Document(text="Qdrant is a vector database written in Rust."),
    Document(text="LlamaIndex builds RAG pipelines over your own data."),
]
index = VectorStoreIndex.from_documents(docs)
engine = index.as_query_engine(llm=OpenAI(model="gpt-4o-mini"))
print(engine.query("What language is Qdrant written in?"))

예제

LlamaIndex — 구현 샘플

실제로 실행 가능한 미니 프로젝트입니다. 받아서 Docker로 실행해 보세요.

GitHub에서 samples/llamaindex_1 보기 ↗

2026년 6월 28일

LlamaIndex — 구현 샘플

아주 작은 LlamaIndex 샘플입니다. 문서 둘을 색인해 그에 근거한 답을 돌려줍니다(OpenAI 임베딩 + LLM).

설정

cd samples/llamaindex_1
cp .env.sample .env
# .env 편집: OPENAI_API_KEY 설정(임베딩과 LLM에 사용)

Docker로 실행

cd samples/llamaindex_1
docker build -t aas-llamaindex .
docker run --rm --env-file .env aas-llamaindex "What language is Qdrant written in?"

Docker로 실행 (DooD를 쓰는 devcontainer에서)

Docker-outside-of-Docker에서는 포그라운드 docker run이 아무것도 출력하지 않을 수 있습니다 — detached로 실행하고 로그를 따라가세요:

docker logs -f "$(docker run -d --env-file .env aas-llamaindex "What language is Qdrant written in?")"

로컬에서 실행

cd samples/llamaindex_1
pip install -r requirements.txt
python app.py "What language is Qdrant written in?"

실행 결과

모델과 실행마다 결과가 달라집니다 — LLM은 비결정적입니다. gpt-4o-mini로 실행한 한 예입니다:

Qdrant is written in Rust.

파일

.env.sample

# Copy to `.env` and add your OpenAI API key (used for embeddings + the LLM).
#   cp .env.sample .env
OPENAI_API_KEY=

MODEL=gpt-4o-mini

app.py

"""LlamaIndex: index a few documents and answer a question grounded in them.

Builds an in-memory vector index over two documents (OpenAI embeddings), then
runs a query engine (OpenAI LLM) and prints the grounded answer.

Run:
    docker build -t aas-llamaindex .
    docker run --rm --env-file .env aas-llamaindex "What language is Qdrant written in?"
"""

import os
import sys

from dotenv import load_dotenv
from llama_index.core import Document, VectorStoreIndex
from llama_index.llms.openai import OpenAI

load_dotenv()

MODEL = os.environ.get("MODEL", "gpt-4o-mini")


def main() -> None:
    question = " ".join(sys.argv[1:]) or "What language is Qdrant written in?"
    docs = [
        Document(text="Qdrant is a vector database written in Rust."),
        Document(text="LlamaIndex builds RAG pipelines over your own data."),
    ]
    index = VectorStoreIndex.from_documents(docs)
    engine = index.as_query_engine(llm=OpenAI(model=MODEL))
    print(engine.query(question))


if __name__ == "__main__":
    main()

Dockerfile

FROM python:3.13-slim

ENV PYTHONUNBUFFERED=1

WORKDIR /app

COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt

COPY app.py .

ENTRYPOINT ["python", "app.py"]

관련 도구

개요