에이전트가 모델을 한 번 넘게 호출하기 시작하면 로그만으로는 부족해집니다. 트레이스 — 모든 모델·도구 단계와 입력·출력·지연·비용 — 를 봐야 하죠. AI 에이전트 영역에서 이 자리를 양분하는 두 도구가 Langfuse와 LangSmith입니다. 겹치는 부분이 많아서, 결정은 보통 몇 가지 축으로 좁혀집니다.
한눈에 비교
| Langfuse | LangSmith | |
|---|---|---|
| 소스 | 오픈소스 (MIT) | 독점 (SaaS) |
| 호스팅 | 클라우드 또는 셀프 호스트 | 호스팅 (클라우드 / 엔터프라이즈) |
| 생태계 | 프레임워크 무관 | LangChain 친화, 단독 사용도 가능 |
| 핵심 | 트레이싱, 평가, 프롬프트 관리, 분석 | 트레이싱, 평가, 프롬프트 관리, 모니터링 |
| 가격 | 오픈소스 + 무료 클라우드 티어 | 무료 티어 + 유료 |
Langfuse가 빛나는 지점
Langfuse는 오픈소스라 셀프 호스팅이 가능하고, 프롬프트와 사용자 데이터를 자체 인프라 안에 둘 수 있습니다 — 규제가 있거나 프라이버시가 민감한 환경에서 결정적 요인이 되곤 합니다. 의도적으로 프레임워크에 무관하게 설계되어, SDK와 OpenTelemetry 지원이 LangChain 사용 여부와 상관없이 어떤 스택에든 들어갑니다.
LangSmith가 빛나는 지점
LangSmith는 이미 LangChain이나 LangGraph 위에서 개발 중이라면 가장 마찰이 적습니다 — 거의 연결 코드 없이 트레이싱이 켜집니다. 관리형 제품답게 데이터셋·평가·프로덕션 모니터링에서 잘 다듬어진, 필요한 기능이 다 갖춰진 경험을 지향합니다.
어떻게 고를까
- 셀프 호스팅하거나 프레임워크에 얽매이고 싶지 않다 → Langfuse
- 이미 LangChain/LangGraph를 쓰고 설정 없는 트레이싱을 원한다 → LangSmith
- 오픈소스 / 데이터 주권 통제가 필요하다 → Langfuse
- 완전 관리형의 잘 다듬어진 평가 도구를 원한다 → LangSmith
둘 다 강력합니다. 일상적인 트레이싱 경험은 비슷하므로, 많은 팀이 자신의 프레임워크와 호스팅 제약에 맞는 쪽으로 시작합니다.
