Helicone
한 줄 프록시로 붙이는 오픈소스 LLM 관측 — 로깅·캐싱·비용 추적
BerriAI
100개 이상의 LLM API를 하나의 OpenAI 스타일 인터페이스로 호출하고, 라우팅·폴백·비용 추적 프록시까지 제공합니다.