---
tags: [AI-Agent, 도구, Monitoring]
---

# Langfuse

> 오픈소스 LLM 엔지니어링·관측성 플랫폼. 트레이싱, 평가, 프롬프트 관리, 비용 추적을 제공하며 셀프호스트가 가능하다.

## 특징
- **트레이싱**: 중첩된 trace/span 구조로 LLM 호출, 도구 사용, 리트리벌 단계를 계층적으로 기록한다.
- **평가**: 사용자·LLM-as-judge·수동 점수 등 다양한 방식의 스코어를 수집하고 데이터셋 기반 평가를 지원한다.
- **프롬프트 관리**: 프롬프트 버전 관리와 런타임 배포를 지원한다.
- **비용·사용량 분석**: 모델별 토큰·비용·지연 통계를 대시보드로 제공한다.
- OpenTelemetry 호환 계측을 지원해 표준 트레이싱 파이프라인과 연동된다.

## 에이전트에서의 활용
- 에이전트 실행을 trace로 캡처해 도구 호출·리트리벌·LLM 단계의 병목과 실패 지점을 분석한다.
- 운영 트래픽에서 품질 스코어와 비용을 함께 모니터링한다.
- LangChain·LlamaIndex·OpenAI SDK 등과 통합 SDK를 제공하며 프레임워크 비종속적으로 쓸 수 있다.

## 장단점
- **장점**: 오픈소스·셀프호스트 가능(데이터 주권), 프레임워크 중립, OpenTelemetry 연동.
- **단점**: 셀프호스트 시 운영 부담이 있고, 매니지드 클라우드는 별도 플랜이 필요하다.

## 언제 쓰나
- 데이터를 자체 인프라에 두고 싶거나, 특정 프레임워크에 묶이지 않는 오픈소스 LLM 관측성이 필요할 때.

https://langfuse.com

## 관련 노트
- [[Tracing]]
- [[Agent Evaluation]]
- [[Cost Monitoring]]
- [[LangSmith]]
- [[OpenTelemetry]]
- [[Logging]]