Langfuse

Open-Source-LLM-Engineering-Plattform für Tracing, Evals und Prompt-Management.

Langfuse ist eine Open-Source-Observability- und Analytics-Plattform, die speziell für LLM-Anwendungen entwickelt wurde. Sie erfasst verschachtelte Traces von Agenten- und Chain-Ausführungen, verfolgt Token-Nutzung und Kosten und bietet Evaluation, Prompt-Management und Dataset-Tooling. Es integriert sich mit dem OpenAI SDK, LangChain, LlamaIndex und OpenTelemetry und kann mit Postgres und ClickHouse selbst gehostet werden.