Open SourceAnalytics6k
OpenLLMetry
OpenTelemetry-basierte Observability für LLMs, Vector DBs und Agenten-Frameworks.
OpenLLMetry von Traceloop ist eine Reihe von Open-Source-Erweiterungen auf Basis von OpenTelemetry, die vollständige Transparenz in LLM-Anwendungen bringen. Es instrumentiert automatisch Anbieter wie OpenAI und Anthropic, Vector-Datenbanken und Frameworks wie LangChain und LlamaIndex, und exportiert Standard-OTel-Traces an jeden kompatiblen Backend. Da es nicht proprietär ist, können Telemetriedaten an Datadog, Grafana, Honeycomb oder Traceloop selbst gesendet werden.
Repository
traceloop/openllmetrySprache
PythonWas du damit bauen kannst
- LLM- und Vector-DB-Tracing mit wenigen Zeilen per OpenTelemetry zu einer App hinzufügen
- Token-, Kosten- und Latenz-Spans an ein bestehendes OTel-Backend wie Grafana oder Datadog senden
- Agenten-Observability über Frameworks hinweg standardisieren, ohne Vendor-Lock-in
Tags
llm-observabilityopentelemetrytracinginstrumentation