Open SourceAnalytics6k
OpenLLMetry
OpenTelemetry-gebaseerde observability voor LLM's, vector-DB's en agent-frameworks.
OpenLLMetry, van Traceloop, is een set open-source extensies gebouwd op OpenTelemetry die volledige zichtbaarheid toevoegen aan LLM-applicaties. Het auto-instrumenteert providers zoals OpenAI en Anthropic, vector-databases en frameworks zoals LangChain en LlamaIndex, en exporteert vervolgens standaard OTel-traces naar elk compatibel back-end. Omdat het niet-eigendomsgebonden is, kan telemetrie worden verzonden naar Datadog, Grafana, Honeycomb of Traceloop zelf.
Opslagplaats
traceloop/openllmetryTaal
PythonWat je ermee zou bouwen
- Voeg LLM- en vector-DB-tracing toe aan een app met een paar regels via OpenTelemetry
- Stuur token-, kosten- en latency-spans naar een bestaand OTel-back-end zoals Grafana of Datadog
- Standaardiseer agent-observability over frameworks heen zonder vendor lock-in
Tags
llm-observabilityopentelemetrytracinginstrumentation