Open SourceAnalytics6k
OpenLLMetry
Osservabilità basata su OpenTelemetry per LLM, vector DB e framework agentici.
OpenLLMetry, di Traceloop, è un insieme di estensioni open-source costruite su OpenTelemetry che aggiungono piena visibilità alle applicazioni LLM. Auto-instrumenta provider come OpenAI e Anthropic, database vettoriali e framework come LangChain e LlamaIndex, esportando poi trace OTel standard verso qualsiasi backend compatibile. Essendo non proprietario, la telemetria può essere inviata a Datadog, Grafana, Honeycomb o a Traceloop stesso.
Repository
traceloop/openllmetryLinguaggio
PythonCosa ci costruiresti
- Aggiungere tracing per LLM e vector DB a un'app con poche righe usando OpenTelemetry
- Inviare span di token, costo e latenza a un backend OTel esistente come Grafana o Datadog
- Standardizzare l'osservabilità degli agenti tra framework senza vendor lock-in
Tag
llm-observabilityopentelemetrytracinginstrumentation