Open SourceAnalytics6k
OpenLLMetry
Observabilité basée sur OpenTelemetry pour les LLMs, les vector DBs et les frameworks d'agents.
OpenLLMetry, de Traceloop, est un ensemble d'extensions open-source construites sur OpenTelemetry qui ajoutent une visibilité complète dans les applications LLM. Il instrumente automatiquement des fournisseurs comme OpenAI et Anthropic, des bases de données vectorielles et des frameworks tels que LangChain et LlamaIndex, puis exporte des traces OTel standard vers n'importe quel backend compatible. Étant non propriétaire, la télémétrie peut être envoyée à Datadog, Grafana, Honeycomb ou Traceloop lui-même.
Dépôt
traceloop/openllmetryLangage
PythonCe que vous pourriez construire avec
- Ajouter le tracing LLM et vector-DB à une application avec quelques lignes grâce à OpenTelemetry
- Envoyer des spans de tokens, de coûts et de latence vers un backend OTel existant comme Grafana ou Datadog
- Standardiser l'observabilité des agents sur plusieurs frameworks sans dépendance à un fournisseur
Tags
llm-observabilityopentelemetrytracinginstrumentation