Tout l'open source
Open SourceAnalytics6k

OpenLLMetry

Observabilité basée sur OpenTelemetry pour les LLMs, les vector DBs et les frameworks d'agents.

OpenLLMetry, de Traceloop, est un ensemble d'extensions open-source construites sur OpenTelemetry qui ajoutent une visibilité complète dans les applications LLM. Il instrumente automatiquement des fournisseurs comme OpenAI et Anthropic, des bases de données vectorielles et des frameworks tels que LangChain et LlamaIndex, puis exporte des traces OTel standard vers n'importe quel backend compatible. Étant non propriétaire, la télémétrie peut être envoyée à Datadog, Grafana, Honeycomb ou Traceloop lui-même.

Dépôt

traceloop/openllmetry

Langage

Python

Ce que vous pourriez construire avec

  • Ajouter le tracing LLM et vector-DB à une application avec quelques lignes grâce à OpenTelemetry
  • Envoyer des spans de tokens, de coûts et de latence vers un backend OTel existant comme Grafana ou Datadog
  • Standardiser l'observabilité des agents sur plusieurs frameworks sans dépendance à un fournisseur

Tags

llm-observabilityopentelemetrytracinginstrumentation