Código abiertoAnalytics6k

OpenLLMetry

Observabilidad basada en OpenTelemetry para LLMs, bases de datos vectoriales y frameworks de agentes.

OpenLLMetry, de Traceloop, es un conjunto de extensiones open-source construidas sobre OpenTelemetry que añaden visibilidad completa a las aplicaciones LLM. Instrumenta automáticamente proveedores como OpenAI y Anthropic, bases de datos vectoriales y frameworks como LangChain y LlamaIndex, y exporta trazas OTel estándar a cualquier backend compatible. Al ser no propietario, la telemetría puede enviarse a Datadog, Grafana, Honeycomb o al propio Traceloop.

Ver repo

Repositorio

traceloop/openllmetry

Lenguaje

Python

Lo que construirías con esto

Añadir trazabilidad de LLM y bases de datos vectoriales a una aplicación con pocas líneas usando OpenTelemetry
Enviar spans de tokens, coste y latencia a un backend OTel existente como Grafana o Datadog
Estandarizar la observabilidad de agentes entre frameworks sin dependencia de un proveedor

Etiquetas

llm-observabilityopentelemetrytracinginstrumentation