مفتوح المصدرتحليلات6k
OpenLLMetry
رصد قائم على OpenTelemetry لنماذج LLM وقواعد بيانات المتجهات وأُطر عمل الوكلاء.
OpenLLMetry، من Traceloop، هو مجموعة من الامتدادات مفتوحة المصدر المبنية على OpenTelemetry تُضيف رؤية كاملة لتطبيقات LLM. يُوثّق تلقائياً مزودي الخدمة مثل OpenAI وAnthropic، وقواعد بيانات المتجهات، وأُطر عمل كـ LangChain وLlamaIndex، ثم يُصدّر تتبعات OTel قياسية إلى أي واجهة خلفية متوافقة. نظراً لأنه غير احتكاري، يمكن إرسال بيانات القياس إلى Datadog أو Grafana أو Honeycomb أو Traceloop نفسه.
المستودع
traceloop/openllmetryاللغة
Pythonما الذي يمكنك بناؤه به
- إضافة تتبع LLM وقاعدة بيانات المتجهات إلى تطبيق ببضعة أسطر باستخدام OpenTelemetry
- إرسال نطاقات الرموز والتكلفة وزمن الاستجابة إلى واجهة OTel خلفية موجودة مثل Grafana أو Datadog
- توحيد رصد الوكلاء عبر أُطر العمل دون الارتباط بمورد بعينه
الوسوم
llm-observabilityopentelemetrytracinginstrumentation