Açık KaynakAnalitik16k
Langfuse
İzleme, değerlendirme ve istem yönetimi için açık kaynaklı LLM mühendislik platformu.
Langfuse, LLM uygulamaları için özel olarak tasarlanmış açık kaynaklı bir gözlemlenebilirlik ve analiz platformudur. Ajan ve zincir yürütmelerinin iç içe izlerini yakalar, token kullanımı ile maliyeti takip eder; değerlendirme, istem yönetimi ve veri seti araçları sunar. OpenAI SDK, LangChain, LlamaIndex ve OpenTelemetry ile entegre olur; Postgres ve ClickHouse ile kendi altyapınızda barındırılabilir.
Depo
langfuse/langfuseDil
TypeScriptBununla neler kurabilirsin
- Gecikme, maliyet ve hatalı çıktıları hata ayıklamak için çok adımlı ajan ve RAG pipeline'larını izleme
- Regresyonları yakalamak amacıyla seçilmiş veri setlerine karşı çevrimdışı ve çevrimiçi LLM değerlendirmeleri çalıştırma
- Uygulamayı yeniden dağıtmadan merkezi bir UI'dan istemleri sürümleme ve A/B testi yapma
Etiketler
llm-observabilitytracingevalsself-hosted