openllmetry
OpenLLMetry, OpenTelemetry altyapısını kullanarak üretken yapay zeka ve LLM uygulamaları için gözlenebilirlik sağlayan açık kaynaklı bir uzantı setidir. Standart OpenTelemetry verileri ürettiği için mevcut gözlenebilirlik araçlarınızla doğrudan entegre edilebilir. LLM sağlayıcıları ve vektör veritabanları için standart izleme araçları içerir.
traceloop · Gözlemlenebilirlik / Datadog Alternatifleri
Bu kategorideki yaygın ticari ürünler: Datadog, New Relic, Dynatrace
- Traceloop SDK kullanarak Python kodunuzda LLM izleme işlemlerini başlatabilirsin.
- Toplu veri gönderimini devre dışı bırakarak izleme verilerini yerelde hemen görüntüleyebilirsin.
- Ürettiğin verileri Datadog, Honeycomb ve Azure Application Insights gibi mevcut sistemlerine bağlayabilirsin.
- • Yüksek açık issue sayısı (820)
- ↓ OlumsuzHacker News
HN'yi göster: OpenLLMetry – LLM'ler için OpenTelemetri tabanlı gözlemlenebilirlik
“Nir'in cevabını buraya eklemek için: Uygulamanızın RAG boru hattı gibi dinamik olarak bir istemi oluşturmak için birkaç adım attığını varsayalım. Uygulamaya bağlı olarak potansiyel olarak her kullanıcı için farklı bir istekle sonuçlanacaksınız. Sonuç olarak, büyük ihtimalle...”
- • NötrHacker News
HN'yi göster: OpenLLMetry – LLM'ler için OpenTelemetri tabanlı gözlemlenebilirlik
“OpenLLMetry'yi doğrudan OTEL'i kullanmaya kıyasla kullanmanın farkı nedir? Gerekli nitelikler için konvansiyonlar olmaması sorunu mu?”