LiteLLM

LiteLLM, 100'den fazla büyük dil modelini tek bir standart arayüz üzerinden OpenAI formatında çağırmayı sağlayan açık kaynaklı bir yapay zeka ağ geçididir. Hem doğrudan Python SDK olarak entegre edilebilir hem de ekipler için merkezi bir proxy sunucusu olarak barındırılabilir. Sanal anahtarlar, harcama takibi, güvenlik sınırları ve yük dengeleme gibi üretim ortamına yönelik özellikler barındırır.

LI

BerriAI · MLOps & Yapay Zeka Altyapısı

YILDIZ62.4K
ÇATAL12.9K
COMMIT0
KATKICI0
SÜRÜM—
GÜNCELLEMEbugün
PythonLLM ProxyLoad BalancingAPI Ağ GeçidiMIT (çekirdek) + ticari enterprise/

Bu kategorideki yaygın ticari ürünler: Weights & Biases, Amazon SageMaker, Databricks

Ne yapar?
  • Farklı sağlayıcılara ait yüzün üzerindeki büyük dil modelini tek bir birleşik arayüz üzerinden çağırırsın.
  • Python SDK kullanarak doğrudan kütüphane entegrasyonu sağlarsın veya proxy sunucusunu merkezi bir servis olarak dağıtırsın.
  • Sanal anahtarlar oluşturarak harcama takibi ve yönetim paneli üzerinden denetim gerçekleştirirsin.
Dikkat
  • • Yüksek açık issue sayısı (5.582)
  • • Yayınlanmış sürüm yok
Kullanıcı yorumları
  • • NötrHacker News

    PyPI'de Uzlaşmalı LiteLLM 1.107.0 Bir Kimlik Hırsızı ve Arka Kapı Kuruyor

    “cook.pth, kurulumda PyPI'dan otomatik olarak indirilen ve daha sonra yapı sistemi bağımlılıklara sokan bir bağımlılık mıydı? Bu, tüm bir paketin adı değil, pakete dahil edilen tek bir dosyadır. .pth dosyaları Python'un içe aktarma sisteminin bir parçasıdır. Şeyde...”

  • • NötrHacker News

    PyPI'de Uzlaşmalı LiteLLM 1.107.0 Bir Kimlik Hırsızı ve Arka Kapı Kuruyor

    “Claude'un özel çözümü LiteLLM'den daha az güvenliyse, sizi bir güvenlik açığı hakkında bilgilendiren bir haber olmayacaktır.”

Web Sitesi GitHub

README ile doğrulandı · 26 Eki 2026 · kaynak

Notum

Alternatif sayfaları

Aynı kategoride: MLOps & Yapay Zeka Altyapısı