optillm
OptiLLM, model eğitimi gerektirmeyen ve akıl yürütme görevlerinde başarım oranını artıran OpenAI API uyumlu bir çıkarım ve optimizasyon sunucusudur. Yazılım; best-of-N, MCTS, planlama ve Mixture of Agents gibi 20'den fazla optimizasyon tekniğini destekler. LiteLLM entegrasyonu sayesinde OpenAI, Anthropic, Google ve 100'den fazla modeli proxy üzerinden çalıştırabilir.
algorithmicsuperintelligence · API Ağ Geçidi & İstemci
Bu kategorideki yaygın ticari ürünler: Apigee, AWS API Gateway, Azure API Management
- Mevcut API çağrılarını OptiLLM üzerinden yönlendirerek model eğitimi yapmadan matematik, kodlama ve mantıksal akıl yürütme görevlerinde doğruluk oranını artırırsın.
- OpenAI uyumlu istemcilerde model adlarına ön ek ekleyerek Mixture of Agents veya benzeri gelişmiş optimizasyon tekniklerini devreye sokarsın.
- LiteLLM desteği ile OpenAI, Anthropic ve Google dahil 100'den fazla farklı modeli tek bir proxy uç noktası üzerinden yönetirsin.
- • NötrHacker News
Optillm: Eklentilerle Optimize Edici Bir Çıkarım Proxy'si
“Optillm, test zamanı hesaplamasını kullanarak yanıtların doğruluğunu iyileştirmeyi amaçlayan bir düzineden fazla teknik içeren optimize bir çıkarım vekilidir. Son birkaç ay içinde, gpt-4o-mini gibi daha küçük ve daha az yetenekli modeller kullanarak birkaç SOTA sonucu belirledik. Son zamanlarda...”
- • NötrGitHub Issue
z3-çözücü yüklenemiyor, lean4 desteklemek mümkün mü?
“Merhaba 1.Can yüklemek z3 çözücü, lean4 desteklemek mümkün mü? 2.Is alfageometriyi desteklemek mümkün mü? Geometri problemleri için, alfageometriye giden yol, ama ne kadar çaba harcayacağımı bilmiyorum?”
Notum
Alternatif sayfaları
Aynı kategoride: API Ağ Geçidi & İstemci
- Caddy★ 78.586 · dün
- Kong Gateway★ 44.332 · 12 gün önce
- HTTPie★ 38.687 · 1 yıl önce
- Nginx Proxy Manager★ 34.592 · 10 gün önce
- Nginx★ 32.017 · dün
- Envoy Proxy★ 29.159 · bugün