vllm-omni
vLLM'i omni modaliteli modellere genişleten çıkarım ve servis framework'üdür. Metin, görüntü, ses, video ve eylem verisini işler; Diffusion Transformer gibi otoregresif olmayan mimarileri destekler. Apache 2.0 lisanslıdır.
VL
vllm-project · MLOps & Yapay Zeka Altyapısı
YILDIZ7.4K
ÇATAL2.0K
COMMIT0
KATKICI0
SÜRÜMv0.30.0
GÜNCELLEMEbugün
audio-generationDifüzyonimage-generationÇıkarımApache-2.0
Bu kategorideki yaygın ticari ürünler: Weights & Biases, Amazon SageMaker, Databricks
Ne yapar?
- Qwen3-Omni gibi omni modaliteli modelleri servis edebilirsin
- Metin, görüntü, ses, video ve eylem verisini tek çıkarım çatısında işleyebilirsin
- Diffusion Transformer gibi otoregresif olmayan modelleri vLLM üzerinde çalıştırabilirsin
Dikkat
- • Yüksek açık issue sayısı (1.832)
README ile doğrulandı · 30 Eki 2026 · kaynak