vllm-omni
vLLM'i omni modaliteli modellere genişleten çıkarım ve servis framework'üdür. Metin, görüntü, ses, video ve eylem verisini işler; Diffusion Transformer gibi otoregresif olmayan mimarileri destekler. Apache 2.0 lisanslıdır.
VL
vllm-project · MLOps & AI Infrastructure
STARS7.4K
FORKS2.0K
COMMITS0
CONTRIBUTORS0
VERSIONv0.30.0
UPDATEDtoday
audio-generationDiffusionimage-generationInferenceApache-2.0
Common commercial products in this category: Weights & Biases, Amazon SageMaker, Databricks
What can it do?
- Qwen3-Omni gibi omni modaliteli modelleri servis edebilirsin
- Metin, görüntü, ses, video ve eylem verisini tek çıkarım çatısında işleyebilirsin
- Diffusion Transformer gibi otoregresif olmayan modelleri vLLM üzerinde çalıştırabilirsin
Heads up
- • High number of open issues (1,832)
Verified against README · Oct 30, 2026 · source