ms-swift
ms-swift, büyük dil modelleri ve çok modlu modeller için eğitim, çıkarım, değerlendirme ve dağıtım süreçlerini kapsayan bir çerçevedir. PEFT ve tam parametreli ince ayar yöntemlerini desteklerken, Megatron paralellik teknikleri ve çeşitli pekiştirmeli öğrenme algoritmaları ile donatılmıştır. Çok sayıda donanım mimarisi üzerinde çalışabilen yapı, bellek optimizasyonu ve nicemleme teknolojileri ile geniş ölçekli model eğitimine olanak tanır.
MS
ms-swift
100modelscope · Yerel Yapay Zeka / Kendi Sunucunda LLM
YILDIZ16.0K
ÇATAL1.8K
COMMIT3.7K
KATKICI213
SÜRÜMv4.5.3
GÜNCELLEMEdün
PythonLLM Fine-tuningMultimodalModel DağıtımıApache-2.0
Bu kategorideki yaygın ticari ürünler: ChatGPT, Claude, Gemini
Ne yapar?
- 600'den fazla metin tabanlı ve 400'den fazla çok modlu modeli kendi veri setlerinle eğitebilirsin.
- vLLM, SGLang ve LMDeploy gibi araçları kullanarak modellerini hızlıca çıkarım için dağıtabilirsin.
- LoRA, QLoRA ve çeşitli nicemleme teknikleriyle sınırlı donanım kaynaklarında model eğitimi yapabilirsin.
Dikkat
- • Yüksek açık issue sayısı (602)