h2o-llmstudio
H2O LLM Studio, büyük dil modellerinin ince ayar (fine-tuning) süreçleri için geliştirilmiş bir çerçeve ve grafiksel kullanıcı arayüzüdür. Kod yazma gereksinimi olmadan LoRA ve 8-bit eğitim gibi teknikleri kullanarak modelleri özelleştirmeye olanak tanır. Ayrıca model performansını görselleştirme, değerlendirme ve Hugging Face Hub üzerinden dışa aktarma imkanı sunar.
h2oai · Yerel Yapay Zeka / Kendi Sunucunda LLM
Bu kategorideki yaygın ticari ürünler: ChatGPT, Claude, Gemini
- Kod yazmadan grafiksel arayüz üzerinden büyük dil modellerine ince ayar yapabilirsin.
- LoRA ve 8-bit eğitim teknikleriyle düşük bellek kullanımıyla model eğitebilirsin.
- Eğittiğin modelleri Hugging Face Hub platformuna kolayca aktarabilirsin.
- ↓ OlumsuzGitHub Issue
[BUG] Llama 3.1 70B modeli için HF yüklemesinde LoRA-merge sırasında hata
“Bug Today, LoRA eğitimli bir Llama 3.1 70B modelini yüklemeye çalışırken (ilk kez Llama 3.1'yu eğittim), eLoRA merge sırasında aşağıdakileri vurdum. Not Yüklemek için cpu shard yöntemini kullandım. Aynı hatayla iki kez denedim. 2024-07-24 17:22:58,705 -...”