HAMi

HAMi (Heterogeneous AI Computing Virtualization Middleware), Kubernetes üzerinde GPU ve diğer yapay zeka hızlandırıcılarını paylaştırmak ve zamanlamak için bir ara katman yazılımıdır. Cihazı bellek, çekirdek veya adet bazında bölme, iş yükü başına bellek/hesaplama sınırı ve topoloji farkında zamanlama sunar. NVIDIA, Ascend, Cambricon, Hygon gibi farklı üreticilerin cihazlarını destekler; CNCF projesidir.

HA

HAMi

Yeni80

Project-HAMi · Konteyner & Kubernetes

YILDIZ5.0K
ÇATAL879
COMMIT0
KATKICI0
SÜRÜMv2.10.0
GÜNCELLEMEbugün
ascendcambriconcncfdevice-pluginApache-2.0

Bu kategorideki yaygın ticari ürünler: Docker Desktop, Red Hat OpenShift, Amazon EKS

Ne yapar?
  • Fiziksel bir GPU'yu bellek, çekirdek veya cihaz sayısına göre bölüp birden fazla pod'a paylaştırabilirsin.
  • İş yükü başına hızlandırıcı belleği ve hesaplama sınırı uygulayabilirsin.
  • Topoloji farkında, binpack veya spread politikalarıyla pod'ları cihazlara yerleştirebilirsin.
Kullanıcı yorumları
  • • NötrGitHub Issue

    Who's using HAMi

    “Sincerely thank you for using and continuing to pay attention to HAMi. In order to better build the community and attract more people to use and contribute to HAMi to strengthen the community, please comment the following information in the issue: Your company, school or…”

  • ↓ OlumsuzGitHub Issue

    [Performance] High latency (~1 minute) when hundreds of processes initialize libvgpu.so concurrently

    “# [Performance] High latency (~1 minute) when hundreds of processes initialize libvgpu.so concurrently ## Summary In a high-density vGPU deployment scenario, when hundreds of processes start simultaneously and initialize CUDA, each process experiences significant startup delay…”

Web Sitesi GitHub

README ile doğrulandı · 29 Eki 2026 · kaynak

Notum

Alternatif sayfaları

Aynı kategoride: Konteyner & Kubernetes