HAMi
HAMi (Heterogeneous AI Computing Virtualization Middleware), Kubernetes üzerinde GPU ve diğer yapay zeka hızlandırıcılarını paylaştırmak ve zamanlamak için bir ara katman yazılımıdır. Cihazı bellek, çekirdek veya adet bazında bölme, iş yükü başına bellek/hesaplama sınırı ve topoloji farkında zamanlama sunar. NVIDIA, Ascend, Cambricon, Hygon gibi farklı üreticilerin cihazlarını destekler; CNCF projesidir.
Project-HAMi · Containers & Kubernetes
Common commercial products in this category: Docker Desktop, Red Hat OpenShift, Amazon EKS
- Fiziksel bir GPU'yu bellek, çekirdek veya cihaz sayısına göre bölüp birden fazla pod'a paylaştırabilirsin.
- İş yükü başına hızlandırıcı belleği ve hesaplama sınırı uygulayabilirsin.
- Topoloji farkında, binpack veya spread politikalarıyla pod'ları cihazlara yerleştirebilirsin.
- • NeutralGitHub Issue
Who's using HAMi
“Sincerely thank you for using and continuing to pay attention to HAMi. In order to better build the community and attract more people to use and contribute to HAMi to strengthen the community, please comment the following information in the issue: Your company, school or…”
- ↓ NegativeGitHub Issue
[Performance] High latency (~1 minute) when hundreds of processes initialize libvgpu.so concurrently
“# [Performance] High latency (~1 minute) when hundreds of processes initialize libvgpu.so concurrently ## Summary In a high-density vGPU deployment scenario, when hundreds of processes start simultaneously and initialize CUDA, each process experiences significant startup delay…”
Verified against README · Oct 29, 2026 · source
My note
Alternative pages
More in: Containers & Kubernetes
- kubernetes★ 128,554 · today
- etcd★ 52,432 · 2 days ago
- awesome-cheatsheets★ 46,600 · 14 days ago
- full-stack-fastapi-template★ 46,127 · 5 days ago
- compose★ 38,532 · yesterday
- istio★ 38,476 · today