NVIDIA H100 kiralama

Kısa cevap: NVIDIA H100 nedir?

NVIDIA H100, 2022'de duyurulan Hopper mimarili, 80 GB HBM bellekli bir veri merkezi ekran kartıdır (GPU); büyük model eğitimi, tam ince ayar (full fine-tuning) ve yoğun trafikli LLM servisi için tasarlanmıştır. Bizde H100'ü paylaşımsız bir sunucuda GPU başına aylık $2.500 (KDV hariç) kiralayabilirsiniz; sunucular İstanbul Bağcılar'daki kendi tesisimizdedir ve verileriniz Türkiye'de kalır.

Yüksek bant genişlikli belleği, FP8 destekli tensör çekirdekleri ve NVLink desteğiyle özellikle çok GPU'lu işlerde öne çıkar. Kiralama süresi en az 1 aydır; yıllık kiralamada GPU başına aylık $2.000 ödersiniz (KDV hariç).

• En uygun işler: LLM eğitimi ve tam ince ayar, 70B sınıfı modellerin servisi, çok GPU'lu dağıtık eğitim.
• Bellek: 80 GB. 4-bit nicemlenmiş 70B bir model tek karta sığar; FP8'de iki kart gerekir.
• Ne zaman başka kart? Tek GPU'ya sığan inference ve görsel/video üretiminde RTX PRO 6000 daha ekonomiktir; daha fazla bellek için H200.

H100 kaç GB? SXM, PCIe ve NVL farkı

NVIDIA H100'ün SXM ve PCIe sürümlerinde 80 GB, H100 NVL sürümünde 94 GB HBM bellek bulunur. Sürümler bellek türü, bant genişliği, güç sınırı ve GPU'lar arası NVLink hızı bakımından ayrılır. Kiralık H100 planımız 80 GB belleklidir; sayfadaki aralıklı değerler 80 GB'lık SXM ve PCIe sürümlerini kapsar.

SXM sürümünün daha yüksek bant genişliği ve güç sınırı, eğitimde ve token üretiminde PCIe sürümüne göre hız avantajı sağlar. PCIe sürümünde NVLink köprüsü yalnızca iki kartı birbirine bağlar; diğer kartlarla iletişim PCIe üzerinden yürür. Belirli bir sürüme ihtiyacınız varsa sipariş formundaki mesaj alanına yazın.

H100 hangi işler için kiralanır?

• Model eğitimi ve tam ince ayar: Seyrekliksiz tensör performansı BF16'da 756–989 TFLOPS, FP8'de 1.513–1.979 TFLOPS'tur (değerler kartın sürümüne göre değişir). FP8 ile eğitimi NVIDIA'nın Transformer Engine kütüphanesi destekler.
• Yoğun trafikli LLM servisi: 2,0–3,35 TB/s bellek bant genişliği, token üretim hızını belirleyen asıl etkendir. vLLM, SGLang ve TensorRT-LLM gibi motorlarla çok sayıda eşzamanlı isteği karşılar.
• Çok GPU'lu işler: H100, GPU'lar arasında sürüme göre 600–900 GB/s NVLink bağlantısını destekler. Tensor paralellik ve büyük modellerde FSDP gibi iletişimi yoğun işlerde bu bağlantı fark yaratır.
• Paylaşımlı kullanım: MIG ile tek kart en fazla 7 bağımsız bölüme ayrılabilir; küçük servisleri ya da ekip içi deneme ortamlarını birbirinden yalıtılmış olarak çalıştırırsınız.

H100 ile hangi LLM'ler çalışır? Tek karta sığan modeller

Değerler VRAM hesaplayıcımızla hesaplandı: 8.192 token bağlam, tek eşzamanlı istek ve BF16 KV önbelleği. Kartın belleğinin yaklaşık %92'si iş yüküne ayrılabilir; 80 GB'lık H100'de bu yaklaşık 73,6 GB eder.

İnce ayarda (2.048 token, batch 1, gradient checkpointing açık) Qwen3 32B için LoRA 72,2 GB, Llama 3.3 70B için QLoRA 50,5 GB ister; ikisi de tek H100'e sığar. Tam ince ayar ise çok GPU ister: Llama 3.1 8B için 131,6 GB (2 H100), Qwen3 14B için 240,7 GB (4 H100). Yöntemlerin ayrıntısı LLM eğitimi için GPU seçimi rehberimizde.

H100 mü, H200 mü, RTX PRO 6000 mi?

• H200: Aynı Hopper mimarisi ve benzer hesap gücü; ama 141 GB HBM3e bellek ve 4,8 TB/s bant genişliği. 70B'yi FP8'de tek karta sığdırmak, uzun bağlam ve büyük batch için H200; hesap gücünün belirleyici olduğu eğitimlerde fark küçülür. Ayrıntılar: H100 ve H200 karşılaştırması.
• RTX PRO 6000: 96 GB bellekle tek GPU'ya sığan inference, LoRA ince ayarı ve görsel/video üretiminde daha ekonomiktir; NVLink'i yoktur. Ayrıntılar: RTX PRO 6000 ve H100 karşılaştırması.
• A100: Filomuzda yok; H100 ile farklarını H100 ve A100 karşılaştırmamızda anlattık.
• AMD MI300X: 192 GB HBM3 bellek sunar, ancak CUDA yerine AMD'nin ROCm yazılım platformunu kullanır ve filomuzda yoktur. Farkları MI300X rehberimizde anlattık.

H100 fiyatı ne kadar? Aylık kiralama ve satın alma

Bizde H100'ün aylık fiyatı GPU başına $2.500; yıllık kiralamada %20 indirimle aylık $2.000. Fiyatlara KDV dahil değildir. Aylık fiyatın saatlik karşılığı (730 saat) yaklaşık $3,42.

Global GPU bulutlarında H100'ün saatlik fiyatları (getdeploying.com, 23 Ekim 2026):

Global bulutlarda kullandığınız saat kadar ödersiniz; bizde fiyat aylık sabittir ve fatura Türk lirası olarak kesilir. Fiyatlar sağlayıcıya, bölgeye ve stok durumuna göre değişir; güncel fiyatı sağlayıcının sayfasından kontrol edin. Ayda yalnızca birkaç saat GPU kullanacaksanız saatlik bir bulut daha ucuz olabilir. 7/24 çalışan eğitim ve servislerde ise aylık sabit fiyat bütçeyi öngörülebilir kılar. İki seçeneği saatlik bulut mu, aylık sunucu mu yazımızda karşılaştırdık.

Satın alma fiyatı: NVIDIA'nın H100 sayfasında bir satın alma fiyatı yer almaz; kart fiyatı sürüme, satıcıya ve stok durumuna göre değişir. Örneğin Supermicro'nun ABD çevrimiçi mağazası, 80 GB'lık H100 PCIe kartın liste fiyatını 24 Ekim 2026'da 27.295 ABD doları olarak gösteriyor ve ürünü stokta yok olarak işaretliyor. SXM sürümü ise 4 ya da 8 GPU'lu HGX ve 8 GPU'lu DGX sistemleriyle birlikte sunulur. Kart fiyatına sunucu, elektrik, soğutma ve bakım dahil değildir; H100 satın almak mı kiralamak mı kararı için toplam maliyet hesabını adım adım anlattığımız yazımıza bakın.

Türkiye'de H100 kiralama: teslim, kurulum ve konum

• Size ayrılmış GPU: Kiraladığınız H100 başka müşterilerle paylaşılmaz. Tek siparişte en fazla 8 GPU kiralayabilirsiniz.
• Sunucu kaynakları: Tek GPU'lu sunucuda 20 çekirdek CPU, 120 GB RAM, 1 TB SSD, size özel IP adresi vardır; GPU sayısı arttıkça işlemci çekirdeği ve RAM aynı oranda artar. Çok GPU'lu kurulum ve NVLink ihtiyacınızı sipariş formundaki mesaj alanına yazın. Belirli bir NVLink topolojisini garanti etmiyoruz; teslimden sonra nvidia-smi topo -m ile bağlantıları görebilirsiniz.
• Konum: Sunucular İstanbul Bağcılar'daki kendi tesisimizde, UPS, jeneratör desteği ve yedekli internet bağlantısıyla çalışır. Verileriniz Türkiye'de kalır. Fiyatlar ABD doları cinsindendir; fatura, düzenlendiği günkü TCMB döviz satış kuruyla Türk lirası olarak e-fatura şeklinde kesilir.
• Teslim: Siparişinizden sonra sizinle görüşüp kurulum ve teslim tarihini birlikte planlıyoruz; tarihi ödemeden sonra yazılı bildiririz ve 10 iş gününden fazla gecikirse ödemenizin tamamını iade ederiz. Teslimden sonra aylık %99,5 erişilebilirlik hedefi ve 7/24 acil destek geçerlidir (SLA ve destek).

Özet

• H100; 80 GB HBM bellek, FP8 destekli tensör çekirdekleri ve NVLink desteğiyle eğitim ve yoğun LLM servisi için tasarlanmış bir veri merkezi GPU'sudur.
• H100'ün SXM ve PCIe sürümleri 80 GB, NVL sürümü 94 GB belleklidir; kiralık H100 planımız 80 GB'lıktır ve sunucular İstanbul Bağcılar'daki kendi tesisimizde çalışır.
• Tek H100'e BF16'da 32B, 4-bit'te 70B sınıfı modeller sığar; 70B'yi FP8'de çalıştırmak için iki kart gerekir.
• Daha fazla bellek için H200'e, tek GPU'ya sığan işlerde daha ekonomik bir çözüm için RTX PRO 6000'e bakın.
• Bizde aylık $2.500; global bulutlarda saatlik medyan 23 Ekim 2026 itibarıyla $3,80.

Kaynaklar

• NVIDIA H100 Tensor Core GPU
• NVIDIA Technical Blog: NVIDIA Hopper Architecture In-Depth
• NVIDIA Multi-Instance GPU (MIG) User Guide
• getdeploying.com: NVIDIA H100 bulut fiyatları
• NVIDIA H100 PCIe ürün özeti (PB-11133-001_v02, Kasım 2022)
• NVIDIA Newsroom: Hopper mimarisi ve H100 duyurusu (22 Mart 2022)
• Supermicro mağazası: NVIDIA H100 PCIe (GPU-NVH100-80), 24 Ekim 2026'da görüntülendi
• AMD Instinct MI300X belgeleri