NVIDIA H200 kiralama

NVIDIA H200 nedir?

NVIDIA H200, 141 GB HBM3e bellek ve 4,8 TB/s bant genişliğine sahip, Hopper mimarili bir veri merkezi GPU'sudur; 70B sınıfı bir modeli FP8'de tek kartta çalıştırabilir. Bizde H200 sunucular İstanbul Bağcılar'daki kendi tesisimizde paylaşımsız olarak aylık kiralanır: GPU başına aylık $3.000, yıllık kiralamada aylık $2.400 (KDV hariç).

H100 ile aynı Hopper mimarisini kullanan H200'ü NVIDIA 13 Kasım 2023'te duyurdu; haberlerde "H200 çipi" olarak da geçer. Bellek kapasitesinin ve bant genişliğinin belirleyici olduğu işler için tasarlanmıştır: uzun bağlam pencereleri, büyük batch'lerle servis ve büyük modelleri daha az GPU'yla çalıştırmak.

• En uygun işler: 70B ve üzeri modellerin servisi, uzun bağlam (RAG, belge analizi), büyük modellerin ince ayarı, çok GPU'lu eğitim.
• Bellek: 141 GB; H100'ün yaklaşık 1,8 katı.
• Ne zaman başka kart? Modeliniz 80 GB'a sığıyorsa H100, tek GPU'ya sığan işlerde RTX PRO 6000 daha ekonomiktir.

H200 hangi işler için kiralanır?

• Büyük modellerin servisi: Llama 3.3 70B gibi modeller FP8'de tek H200'e sığar. Modeli iki karta bölmek gerekmediği için GPU'lar arası iletişim yükü ortadan kalkar.
• Uzun bağlam ve yüksek eşzamanlılık: KV önbelleği, bağlam uzunluğu ve eşzamanlı istek sayısıyla büyür. Ağırlıklardan sonra kalan geniş bellek, bir LLM inference sunucusunda daha uzun bağlam ve daha çok eşzamanlı kullanıcı demektir.
• Bant genişliği: 4,8 TB/s, tek kullanıcıdaki token üretim hızının üst sınırını belirler; H100'ün sürüme göre 2,0–3,35 TB/s'lik bant genişliğine göre belirgin bir artıştır. NVIDIA'nın kendi ölçümüne göre H200 SXM, Llama 2 70B çıkarımında H100 SXM sürümünün 1,9 katı işlem hacmine ulaşır; bu ölçümde H200 32'lik, H100 ise 8'lik batch'le çalıştırılmıştır. H200 NVL için NVIDIA, H100 NVL sürümüne göre 1,7 kata kadar daha hızlı LLM çıkarımı belirtir. Bunlar üretici verileridir.
• Eğitim: Tensör performansı H100 ile aynı sınıftadır (FP8'de seyrekliksiz 1.671–1.979 TFLOPS, sürüme göre). Fark, daha büyük batch'leri ve modelleri daha az GPU'yla eğitebilmektir.
• Kartı bölmek (MIG): H200, MIG ile en fazla 7 bağımsız bölüme ayrılabilir; küçük işler aynı kartta birbirinden yalıtılmış olarak çalışır.

Tek H200'e hangi modeller sığar?

Değerler VRAM hesaplayıcımızla hesaplandı: 8.192 token bağlam, tek eşzamanlı istek ve BF16 KV önbelleği. Kartın belleğinin yaklaşık %92'si iş yüküne ayrılabilir; 141 GB'lık H200'de bu yaklaşık 129,7 GB eder.

Kart sayıları, hesaplayıcımızdaki gibi 1, 2, 4 ya da 8'e yuvarlandı. "—" olan hücrelerde model o hassasiyette yayımlanmadı: gpt-oss-120b'nin MoE ağırlıkları MXFP4 (4-bit), DeepSeek V3 / R1'in ağırlıkları ise yalnızca FP8 olarak yayımlandı.

İnce ayarda (2.048 token, batch 1, gradient checkpointing açık) Llama 3.3 70B için QLoRA 50,5 GB, Qwen3 32B için LoRA 72,2 GB ister; ikisi de tek H200'e sığar. Llama 3.3 70B'nin LoRA'sı 152 GB ile 2 kart ister. Tam ince ayarda Llama 3.1 8B 131,6 GB, Qwen3 14B 240,7 GB gerektirir; ikisi de 2 H200'e sığar. Sürenin ve bütçenin nasıl hesaplanacağını LLM fine-tuning maliyeti rehberimizde anlattık.

Sekiz H200'ün toplam belleği 1.128 GB eder; DeepSeek V3 gibi çok büyük MoE modelleri FP8'de tek sunucuda çalıştırmak için yeterlidir. Tek siparişte en fazla 8 GPU kiralanabilir.

H200 SXM ve H200 NVL farkı nedir?

H200'ün iki sürümü vardır: SXM ve NVL. İkisinde de 141 GB HBM3e bellek ve 4,8 TB/s bant genişliği bulunur; fark kart biçiminde, güç sınırında ve buna bağlı hesap gücündedir.

Sayfadaki aralıklı değerler iki sürümü de kapsar. Sürüm işiniz için önemliyse bunu sipariş formundaki mesaj alanına yazın.

H200'ün alternatifleri: H100, RTX PRO 6000 ve MI300X

• H100: Aynı mimari ve benzer hesap gücü, ama 80 GB bellek. Modeliniz 80 GB'a sığıyor ve eğitim hesap gücüne bağlıysa H100 daha ekonomiktir. Ayrıntılar: H100 ve H200 karşılaştırması.
• RTX PRO 6000: 96 GB bellekle 70B'yi FP8'de tek kartta çalıştırır ve daha ekonomiktir; ancak bant genişliği daha düşüktür ve NVLink'i yoktur.
• AMD MI300X: 192 GB bellek sunar, ancak CUDA yerine ROCm platformunu kullanır ve filomuzda yoktur. Farkları MI300X rehberimizde anlattık.

H200 fiyatı: aylık kiralama, bulut ve satın alma

Bizde H200'ün aylık fiyatı GPU başına $3.000; yıllık kiralamada %20 indirimle aylık $2.400. Fiyatlara KDV dahil değildir. Aylık fiyatın saatlik karşılığı (730 saat) yaklaşık $4,11.

Global GPU bulutlarında H200'ün saatlik fiyatları (getdeploying.com, 23 Ekim 2026):

Global bulutlarda kullandığınız saat kadar ödersiniz; bizde kiralama en az 1 aydır, fiyat aylık sabittir ve fatura Türk lirası olarak kesilir. Fiyatlar sağlayıcıya, bölgeye ve stok durumuna göre değişir; güncel fiyatı sağlayıcının sayfasından kontrol edin. Ayda yalnızca birkaç saatlik bir iş için saatlik bir bulut daha ucuz olabilir; sürekli çalışan servislerde aylık sabit fiyat bütçeyi öngörülebilir kılar. İki modelin farkını bulut GPU mu, fiziksel GPU sunucusu mu rehberimizde ele aldık.

Satın alma fiyatı: NVIDIA, H200 için ürün sayfasında liste fiyatı yayımlamaz. NVIDIA'ya göre H200 SXM, 4 ya da 8 GPU'lu HGX H200 sistemleriyle; H200 NVL ise 8 GPU'ya kadar MGX sunucularla, iş ortakları ve sistem üreticileri üzerinden sunulur. NVIDIA'nın kendi sistemi DGX H200'de 8 H200 ve toplam 1.128 GB GPU belleği bulunur. Fiyat yapılandırmaya göre değişir; satın almada sunucu, elektrik, soğutma ve barındırma maliyeti de hesaba girer. Bu karşılaştırmayı GPU kiralama mı, satın alma mı? rehberimizde yaptık.

Teslim, kurulum ve konum

• Size ayrılmış GPU: Kiraladığınız H200 başka müşterilerle paylaşılmaz. Tek siparişte en fazla 8 GPU kiralayabilirsiniz.
• Sunucu kaynakları: Tek GPU'lu sunucuda 36 çekirdek CPU, 212 GB RAM, 1 TB SSD, size özel IP adresi vardır; GPU sayısı arttıkça işlemci çekirdeği ve RAM aynı oranda artar. H200 GPU'lar arasında 900 GB/s NVLink'i destekler; belirli bir topolojiyi garanti etmiyoruz, ihtiyacınızı sipariş formundaki mesaj alanına yazın.
• Konum: Sunucular İstanbul Bağcılar'daki kendi tesisimizde, UPS, jeneratör desteği ve yedekli internet bağlantısıyla çalışır. Verileriniz Türkiye'de kalır. Fiyatlar ABD doları cinsindendir; fatura, düzenlendiği günkü TCMB döviz satış kuruyla Türk lirası olarak e-fatura şeklinde kesilir.
• Teslim: Siparişinizden sonra sizinle görüşüp kurulum ve teslim tarihini birlikte planlıyoruz; tarihi ödemeden sonra yazılı bildiririz ve 10 iş gününden fazla gecikirse ödemenizin tamamını iade ederiz. Teslimden sonra aylık %99,5 erişilebilirlik hedefi ve 7/24 acil destek geçerlidir (SLA ve destek).

Özet

• H200, Hopper mimarisini 141 GB HBM3e bellek ve 4,8 TB/s bant genişliğiyle birleştirir; bellek ve bant genişliğinin belirleyici olduğu işler içindir.
• Llama 3.3 70B FP8'de tek H200'e sığar; Qwen3 235B-A22B 4-bit'te 2, DeepSeek V3 FP8'de 8 H200 ister.
• Modeliniz 80 GB'a sığıyorsa H100, tek GPU'ya sığan işlerde RTX PRO 6000 daha ekonomiktir.
• Bizde aylık $3.000; global bulutlarda saatlik medyan 23 Ekim 2026 itibarıyla $4,63.

Kaynaklar

• NVIDIA H200 Tensor Core GPU
• NVIDIA Newsroom: NVIDIA Supercharges Hopper, the World's Leading AI Computing Platform (13 Kasım 2023)
• NVIDIA DGX H100/H200 User Guide: Introduction
• Hugging Face: openai/gpt-oss-120b
• Hugging Face: deepseek-ai/DeepSeek-V3
• Hugging Face: deepseek-ai/DeepSeek-R1
• NVIDIA Multi-Instance GPU (MIG) User Guide
• getdeploying.com: NVIDIA H200 bulut fiyatları