# L40S mi, H100 mü? Bellek, Hız ve Kullanım Farkları

- Adres: https://gpukiralama.com.tr/karsilastirma/l40s-vs-h100/
- Son güncelleme: 2026-10-24

L40S, 48 GB belleğiyle inference, görüntü üretimi ve video için ekonomik bir PCIe kartı. H100 ise 80 GB HBM bellek, sürüme göre 2,3–3,9 kat bant genişliği, NVLink ve MIG ile eğitimde ve yoğun trafikli servislerde öne çıkıyor.

| Özellik | NVIDIA L40S | NVIDIA H100 |
|---|---|---|
| Mimari | Ada Lovelace (2023) | Hopper (2022) |
| GPU belleği | 48 GB GDDR6 | 80 GB HBM2e / HBM3 |
| Bellek bant genişliği | 864 GB/s | 2.000–3.350 GB/s |
| FP32 performansı | 91,6 TFLOPS | 51–67 TFLOPS |
| Tensör performansı | 733 TFLOPS FP8 · 362 TFLOPS BF16 (seyrekliksiz) | 1.513–1.979 TFLOPS FP8 · 756–989 TFLOPS BF16 (seyrekliksiz) |
| En yüksek güç | 350 W | 300–700 W |
| GPU'lar arası bağlantı | Yok (yalnızca PCIe) | NVLink, sürüme göre 600–900 GB/s |
| PCIe | PCIe 4.0 x16 | PCIe 5.0 x16 |
| MIG (bölümleme) | Yok | 7 bölüme kadar |
| ECC bellek | Var | Var |
| Form faktörü | PCIe, çift yuva, pasif soğutma | SXM5 veya PCIe |
| Aylık kiralama (KDV hariç) | $900 | $2.500 |

## Kısa cevap

**L40S**, 48 GB ECC'li GDDR6 bellekli, inference, görüntü üretimi ve video için tasarlanmış bir PCIe kartıdır. **H100** ise 80 GB HBM bellek, sürüme göre L40S'in 2,3–3,9 katı bant genişliği, NVLink ve MIG sunar. FP8 ile 32B'ye kadar modellerin inference'ında L40S çoğu zaman yeterlidir; eğitim, 70B sınıfı modeller ve yoğun trafik için H100 daha doğru seçimdir.

- **L40S'i seçin:** Model 48 GB'a sığıyorsa (ör. Qwen3 14B BF16'da, Qwen3 32B FP8'de) ve iş inference, QLoRA ince ayar, görüntü üretimi, render ya da video ise.
- **H100'ü seçin:** Model eğitimi ve tam ince ayar, 70B sınıfı modeller, çok eşzamanlı kullanıcıya hizmet eden servisler, MIG ile bölme ya da FP64 gerektiren bilimsel hesaplama söz konusuysa.

## L40S ile H100 arasındaki fark hangi işte hissedilir?

Teknik değerler yukarıdaki tabloda. Aşağıdaki tensör değerleri seyrekliksizdir; H100 değerleri PCIe ve SXM sürümüne göre aralık olarak verilmiştir.

- **Bellek bant genişliği (864 GB/s'ye karşı 2.000–3.350 GB/s):** LLM yeni token üretirken ağırlıkları ve KV önbelleğini her adımda bellekten okur; NVIDIA bu aşamayı bellek sınırlı olarak tanımlar. H100'ün 2,3–3,9 kat bant genişliği, tek kullanıcıdaki yanıt hızına büyük ölçüde yansır.
- **Tensör gücü (BF16'da 362'ye karşı 756–989 TFLOPS, FP8'de 733'e karşı 1.513–1.979 TFLOPS):** H100 2,1–2,7 kat önde. Eğitimde, ince ayarda ve uzun istemlerin işlendiği ön doldurma (prefill) aşamasında bu fark belirleyicidir.
- **Bellek kapasitesi (48 GB'a karşı 80 GB):** Hangi modelin tek karta sığdığını ve eşzamanlı istekler için KV önbelleğine ne kadar yer kaldığını belirler. KV önbelleği bağlam uzunluğu ve batch boyutuyla doğrusal büyür.
- **FP32 (91,6'ya karşı 51–67 TFLOPS):** Tepe FP32 değerinde L40S 1,4–1,8 kat önde. Bu fark tensör çekirdeği kullanmayan işlerde, örneğin render ve bazı simülasyonlarda önem taşır.
- **FP64:** H100 sürüme göre 26–34 TFLOPS FP64 sunar; NVIDIA, L40S için FP64 değeri yayımlamaz. Çift hassasiyet gerektiren bilimsel hesaplama H100'ün işidir.
- **Çok GPU ve bölümleme:** L40S'te NVLink ve MIG yoktur; kartlar PCIe 4.0 üzerinden (çift yönlü 64 GB/s) haberleşir. H100 sürüme göre 600–900 GB/s NVLink'i ve en fazla 7 MIG bölümünü destekler.
- **Güç:** L40S'in en yüksek güç tüketimi 350 W'tır. H100'ün PCIe sürümü de 350 W'a kadar çeker; SXM sürümünde sınır 700 W'tır.

## Tek karta hangi modeller sığar?

Değerler [VRAM hesaplayıcımızla](/araclar/vram-hesaplayici/) hesaplandı: 8.192 token bağlam, tek eşzamanlı istek ve BF16 KV önbelleği. Kartın belleğinin yaklaşık %92'si iş yüküne ayrılabilir: L40S'te yaklaşık 44,2 GB, H100'de yaklaşık 73,6 GB.

| Model ve hassasiyet | Gereken bellek | L40S | H100 |
|---|---|---|---|
| Llama 3.1 8B, BF16 | 18,9 GB | Sığar | Sığar |
| Qwen3 14B, BF16 | 33,4 GB | Sığar | Sığar |
| Mistral Small 3.2 24B, BF16 | 52,7 GB | 2 kart | Sığar |
| Mistral Small 3.2 24B, FP8 | 27,5 GB | Sığar | Sığar |
| Qwen3 32B, BF16 | 72 GB | 2 kart | Sınırda sığar |
| Qwen3 32B, FP8 | 37,6 GB | Sığar | Sığar |
| Llama 3.3 70B, BF16 | 151,9 GB | 4 kart | 4 kart |
| Llama 3.3 70B, FP8 | 77,8 GB | 2 kart | 2 kart |
| Llama 3.3 70B, 4-bit | 45,4 GB | 2 kart | Sığar |

Llama 3.3 70B 4-bit'te L40S'in kullanılabilir belleğini çok az aşar; bağlam 4.096 token'a indirildiğinde 44 GB ile sınırda da olsa tek L40S'e sığar. İnce ayarda (2.048 token, batch 1, gradient checkpointing açık) Qwen3 32B QLoRA 25,1 GB ile iki karta da sığar; Llama 3.3 70B QLoRA 50,5 GB ile tek H100'e sığar, L40S'te 2 kart ister.

## L40S ne zaman yeterli?

- **Orta ölçekli modellerle inference:** FP8 ile 32B'ye kadar modeller tek L40S'e sığar. Ada mimarisinin tensör çekirdekleri FP8'i donanımla hesaplar; vLLM'in FP8 ağırlık ve aktivasyon (W8A8) desteği L40S'i de kapsar.
- **QLoRA ve küçük modellerde LoRA:** 32B'ye kadar QLoRA, 14B'ye kadar LoRA ince ayar tek karta sığar.
- **Render ve video:** RT çekirdekleri ve donanım video kodlayıcıları yalnızca L40S'te vardır (ayrıntılar aşağıda).
- **Görüntü üretimi:** 48 GB'a sığan görüntü modelleri için L40S yeterlidir; model bazında bellek ihtiyacı [Stable Diffusion ve FLUX rehberimizde](/blog/stable-diffusion-gpu-rehberi/).
- **Bütçe:** 48 GB'a sığan ve bant genişliğinin darboğaz olmadığı işlerde H100'ün fazladan gücüne ödeme yapmazsınız.

## H100 ne zaman gerekli?

- **Eğitim ve tam ince ayar:** 2,1–2,7 kat tensör gücü, aynı eğitimi daha kısa sürede bitirmek demektir. Tam ince ayar Llama 3.1 8B'de bile 131,6 GB ister: 2 H100 ya da 4 L40S. Çok GPU'lu eğitimde HBM bant genişliği ve NVLink desteği fark yaratır (belirli bir NVLink topolojisini garanti etmiyoruz; ayrıntısı SSS'de).
- **70B sınıfı modeller:** Llama 3.3 70B 4-bit'te tek H100'e sığar; FP8'de iki H100 gerekir.
- **Yoğun trafik:** Qwen3 32B FP8'de tek istek için 37,6 GB ister. L40S'te geriye yaklaşık 6,6 GB, H100'de yaklaşık 36 GB boş bellek kalır. Bu bellek eşzamanlı isteklerin KV önbelleğine gider; H100 hem aynı anda daha çok isteği tutar hem de bunları daha yüksek bant genişliğiyle işler.
- **Kartı bölmek:** MIG ile tek H100, her biri kendi hesap birimleri ve belleğine sahip en fazla 7 yalıtılmış bölüme ayrılabilir.
- **FP64 gerektiren bilimsel hesaplama.**

## İki kart da FP8 destekliyor mu?

Evet. L40S'in Ada mimarisindeki dördüncü nesil tensör çekirdekleri de, H100'ün Hopper tensör çekirdekleri de FP8'i donanımla hesaplar; NVIDIA iki kart için de FP8 ile FP16 arasında otomatik geçiş yapan Transformer Engine'den söz eder. NVIDIA'nın Transformer Engine kütüphanesi tensör başına ölçeklemeli FP8'i Ada'da (compute capability 8.9) ve Hopper'da (9.0) destekler; FP8 blok ölçekleme (block scaling) ise Hopper ve sonrasına özeldir.

Pratikteki fark hızdadır: FP8 tensör gücü H100'de 2,1–2,7 kat yüksektir. A100'ün Ampere mimarisi ise FP8'i desteklemez; vLLM, FP8 modelleri Ampere'de yalnızca ağırlıkları FP8 olarak saklayıp hesaplamayı 16 bitte yaparak (W8A16) çalıştırır.

## Video, render ve grafik işlerinde hangisi?

**L40S.** NVIDIA'ya göre L40S'te 142 üçüncü nesil RT çekirdeği, 3 NVENC ve 3 NVDEC motoru vardır; AV1 kodlar ve çözer. H100'de ise NVIDIA'nın Hopper mimari yazısına göre RT çekirdeği, NVENC kodlayıcı ve ekran çıkışı yoktur; ürün sayfasına göre 7 NVDEC ve 7 JPEG çözücüsü vardır. Yani H100 videoyu donanımla çözebilir (ör. görüntü analizi için kare çıkarmak), ama donanımla kodlayamaz.

Video dönüştürme ve canlı yayın için [video transcoding rehberimize](/blog/video-transcoding-gpu-rehberi/), Blender ve Unreal render için [render GPU rehberimize](/blog/render-gpu-secimi-blender/) bakın.

## Hangi iş için hangisi?

| İş | Önerimiz |
|---|---|
| 8B–14B modellerle inference | L40S |
| 32B model, FP8, az sayıda eşzamanlı kullanıcı | L40S |
| 32B model, BF16 ya da çok eşzamanlı kullanıcı | H100 |
| Llama 3.3 70B, 4-bit | H100 (tek kart) |
| Llama 3.3 70B, FP8, tek kart | H200 ya da RTX PRO 6000 |
| QLoRA (32B'ye kadar), LoRA (14B'ye kadar) | L40S |
| Tam ince ayar ve sıfırdan eğitim | H100 |
| Görüntü üretimi, render, video dönüştürme | L40S |
| FP64 gerektiren bilimsel hesaplama | H100 |
| Kartı MIG ile bölmek | H100 |

## L40S ile H100 arasındaki fiyat farkı ne kadar?

Fiyat listemizde [L40S](/gpu-modelleri/nvidia-l40s/) aylık $900, [H100](/gpu-modelleri/nvidia-h100/) aylık $2.500 (GPU başına, KDV hariç). Yıllık kiralamada %20 indirimle L40S aylık $720, H100 aylık $2.000 olur. Kiralamalarımız aylıktır ve en kısa süre bir aydır; saat bazında kiralama yapmıyoruz.

Global GPU bulutlarında isteğe bağlı (on-demand) saatlik medyan fiyat 24 Ekim 2026 itibarıyla L40S için $1,60, H100 için $3,63 (getdeploying.com); bulutta H100, L40S'in yaklaşık 2,3 katına fiyatlanıyor. İşiniz 48 GB'a sığıyor ve bant genişliği ya da eğitim hızı darboğaz değilse L40S daha ekonomiktir. İş eğitim hızına, bant genişliğine ya da 48 GB'ı aşan belleğe bağlıysa H100'ün farkı fiyatına değebilir; emin değilseniz kendi modelinizle ölçün.

Fiyatlar ABD doları cinsindendir; fatura, düzenlendiği günkü TCMB döviz satış kuruyla Türk lirası olarak kesilir. Kiraladığınız GPU'lar başka müşterilerle paylaşılmaz, sunucular İstanbul Bağcılar'daki kendi tesisimizdedir ve verileriniz Türkiye'de kalır. Tek siparişte en fazla 8 GPU kiralanabilir.

## L40S mi, A100 mü?

A100 filomuzda yok, ama L40S ile sık karşılaştırılıyor. A100 80 GB, HBM2e belleği ve L40S'in 2,2–2,4 katı bant genişliğiyle (1.935–2.039 GB/s) bellek kapasitesinde ve bellek yoğun işlerde öndedir; 600 GB/s NVLink ve 7 bölüme kadar MIG de sunar. L40S ise FP8 destekler, seyrekliksiz BF16'da 312'ye karşı 362 TFLOPS ile biraz, FP32'de 19,5'e karşı 91,6 TFLOPS ile çok öndedir; RT çekirdeği ve NVENC de yalnızca L40S'te vardır.

48 GB'a sığan FP8 inference, görüntü ve video işlerinde L40S; 48 GB'ı aşan modellerde ve bant genişliğine bağlı işlerde A100 daha uygundur. Bu ikinci grup için filomuzdaki seçenek, A100'ün yeni nesli H100'dür. Ayrıntılar: [H100 ve A100 karşılaştırması](/blog/h100-vs-a100-karsilastirma/).

## L40S mi, H200 mü?

H200, H100 ile aynı Hopper mimarisini 141 GB HBM3e bellek ve 4,8 TB/s bant genişliğiyle birleştirir: L40S'in yaklaşık 2,9 katı bellek ve 5,6 katı bant genişliği. Llama 3.3 70B FP8'de 77,8 GB ile tek H200'e sığar (kullanılabilir bellek yaklaşık 129,7 GB); L40S'te 2 kart gerekir.

32B'ye kadar modelleri az sayıda kullanıcıya sunuyorsanız H200'ün belleğinin büyük kısmı boş kalır; bu işlerde L40S daha ekonomiktir. 70B'yi tek kartta, uzun bağlamla ya da çok kullanıcıyla çalıştıracaksanız [H200](/gpu-modelleri/nvidia-h200/) doğru seçimdir; H100 ile farkı için [H100 ve H200 karşılaştırmamıza](/karsilastirma/h100-vs-h200/) bakın.

Arada bir seçenek de var: 96 GB'lık [RTX PRO 6000](/gpu-modelleri/nvidia-rtx-pro-6000/), Llama 3.3 70B'yi FP8'de tek kartta çalıştırır. Farkları için [L40S ve RTX PRO 6000](/karsilastirma/l40s-vs-rtx-pro-6000/) ile [RTX PRO 6000 ve H100](/karsilastirma/rtx-pro-6000-vs-h100/) karşılaştırmalarına bakın.

## Özet

- L40S; 48 GB ECC'li bellek, FP8 destekli tensör çekirdekleri, RT çekirdekleri ve 3 NVENC ile FP8'de 32B'ye kadar inference, QLoRA ince ayar, render ve video için yeterli ve daha ekonomiktir.
- H100; 80 GB HBM bellek, 2,3–3,9 kat bant genişliği, 2,1–2,7 kat tensör gücü, NVLink ve MIG ile eğitim, 70B sınıfı modeller ve yoğun trafik için daha doğru seçimdir.
- İki kart da FP8'i donanımla hesaplar; A100 hesaplamaz.
- 70B'yi FP8'de tek kartta çalıştırmak için H200 ya da RTX PRO 6000 gerekir.

## Kaynaklar

- [NVIDIA L40S](https://www.nvidia.com/en-us/data-center/l40s/)
- [NVIDIA H100](https://www.nvidia.com/en-us/data-center/h100/)
- [Lenovo Press: ThinkSystem NVIDIA H100 PCIe Gen5 GPU (H100 PCIe değerleri)](https://lenovopress.lenovo.com/lp1732-thinksystem-nvidia-h100-pcie-gen5-gpu)
- [NVIDIA Technical Blog: NVIDIA Hopper Architecture In-Depth](https://developer.nvidia.com/blog/nvidia-hopper-architecture-in-depth/)
- [NVIDIA H200](https://www.nvidia.com/en-us/data-center/h200/)
- [NVIDIA A100](https://www.nvidia.com/en-us/data-center/a100/)
- [NVIDIA RTX PRO 6000 Blackwell ürün ailesi](https://www.nvidia.com/en-us/products/workstations/professional-desktop-gpus/rtx-pro-6000-family/)
- [NVIDIA Video Encode and Decode GPU Support Matrix](https://developer.nvidia.com/video-encode-decode-support-matrix)
- [NVIDIA Transformer Engine: Datatype and hardware support matrix](https://nvidia.github.io/TransformerEngine/support_matrix.html)
- [vLLM: FP8 W8A8](https://docs.vllm.ai/en/latest/features/quantization/llm_compressor/fp8/)
- [NVIDIA Technical Blog: Mastering LLM Techniques: Inference Optimization](https://developer.nvidia.com/blog/mastering-llm-techniques-inference-optimization/)
- [NVIDIA Multi-Instance GPU (MIG) User Guide](https://docs.nvidia.com/datacenter/tesla/mig-user-guide/)
- [NVIDIA MIG User Guide: Supported GPUs](https://docs.nvidia.com/datacenter/tesla/mig-user-guide/supported-gpus.html)
- [getdeploying.com: NVIDIA L40S bulut fiyatları](https://getdeploying.com/gpus/nvidia-l40s)
- [getdeploying.com: NVIDIA H100 bulut fiyatları](https://getdeploying.com/gpus/nvidia-h100)

## Sık sorulan sorular

**İki L40S, bir H100'ün yerini tutar mı?**
Bellek kapasitesinde bazen tutar: iki L40S'in kullanılabilir belleği (yaklaşık 88,3 GB) tek H100'ünkünden (yaklaşık 73,6 GB) fazladır ve Llama 3.3 70B FP8'de (8.192 token bağlamla 77,8 GB) iki L40S'e sığar, tek H100'e sığmaz. Hızda tutmaz: iki L40S'in toplam bant genişliği (1.728 GB/s) ve toplam FP8 tensör gücü (1.466 TFLOPS) bile en yavaş H100 sürümünün altında kalır; üstelik kartlar NVLink olmadan PCIe 4.0 üzerinden haberleşir.

**L40S ile LLM eğitimi yapılabilir mi?**
Evet, özellikle ince ayar için: 2.048 token ve batch 1 ile Qwen3 14B LoRA (34,6 GB) ve Qwen3 32B QLoRA (25,1 GB) tek L40S'e sığar. Sıfırdan eğitim ve tam ince ayarda ise H100'ün 2,1–2,7 kat tensör gücü, HBM bant genişliği ve NVLink desteği belirgin fark yaratır.

**L40S'i MIG ile bölebilir miyim?**
Hayır, L40S'te MIG yoktur. Tek kartı donanım düzeyinde yalıtılmış parçalara bölmek istiyorsanız H100 en fazla 7 MIG bölümüne ayrılabilir; her bölümün kendine ayrılmış belleği ve hesap birimleri olur.

**Kiraladığım H100'ler NVLink ile bağlı olur mu?**
H100 NVLink'i destekler (sürüme göre 600–900 GB/s), ancak belirli bir NVLink topolojisini garanti etmiyoruz. İhtiyacınızı sipariş formuna yazın; teslimden sonra bağlantıları nvidia-smi topo -m komutuyla görebilirsiniz. L40S'te NVLink yoktur; kartlar PCIe 4.0 üzerinden haberleşir.

**L40S ve H100 saat bazında kiralanabilir mi?**
Hayır, kiralamalarımız aylıktır ve en kısa süre bir aydır. Aylık fiyatın saatlik karşılığı (730 saat) L40S için yaklaşık $1,23, H100 için yaklaşık $3,42; bu değer yalnızca saatlik ücretlendiren bulutlarla karşılaştırma içindir.