NVIDIA L40S kiralama

NVIDIA L40S nedir?

NVIDIA L40S, 2023'te duyurulan, Ada Lovelace mimarili ve 48 GB ECC'li GDDR6 bellekli bir veri merkezi GPU'sudur. FP8 destekli tensör çekirdekleri, RT çekirdekleri ve üç NVENC video kodlayıcısıyla orta ölçekli LLM'ler (14–32B), görüntü üretimi, render ve video işleri için dengeli bir seçenektir. Paylaşımsız L40S'i İstanbul'daki kendi tesisimizde aylık $900, yıllık kiralamada aylık $720 karşılığında kiralıyoruz (GPU başına, KDV hariç).

• En uygun işler: 14–32B modellerle inference, FLUX.1 ve ComfyUI servisleri, Blender ve Unreal render, video dönüştürme.
• Bellek (VRAM): 48 GB GDDR6, ECC'li; bant genişliği 864 GB/s.
• Ne zaman başka kart? 70B modeller ve FLUX.2 için RTX PRO 6000; 32 GB'a sığan işlerde daha yüksek bant genişlikli RTX 5090.

L40S hangi işler için kiralanır?

• LLM inference: Qwen3 14B BF16'da, Qwen3 32B FP8'de tek karta sığar. FP8 tensör performansı seyrekliksiz 733 TFLOPS, BF16'da 362 TFLOPS'tur.
• Görüntü üretimi: 48 GB, FLUX.1 [dev]'i metin kodlayıcısıyla birlikte tam kalitede, Qwen-Image'i FP8'de çalıştırmaya yeter. Ayrıntılar Stable Diffusion ve FLUX rehberimizde.
• Render: RT çekirdekleri sayesinde Blender Cycles (OptiX) ve Unreal Engine'in ışın izleme özelliklerini donanımla hızlandırır. Ayrıntılar Blender render ve Unreal Engine render rehberlerimizde.
• Video: 3 NVENC ve 3 NVDEC motoru vardır ve AV1 kodlar. Profesyonel bir kart olduğu için eşzamanlı kodlama oturumu sınırı yoktur. Ayrıntılar video transcoding rehberimizde.
• Sunucu kullanımı: Pasif soğutmalı, çift yuvalı ve 350 W'lık bir tasarımdır; 7/24 çalışan servisler için ECC'li bellek sunar. MIG ve NVLink desteği yoktur.

L40S ile LLM: tek karta sığan modeller ve VRAM

Değerler VRAM hesaplayıcımızla hesaplandı: 8.192 token bağlam, tek eşzamanlı istek ve BF16 KV önbelleği. Kartın belleğinin yaklaşık %92'si iş yüküne ayrılabilir; 48 GB'lık L40S'te bu yaklaşık 44,2 GB eder.

Llama 3.3 70B 4-bit'te 8.192 token bağlamla tek kartın kullanılabilir belleğini biraz aşar; daha kısa bağlamla tek L40S'e sığabilir. İnce ayarda (2.048 token, batch 1, gradient checkpointing açık) Qwen3 14B LoRA 34,6 GB, Qwen3 32B QLoRA 25,1 GB ile tek karta sığar; Llama 3.3 70B QLoRA 50,5 GB ile 2 kart ister.

L40S LLM performansı: saniyede kaç token?

Tek bir istekte token üretim hızının teorik üst sınırı yaklaşık "bellek bant genişliği ÷ model ağırlıklarının boyutu"dur, çünkü her yeni token için ağırlıkların tamamı bellekten okunur. L40S'in 864 GB/s bant genişliğiyle FP8 modellerde bu sınır şöyledir (ağırlık boyutları VRAM hesaplayıcımızdan):

Bunlar ölçüm değil, üst sınırdır: gerçek hız çıkarım motoruna, nicemleme çekirdeklerine ve bağlam uzunluğuna göre bunun altında kalır. Aynı anda çok sayıda istek işlendiğinde ise toplam üretim hızı (throughput) batch sayesinde tek isteğin çok üzerine çıkar. Qwen3 30B-A3B gibi MoE modellerde her token için 30,5 milyar parametrenin yalnızca yaklaşık 3,3 milyarı etkin olduğundan sınır çok daha yüksektir. RTX 5090'ın bant genişliği iki kattan fazla olduğu için aynı modeldeki sınırı da iki kattan fazladır. vLLM, SGLang ve TensorRT-LLM ayarları için LLM inference optimizasyonu rehberimize bakın.

L40S mi, RTX PRO 6000 mi, RTX 5090 mı, H100 mü?

• RTX PRO 6000: Bellek (96 GB) ve bant genişliği yaklaşık iki katı; FP4 ve MIG desteği de vardır. 70B modeller ve FLUX.2 için RTX PRO 6000, 48 GB'a sığan işler için L40S. Ayrıntılar: L40S ve RTX PRO 6000 karşılaştırması.
• RTX 5090: 32 GB bellek, ama iki kattan fazla bant genişliği (1.792 GB/s). Modeliniz 32 GB'a sığıyorsa daha hızlı ve daha ekonomiktir; ECC ve 48 GB gerekiyorsa L40S.
• H100: HBM bellek, NVLink ve MIG desteğiyle büyük modellerin eğitimi, tam ince ayar ve yoğun trafikli LLM servisleri için tasarlanmıştır. Modeliniz 48 GB'a sığıyorsa ya da aynı kartta video kodlama da yapacaksanız L40S; H100'de NVENC video kodlayıcısı yoktur.
• RTX 4090: Aynı AD102 çipini kullanır ama 24 GB belleğe sahiptir ve filomuzda yoktur. Farklarını RTX 4090 ve L40S karşılaştırmamızda anlattık.

48 GB'lık kartlar: L40S, L40, RTX 6000 Ada ve RTX A6000

Dört kartın da 48 GB ECC'li GDDR6 belleği vardır, bu yüzden aynı modeller sığar. Farklar tensör hızında, bant genişliğinde ve soğutmadadır.

• L40S mi, RTX 6000 Ada mı? İkisinde de 18.176 CUDA çekirdeği ve 48 GB ECC'li bellek vardır. RTX 6000 Ada masaüstü iş istasyonu için fanlı bir karttır; L40S ise havayı sunucu kasasının fanlarından alan, pasif soğutmalı veri merkezi sürümüdür.
• L40S mi, RTX A6000 mi? RTX A6000 bir önceki nesil (Ampere) iş istasyonu kartıdır: FP8 desteklemez, FP32 hızı L40S'in yarısından azdır ve bant genişliği daha düşüktür. İki A6000 köprüyle NVLink üzerinden bağlanabilir; L40S'te NVLink yoktur.

Bu ailede yalnızca L40S'i kiralıyoruz. 48 GB yetmiyorsa bir sonraki adım 96 GB'lık RTX PRO 6000'dir.

L40S fiyatı: aylık kiralama, bulut fiyatları ve satın alma

Bizde L40S'in aylık fiyatı GPU başına $900; yıllık kiralamada %20 indirimle aylık $720. Fiyatlara KDV dahil değildir. Aylık fiyatın saatlik karşılığı (730 saat) yaklaşık $1,23.

Global GPU bulutlarında L40S'in saatlik fiyatları (getdeploying.com, 23 Ekim 2026):

Global bulutlarda kullandığınız saat kadar ödersiniz; bizde fiyat aylık sabittir ve fatura Türk lirası olarak kesilir. Fiyatlar sağlayıcıya, bölgeye ve stok durumuna göre değişir; güncel fiyatı sağlayıcının sayfasından kontrol edin. Ayda yalnızca birkaç saatlik bir iş için saatlik bir bulut daha ucuz olabilir.

Kartı satın almak: NVIDIA, L40S için ürün sayfasında fiyat yayımlamaz; kart, Dell, HPE, Lenovo ve Supermicro gibi üreticilerin sunucularıyla ve NVIDIA iş ortakları üzerinden satılır. Kart, sunucu, elektrik ve soğutma maliyetini aylık kiralamayla GPU kiralama mı, satın alma mı yazımızda karşılaştırdık.

Türkiye'de L40S kiralama: teslim, kurulum ve konum

• Size ayrılmış GPU: Kiraladığınız L40S başka müşterilerle paylaşılmaz. Tek siparişte en fazla 8 GPU kiralayabilirsiniz; kartlar PCIe 4.0 üzerinden haberleşir.
• Sunucu kaynakları: Tek GPU'lu sunucuda 12 çekirdek CPU, 72 GB RAM, 1 TB SSD, size özel IP adresi vardır; GPU sayısı arttıkça işlemci çekirdeği ve RAM aynı oranda artar. Yazılım ve kurulum isteklerinizi sipariş formundaki mesaj alanına yazın.
• Konum: Sunucular İstanbul Bağcılar'daki kendi tesisimizde, UPS, jeneratör desteği ve yedekli internet bağlantısıyla çalışır. Verileriniz Türkiye'de kalır. Fiyatlar ABD doları cinsindendir; fatura, düzenlendiği günkü TCMB döviz satış kuruyla Türk lirası olarak e-fatura şeklinde kesilir.
• Teslim: Siparişinizden sonra sizinle görüşüp kurulum ve teslim tarihini birlikte planlıyoruz; tarihi ödemeden sonra yazılı bildiririz ve 10 iş gününden fazla gecikirse ödemenizin tamamını iade ederiz. Teslimden sonra aylık %99,5 erişilebilirlik hedefi ve 7/24 acil destek geçerlidir (SLA ve destek).

Özet

• L40S; 48 GB ECC'li bellek, FP8 destekli tensör çekirdekleri, RT çekirdekleri ve 3 NVENC ile LLM, görüntü üretimi, render ve video işleri için dengeli bir veri merkezi kartıdır.
• Qwen3 14B BF16'da, Qwen3 32B FP8'de tek karta sığar; 70B modeller için 2 kart ya da 96 GB'lık RTX PRO 6000 gerekir.
• 32 GB'a sığan işlerde RTX 5090 daha hızlı, 70B ve FLUX.2 için RTX PRO 6000 daha uygundur.
• Bizde aylık $900; global bulutlarda saatlik medyan 23 Ekim 2026 itibarıyla $1,64.
• L40, RTX 6000 Ada ve RTX A6000 de 48 GB'tır; L40S'in tensör hızları L40'ın yaklaşık iki katıdır, RTX A6000 ise FP8 desteklemeyen bir önceki nesil karttır.

Kaynaklar

• NVIDIA L40S GPU
• NVIDIA: Video Encode and Decode Support Matrix
• getdeploying.com: NVIDIA L40S bulut fiyatları
• NVIDIA Newsroom: L40S'in duyurusu (8 Ağustos 2023)
• NVIDIA L40 GPU
• NVIDIA L40 veri sayfası (PDF)
• NVIDIA RTX 6000 Ada Generation veri sayfası (PDF)
• NVIDIA RTX A6000 veri sayfası (PDF)
• NVIDIA Transformer Engine: veri tipi ve donanım destek tablosu
• NVIDIA H100 GPU
• Qwen3-30B-A3B model kartı