# NVIDIA GeForce RTX 3090 kiralama

- Adres: https://gpukiralama.com.tr/gpu-modelleri/nvidia-rtx-3090/
- Aylık fiyat: $300 (GPU başına, KDV hariç) · Yıllık kiralamada: $240/ay
- Saatlik karşılığı (7/24, 730 saat): $0,41
- Paylaşımsız: VPS değil; ekran kartları ve sunucu kaynakları yalnızca müşteriye ayrılır
- GPU belleği: 24 GB GDDR6X · Mimari: Ampere
- Teslim: kurulum ve teslim tarihi sipariş sonrasında müşteriyle birlikte planlanır ve yazılı bildirilir; 10 iş gününden fazla gecikmede tam iade
- SLA ve destek: aylık %99,5 erişilebilirlik hedefi ve hizmet kredisi, kritik arızada 7/24 telefon desteği (https://gpukiralama.com.tr/sla-ve-destek/)

24 GB GDDR6X ve 936 GB/s bant genişliğiyle 24 GB'a sığan dil modelleri, SDXL ve FLUX, TTS için uygun fiyatlı kart.

| Özellik | Değer |
|---|---|
| Mimari | Ampere (2020) |
| GPU belleği | 24 GB GDDR6X |
| Bellek bant genişliği | 936 GB/s |
| FP32 performansı | 35,6 TFLOPS |
| Tensör performansı | 142 TFLOPS FP16 · 71 TFLOPS BF16 (seyrekliksiz) |
| En yüksek güç | 350 W |
| GPU'lar arası bağlantı | NVLink köprüsü (2 kart) |
| PCIe | PCIe 4.0 x16 |
| MIG (bölümleme) | Yok |
| ECC bellek | Yok |
| Form faktörü | Üç yuvalı (Founders Edition; üreticiye göre değişir) |

## RTX 3090 nedir, kiralık RTX 3090 sunucu ne işe yarar?

**Kısa cevap:** NVIDIA GeForce RTX 3090, 24 GB GDDR6X bellek (VRAM) ve 936 GB/s bant genişliği sunan Ampere mimarili bir ekran kartıdır. 24 GB'a sığan dil modelleri, SDXL ve FLUX ile görsel üretimi, Türkçe seslendirme (TTS) ve Whisper için kiralanır. İstanbul Bağcılar'daki kendi tesisimizde paylaşımsız sunucuda aylık $300 (GPU başına, KDV hariç).

- **En uygun işler:** BF16'da 8B, 8-bit'te 14B ve 4-bit'te 24B'ye kadar modellerle inference, QLoRA ve 8B LoRA ince ayarı, SDXL ve FLUX, TTS ve Whisper servisleri.
- **Bellek (VRAM):** 24 GB GDDR6X, 384 bit veri yolu; ECC yok.
- **Ne zaman başka kart?** ECC, FP8/FP4 ve düşük güç tüketimi için [RTX PRO 4000](/gpu-modelleri/nvidia-rtx-pro-4000/); 32 GB ve yaklaşık iki kat bant genişliği için [RTX 5090](/gpu-modelleri/nvidia-rtx-5090/).

## RTX 3090 hangi işler için kiralanır?

- **[LLM inference](/hizmetler/inference/):** [VRAM hesaplayıcımıza](/araclar/vram-hesaplayici/) göre (8.192 token bağlam, tek istek) Llama 3.1 8B BF16'da 18,9 GB, Qwen3 14B 8-bit'te 17,9 GB, gpt-oss-20b 13,5 GB, Mistral Small 3.2 24B 4-bit'te 16,5 GB ve Qwen3 30B-A3B 4-bit'te 19,8 GB ister; hepsi tek karta sığar. Kartın belleğinin yaklaşık %92'si iş yüküne ayrılabildiği için kullanılabilir alan yaklaşık 22,1 GB'tır. Qwen3 32B 4-bit'te 22,5 GB ile bu sınırı az farkla aşar; 4.096 token bağlamda 21,4 GB'a iner.
- **Görsel üretimi:** SDXL 8–12 GB ile rahat çalışır. 12 milyar parametreli FLUX.1 [dev] BF16'da yalnızca ağırlıklar için yaklaşık 24 GB tuttuğundan bu kartta FP8 (12–16 GB) ya da GGUF 4-bit (yaklaşık 8 GB) dosyalarla kullanılır. Ayrıntılar [Stable Diffusion ve FLUX rehberimizde](/blog/stable-diffusion-gpu-rehberi/) ve [görsel üretimi sayfamızda](/hizmetler/yapay-zeka-gorsel-uretimi/).
- **[İnce ayar](/hizmetler/llm-fine-tuning/):** 2.048 token, batch 1 ve gradient checkpointing ile Llama 3.1 8B'nin BF16 LoRA'sı 19,9 GB, Qwen3 14B QLoRA 13,3 GB, Mistral Small 3.2 24B QLoRA 18,3 GB ile tek karta sığar. GeForce kartlarda FP32 biriktirmeli tensör işlemleri yarı hızda çalışır: RTX 3090'da BF16 için 71 TFLOPS (seyrekliksiz). Uzun eğitimlerde bu fark hissedilir; maliyet hesabı [fine-tuning rehberimizde](/blog/llm-fine-tuning-maliyeti/).
- **Çoklu GPU:** Tek siparişte 8 karta kadar kiralayabilirsiniz. RTX 3090, iki kartı bağlayan NVLink köprüsünü destekler; NVIDIA'nın GA102 belgesi bu çipin NVLink arayüzü için iki kart arasında toplam 112,5 GB/s verir. Inference için köprü şart değildir, vLLM'in tensör paralelliği PCIe üzerinden de çalışır. Ayrıntılar [NVLink rehberimizde](/blog/multi-gpu-nvlink-kiralama-rehberi/).

### TTS ve Whisper için RTX 3090 yeterli mi?

Evet, bellek açısından fazlasıyla. Türkçe ses işleri için yaygın açık modellerin ihtiyaçları (Ekim 2026):

| Model | İş | GPU belleği | Lisans |
|---|---|---|---|
| Whisper large-v3 | Konuşmayı yazıya çevirme | ~10 GB (openai/whisper); faster-whisper ile fp16 4,5 GB, int8 2,9 GB (large-v2 ölçümü) | MIT |
| Whisper large-v3-turbo | Hızlı döküm | ~6 GB (openai/whisper) | MIT |
| Chatterbox Multilingual (Resemble AI) | Türkçe dahil 23 dilde seslendirme | ~3,5 GB, yalnızca TTS (NVIDIA NVIGI model kartı) | MIT; çıktılara filigran ekler |
| XTTS-v2 (Coqui) | Türkçe dahil 17 dilde seslendirme | Resmi değer yayımlanmamış | Coqui Public Model License: yalnızca ticari olmayan kullanım |
| Piper | Hafif yerel seslendirme | Resmi değer yok; GPU isteğe bağlı (`--cuda`, onnxruntime-gpu) | Kod GPL-3.0; Türkçe sesin (tr_TR-dfki) verisi CC BY-NC-SA 4.0 |

XTTS-v2 Türkçe konuşsa da lisansı ticari kullanıma izin vermez; Piper'ın tek Türkçe sesi için de aynı sınır geçerlidir. 24 GB'ın asıl getirisi, bu modellerin bir LLM ile aynı kartta çalışabilmesidir: Whisper large-v3-turbo (~6 GB), Chatterbox Multilingual (~3,5 GB) ve 4-bit Qwen3 8B (7,1 GB) toplamda yaklaşık 16,6 GB eder. Konuşmayı yazıya çeviren, yanıtı üreten ve seslendiren bir sesli asistan böylece tek kartta çalışır. Ayrıntılar [ses tanıma sayfamızda](/hizmetler/ses-tanima/).

## RTX 3090 kaç GB, teknik özellikleri ve sürümleri neler?

RTX 3090'da 24 GB GDDR6X bellek vardır; 384 bit veri yolu ve 19,5 Gbps veri hızıyla bant genişliği 936 GB/s'dir. GA102 çipinde 10.496 CUDA çekirdeği, 328 üçüncü nesil tensör çekirdeği ve 82 RT çekirdeği bulunur; FP32 işlem gücü 35,6 TFLOPS'tur. Kart 350 W çeker ve PCIe 4.0 ile bağlanır. NVIDIA kartı 1 Eylül 2020'de duyurdu, 24 Eylül 2020'de 1.499 dolarlık önerilen fiyatla satışa çıktı; bugün artık üretilmiyor.

- **Tensör performansı:** NVIDIA'nın GA102 belgesine göre FP16 (FP16 biriktirme) 142 TFLOPS, seyreklikle 284 TFLOPS; BF16 ve FP32 biriktirmeli FP16 71 TFLOPS, seyreklikle 142 TFLOPS; INT8 284 TOPS.
- **FP8 yok:** Ampere'de FP8 tensör çekirdeği yoktur; bu destek Ada (RTX 4090, L40S) ve Blackwell (RTX 5060 Ti, RTX 5090, RTX PRO 4000, RTX PRO 5000) kartlarla gelir. vLLM, FP8 model dosyalarını Ampere'de yalnızca ağırlıkları 8-bit tutan W8A16 kipinde Marlin çekirdekleriyle çalıştırır: bellek ve bant genişliği kazancı olur, FP8 hesaplama hızlanması olmaz.
- **ECC ve MIG yok:** NVIDIA'nın özelliklerinde ECC bellek yer almaz; kart MIG ile bölünemez.
- **NVLink:** Köprü yalnızca iki kartı bağlar; üç ve dört kartlı bağlantı desteklenmez.
- **Sürümler:** NVIDIA'nın Founders Edition modeli üç yuvalı ve 313 mm uzunluğundadır; üretici modellerinde boyut, soğutma ve saat hızı değişir. RTX 3090 Ti ise ayrı bir karttır: 10.752 CUDA çekirdeği ve 450 W güç tüketimi. Bu sayfadaki değerler RTX 3090'a aittir.

## RTX 3090 LLM'de saniyede kaç token üretir?

Tek bir istekte kart, ürettiği her token için model ağırlıklarının tamamını bellekten okur. Bu yüzden token üretim hızının teorik üst sınırı yaklaşık olarak bant genişliğinin ağırlık boyutuna bölümüdür. 936 GB/s ile bu sınırlar şöyledir (ağırlık boyutları VRAM hesaplayıcımızdan):

| Model | Hassasiyet | Ağırlıklar | Teorik üst sınır (tek istek) |
|---|---|---|---|
| Llama 3.1 8B | BF16 | 16,1 GB | saniyede ~58 token |
| Llama 3.1 8B | 8-bit | 8,0 GB | saniyede ~117 token |
| Llama 3.1 8B | 4-bit | 4,5 GB | saniyede ~208 token |
| Qwen3 14B | 8-bit | 14,8 GB | saniyede ~63 token |
| Qwen3 14B | 4-bit | 8,3 GB | saniyede ~113 token |
| Mistral Small 3.2 24B | 4-bit | 13,5 GB | saniyede ~69 token |

Bunlar ölçüm değil, hesaplanmış üst sınırlardır. Bağımsız bir ölçüm: XiongjieDai'nin GitHub'da yayımladığı, Mayıs 2024'te llama.cpp ile alınan testlerde (1.024 token üretimi) sonuçlar şöyle:

| Model (llama.cpp) | RTX 3090 | RTX 4090 |
|---|---|---|
| Llama 3 8B, Q4_K_M | 111,7 token/s | 127,7 token/s |
| Llama 3 8B, F16 | 46,5 token/s | 54,3 token/s |
| Llama 3 70B, Q4_K_M, 2 kart | 16,3 token/s | 19,1 token/s |

F16'da ölçülen hız, teorik sınırın yaklaşık %80'idir. Qwen3 30B-A3B gibi MoE modellerde, adındaki A3B'nin gösterdiği gibi her token için yalnızca yaklaşık 3 milyar parametre etkin olduğundan hız aynı boyuttaki yoğun modellerden belirgin şekilde yüksektir. Çok kullanıcılı servislerde vLLM gibi motorlar istekleri gruplayarak toplam verimi artırır; ayrıntılar [inference optimizasyonu rehberimizde](/blog/tensorrt-inference-optimizasyonu/).

## RTX 3090 mı, RTX 5090 mı, RTX PRO 4000 mi?

- **[RTX A5000](/gpu-modelleri/nvidia-rtx-a5000/):** Aynı 24 GB ve aynı Ampere kuşağı, ancak ECC'li GDDR6 bellekli profesyonel bir kart; 230 W çeker ve çift yuvalıdır. Bant genişliği 768 GB/s olduğundan tek istekte token üretiminde RTX 3090 teorik olarak yaklaşık 1,2 kat öndedir; FP32 işlem gücü de RTX 3090'da daha yüksektir (35,6 TFLOPS'a karşı 27,8 TFLOPS). İkisinde de FP8 donanım desteği yoktur ve iki kart NVLink köprüsüyle bağlanabilir. Fiyatı RTX 3090 ile aynıdır: ECC'li bellek, daha düşük güç tüketimi ve profesyonel sürücü isteniyorsa A5000; aylık $300.
- **[RTX PRO 4000 Blackwell](/gpu-modelleri/nvidia-rtx-pro-4000/):** Aynı 24 GB, ancak ECC'li GDDR7; FP8 ve FP4 destekli beşinci nesil tensör çekirdekleri, 145 W'lık tek yuvalı tasarım. Bant genişliği 672 GB/s olduğundan tek istekte token üretiminde RTX 3090 teorik olarak yaklaşık 1,4 kat öndedir. ECC, FP8/FP4 hesaplama ve düşük güç gerekiyorsa PRO 4000; aylık $450.
- **[RTX 5090](/gpu-modelleri/nvidia-rtx-5090/):** 32 GB GDDR7 ve 1.792 GB/s, yani yaklaşık 1,9 kat bant genişliği; FP8 ve FP4 destekler, 575 W çeker. Qwen3 32B'yi 4-bit'te 8.192 token bağlamla ya da Mistral Small 3.2 24B'yi 8-bit'te (27,5 GB) tek kartta çalıştırmak için; aylık $600.
- **[RTX PRO 5000](/gpu-modelleri/nvidia-rtx-pro-5000/):** 48 GB ECC'li GDDR7 ve 1.344 GB/s, yani yaklaşık 1,4 kat bant genişliği; FP8 ve FP4 destekler, 300 W çeker ve MIG ile iki adet 24 GB'lık bölüme ayrılabilir. Qwen3 32B'yi FP8'de 8.192 token bağlamla (37,6 GB) çalıştırmak ya da Qwen3 14B'ye BF16 LoRA ince ayarı (34,6 GB) yapmak gibi 32 GB'ı aşan işler için; aylık $800.
- **RTX 4090:** 24 GB GDDR6X, 1.008 GB/s, FP8 destekli Ada kartı, 450 W. Bant genişliği RTX 3090'ınkinden yalnızca yaklaşık %8 yüksektir; yukarıdaki llama.cpp ölçümünde fark %14–17'dir. RTX 4090 kiralamıyoruz; bu sınıfta daha fazla bellek ve hız için RTX 5090'a, L40S ile farkı için [RTX 4090 ile L40S karşılaştırmamıza](/blog/rtx-4090-vs-l40s-karsilastirma/) bakın.
- **[RTX 5060 Ti](/gpu-modelleri/nvidia-rtx-5060-ti/):** 16 GB'lık giriş kartımız; Whisper, TTS ve 4-bit 14B modeller yetiyorsa yeterlidir. Bant genişliği 448 GB/s'dir; Blackwell neslindendir ve FP4 destekler.

## RTX 3090 kiralama fiyatı ne kadar, global bulutlarda ne kadar?

Bizde RTX 3090'ın aylık fiyatı GPU başına $300; yıllık kiralamada %20 indirimle aylık $240. Fiyatlar ABD doları cinsindendir ve KDV hariçtir; fatura, düzenlendiği günkü TCMB döviz satış kuruyla Türk lirası olarak kesilir. Kiralama en az 1 aydır, saat bazında kullanım sunmuyoruz; aylık fiyatın saatlik karşılığı (730 saat) yaklaşık $0,41.

Global GPU bulutlarında RTX 3090'ın saatlik fiyatları (getdeploying.com, 24 Ekim 2026):

| Sağlayıcı | Saatlik (GPU başına) | 730 saatlik karşılığı | Stok |
|---|---|---|---|
| HyperAI (en düşük) | $0,10 | $73 | Var |
| RunPod Community Cloud | $0,22 | $161 | Yok |
| RunPod Secure Cloud | $0,50 | $365 | Yok |
| 9 sağlayıcının medyanı | $0,30 | $219 | — |

Saatlik pazar yerleri, özellikle ayda birkaç saatlik ya da birkaç günlük kullanımda bizden daha ucuz olabilir; RTX 3090'ı ara sıra denemek için bunlar mantıklıdır. Fiyat ve stok anlık değişir; güncel durumu sağlayıcının sayfasından kontrol edin. Aylık paylaşımsız kiralamada ise fiyat ay boyunca sabittir, kart yalnızca size ayrılır, fatura Türk lirası kesilir, verileriniz Türkiye'de kalır ve SLA geçerlidir. Farkları [bulut GPU ile fiziksel sunucu](/blog/cloud-gpu-vs-fiziksel-gpu/) ve [Colab ile GPU kiralama](/blog/google-colab-vs-gpu-kiralama/) karşılaştırmalarımızda anlattık.

### RTX 3090 satın alma fiyatı (Türkiye, Ekim 2026)

RTX 3090 artık üretilmediği için Türkiye'de stokta yeni kart bulmak zordur. 25 Ekim 2026'da derlediğimiz fiyatlar:

- **Yeni:** Vatan Bilgisayar'da MSI RTX 3090 Gaming X Trio sayfası 105.929 TL fiyatla "Tükendi" görünüyor (arama dizini kaydı; fiyatın tarihi belirsiz).
- **İkinci el, Türkiye:** Bulabildiğimiz tek ilan letgo'da 48.900 TL (4 Ağustos 2026, garantisiz).
- **İkinci el, ABD:** gpudojo'nun eBay verisine göre 24 Ekim 2026'da 104 ilanda medyan $1.790, en düşük $1.399. İkinci el fiyatlar 2026 boyunca yükseldi.

Kart tek başına çalışmaz: sunucu, kart başına 350 W'lık güç, soğutma, bağlantı ve bakım da size kalır. Hesabı [GPU kiralama mı, satın alma mı rehberimizde](/blog/gpu-kiralama-vs-satin-alma-maliyet-hesaplama/) örnekle anlattık.

## Teslim, kurulum ve konum

- **Paylaşımsız sunucu:** Kiraladığınız kart başka müşterilerle paylaşılmaz; VPS ya da VDS değildir ([farkı](/blog/gpu-vds-nedir-paylasimsiz-gpu-sunucu-farki/)). Tek siparişte en fazla 8 GPU kiralayabilirsiniz.
- **Siparişe göre kurulum:** RTX 3090 sunucuları siparişe göre hazırlanır. Tek GPU'lu sunucuda 6 çekirdek CPU, 36 GB RAM, 1 TB SSD, size özel IP adresi vardır; GPU sayısı arttıkça işlemci çekirdeği ve RAM aynı oranda artar. Varsa NVLink köprüsü talebinizi [sipariş formunun](/siparis/) mesaj alanına yazın.
- **Teslim:** Teslim tarihini ödemeden sonra yazılı olarak bildiririz. Tarih 10 iş gününden fazla gecikirse siparişi iptal edip ödemenizin tamamını geri alabilirsiniz.
- **Konum ve destek:** Sunucular İstanbul Bağcılar'daki kendi tesisimizde çalışır, verileriniz Türkiye'de kalır ([KVKK rehberimiz](/blog/kvkk-gpu-kiralama-turkiye/)). Teslimden sonra aylık %99,5 erişilebilirlik hedefi, hizmet kredisi ve kritik arızalarda 7/24 telefon desteği geçerlidir ([SLA ve destek](/sla-ve-destek/)).

## Özet

- RTX 3090; 24 GB GDDR6X bellek, 936 GB/s bant genişliği ve 350 W güç tüketimine sahip Ampere mimarili bir karttır. ECC, MIG ve FP8 tensör çekirdeği yoktur.
- BF16'da 8B, 8-bit'te 14B, 4-bit'te Mistral Small 3.2 24B ve Qwen3 30B-A3B tek karta sığar; Qwen3 32B 4-bit 8.192 token bağlamda sınırı az farkla aşar.
- Tek istekte teorik hız sınırı Llama 3.1 8B için 4-bit'te saniyede yaklaşık 208, BF16'da yaklaşık 58 tokendir; Mayıs 2024 tarihli llama.cpp ölçümü Q4_K_M'de saniyede 111,7 token.
- Whisper, Chatterbox Multilingual ve küçük bir LLM aynı kartta çalışabilir.
- ECC, FP8/FP4 ve düşük güç için RTX PRO 4000; 32 GB ve daha yüksek hız için RTX 5090 daha uygundur.
- Bizde aylık $300; global bulutlarda saatlik medyan 24 Ekim 2026 itibarıyla $0,30.

## Kaynaklar

- [NVIDIA GeForce RTX 3090 ve 3090 Ti özellikleri](https://www.nvidia.com/en-us/geforce/graphics-cards/30-series/rtx-3090-3090ti/)
- [NVIDIA Ampere GA102 GPU mimarisi teknik belgesi (PDF)](https://www.nvidia.com/content/PDF/nvidia-ampere-ga-102-gpu-architecture-whitepaper-v2.pdf)
- [NVIDIA: GeForce RTX 30 serisinin duyurusu (1 Eylül 2020)](https://nvidianews.nvidia.com/news/nvidia-delivers-greatest-ever-generational-leap-in-performance-with-geforce-rtx-30-series-gpus)
- [NVIDIA Ada GPU mimarisi teknik belgesi (PDF)](https://images.nvidia.com/aem-dam/Solutions/geforce/ada/nvidia-ada-gpu-architecture.pdf)
- [NVIDIA: GeForce ekran kartlarını karşılaştırma (RTX 4090, RTX 5090)](https://www.nvidia.com/en-us/geforce/graphics-cards/compare/)
- [NVIDIA RTX PRO 4000 Blackwell veri sayfası (PDF)](https://www.nvidia.com/content/dam/en-zz/Solutions/products/workstations/professional-desktop-gpus/rtx-pro-4000/workstation-datasheet-rtx-pro-4000-nvidia-us-web.pdf)
- [NVIDIA RTX PRO 5000 Blackwell](https://www.nvidia.com/en-us/products/workstations/professional-desktop-gpus/rtx-pro-5000/)
- [NVIDIA RTX A5000 veri sayfası (PDF)](https://www.nvidia.com/content/dam/en-zz/Solutions/products/workstations/nvidia-rtx-a5000-datasheet.pdf)
- [NVIDIA GeForce RTX 5060 ailesi](https://www.nvidia.com/en-us/geforce/graphics-cards/50-series/rtx-5060-family/)
- [vLLM: FP8 nicemleme ve Ampere'de W8A16](https://docs.vllm.ai/en/latest/features/quantization/llm_compressor/fp8/)
- [XiongjieDai: GPU-Benchmarks-on-LLM-Inference (llama.cpp, Mayıs 2024)](https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference)
- [OpenAI Whisper (GitHub)](https://github.com/openai/whisper)
- [SYSTRAN faster-whisper (GitHub)](https://github.com/SYSTRAN/faster-whisper)
- [NVIDIA NVIGI Chatterbox TTS model kartı](https://docs.nvidia.com/ace-for-games/chatterbox-tts/nvigi-chatterbox-model-card.html)
- [Resemble AI Chatterbox (GitHub)](https://github.com/resemble-ai/chatterbox)
- [Coqui XTTS-v2 model kartı](https://huggingface.co/coqui/XTTS-v2)
- [Piper (OHF-Voice/piper1-gpl): komut satırı belgesi](https://github.com/OHF-Voice/piper1-gpl/blob/main/docs/CLI.md)
- [Black Forest Labs FLUX.1 [dev] model kartı](https://huggingface.co/black-forest-labs/FLUX.1-dev)
- [getdeploying.com: NVIDIA RTX 3090 bulut fiyatları](https://getdeploying.com/gpus/nvidia-rtx-3090)
- [RunPod fiyatları](https://www.runpod.io/pricing)
- [gpudojo: RTX 3090 ikinci el fiyatları](https://gpudojo.com/rtx-3090)
- [Vatan Bilgisayar: MSI GeForce RTX 3090 Gaming X Trio](https://www.vatanbilgisayar.com/msi-geforce-rtx-3090-gaming-x-trio-24g-24gb-gddr6x-384bit-nvidia-ekran-karti.html)

## Sık sorulan sorular

**RTX 3090 ile 70B model çalıştırılabilir mi?**
Tek kartta hayır. VRAM hesaplayıcımıza göre Llama 3.3 70B, 4-bit'te 8.192 token bağlamla 45,4 GB ister; bu, iki RTX 3090'ın kullanılabilir belleğini (yaklaşık 44,2 GB) az farkla aşar. 4.096 token bağlamda ihtiyaç 44 GB'a iner ve iki karta ancak sınırda sığar. Mayıs 2024 tarihli bağımsız bir llama.cpp testinde iki RTX 3090, Llama 3 70B Q4_K_M ile saniyede 16,3 token üretti. 70B'yi tek kartta rahat çalıştırmak için 96 GB'lık RTX PRO 6000 daha uygundur; aylık $1.600.

**RTX 3090 FP8 destekliyor mu?**
Donanım düzeyinde hayır: Ampere mimarisinde FP8 tensör çekirdeği yoktur. FP8 model dosyaları yine de çalışır; vLLM bunları Ampere'de ağırlıkları 8-bit tutan W8A16 kipinde Marlin çekirdekleriyle çalıştırır. Bellek ve bant genişliği kazancı olur, ancak FP8 hesaplama hızlanması olmaz. FP8 ve FP4 hesaplama gerekiyorsa aynı 24 GB'lık RTX PRO 4000'e bakın; aylık $450.

**İki RTX 3090'ı NVLink köprüsüyle bağlamak gerekir mi?**
Çoğu inference işinde gerekmez: vLLM'in tensör paralelliği iki kart arasında PCIe üzerinden de çalışır. Köprü, kartlar arasında sık veri alışverişi yapan eğitim işlerinde fayda sağlayabilir; NVIDIA'nın GA102 belgesi bu çipin NVLink arayüzü için iki kart arasında toplam 112,5 GB/s verir. RTX 3090'da köprü en fazla iki kartı bağlar. Köprülü kurulum istiyorsanız bunu sipariş formunda belirtin, sunucu yapılandırmasıyla birlikte netleştirelim.

**RTX 3090 ile RTX 3090 Ti arasındaki fark nedir?**
İkisinde de 24 GB GDDR6X bellek ve 384 bit veri yolu vardır. RTX 3090'da 10.496 CUDA çekirdeği bulunur ve kart 350 W çeker; sonradan çıkan RTX 3090 Ti'de 10.752 CUDA çekirdeği vardır, hızlandırma saati 1,86 GHz'dir ve kart 450 W çeker. Bizde kiralanan model RTX 3090'dır; bu sayfadaki teknik değerler ona aittir.

**RTX 3090 7/24 çalışan bir servis için uygun mu?**
Kart 7/24 çalışabilir; sunucularımızda aylık %99,5 erişilebilirlik hedefi, hizmet kredisi ve kritik arızalarda 7/24 telefon desteği geçerlidir. Bilmeniz gerekenler: NVIDIA'nın özelliklerinde ECC bellek yer almaz ve kart 350 W çeker. Bellek hatalarına karşı korumanın önemli olduğu uzun eğitimlerde ya da kritik servislerde ECC'li ve 145 W'lık RTX PRO 4000 daha uygundur.

**RTX 3090 sunucuyu en az ne kadar süreyle kiralayabilirim?**
Kiralama aylıktır ve en az 1 aydır; yıllık kiralamada aylık fiyata %20 indirim uygulanır ve RTX 3090'ın aylık fiyatı $240 olur (GPU başına, KDV hariç). Sunucular siparişe göre hazırlanır; teslim tarihi ödemeden sonra yazılı bildirilir ve 10 iş gününden fazla gecikirse siparişi iptal edip ödemenizin tamamını geri alabilirsiniz.