# İkinci el NVIDIA A100 40 GB alımı - Adres: https://gpukiralama.com.tr/ekran-karti-alimi/a100-40gb/ - Tahmini alım teklifi: yayınlanmış aralık yok, teklif telefonla - Kart: 40 GB HBM2, Ampere, 2020 A100 40 GB için şu an yayınlanmış bir teklif aralığı yok; formu doldurun, teklifimizi telefonla iletelim. Kartı Bağcılar, İstanbul tesisimizde randevuyla, yanınızda test ediyoruz; test geçerse aynı randevuda satıcı adına açılmış banka hesabına ödüyoruz. Kargo ile alım yapmıyoruz. ## A100 40 GB bugün hangi işlere yetiyor? A100 40 GB, NVIDIA'nın Ampere veri merkezi kartının ilk sürümü. NVIDIA kartı 14 Mayıs 2020'de DGX A100 ve HGX A100 sistemleriyle SXM4 modül olarak duyurdu, PCIe kart sürümünü 22 Haziran 2020'de ekledi. Kartta 40 GB HBM2 bellek, 1.555 GB/s bant genişliği ve ECC var. NVIDIA'nın ürün özetine göre bu bellekte ECC'nin kapasite ya da bant genişliği açısından ek yükü yok. Kartın öne çıktığı iki alan: - **Bilimsel hesaplama:** Veri sayfasında çift hassasiyet (FP64) için 9,7 TFLOPS, Tensor çekirdekleriyle 19,5 TFLOPS yazıyor. NVIDIA, A100'ü yapay zekanın yanında HPC ve veri analitiği için de konumluyor. - **Bölünebilirlik:** MIG ile kart, her biri kendi belleği, önbelleği ve hesaplama birimleri olan yediye kadar yalıtılmış bölüme ayrılabiliyor; 40 GB sürümde en küçük bölüm 5 GB. Yapay zeka tarafında 40 GB orta boy modellere yetiyor. 16 bitte parametre başına 2 bayt hesabıyla 14 milyar parametreli bir model yaklaşık 28 GB tutar; Hugging Face'in çıkarım için öngördüğü yüzde 20'ye varan ek payla bile 40 GB'a sığar. 70 milyar parametreli bir model ise 4 bitte bile yaklaşık 35 GB'tır ve ek payla 40 GB'ı aşabilir. Bu boyut için [A100 80 GB](/ekran-karti-alimi/a100-80gb/) ya da daha büyük bellek gerekir; kendi modeliniz için [VRAM hesaplayıcıyı](/araclar/vram-hesaplayici/) kullanabilirsiniz. ## A100 40 GB'ın PCIe ve SXM4 sürümleri nasıl ayrılır? PCIe sürümü standart bir sunucu yuvasına takılan çift yuvalı bir kart, SXM4 sürümü ise HGX A100 taban kartına oturan bir modül. NVIDIA'nın veri sayfası ve sürücü belgelerine göre A100 ailesinin dört sürümü şöyle ayrılıyor: | nvidia-smi adı | Bellek | Bant genişliği | Azami güç | MIG bölümü | Aygıt kimliği | |---|---|---|---|---|---| | NVIDIA A100-PCIE-40GB | 40 GB HBM2 | 1.555 GB/s | 250 W | 7 × 5 GB | 20F1 | | NVIDIA A100-SXM4-40GB | 40 GB HBM2 | 1.555 GB/s | 400 W | 7 × 5 GB | 20B0 | | NVIDIA A100 80GB PCIe | 80 GB HBM2e | 1.935 GB/s | 300 W | 7 × 10 GB | 20B5 | | NVIDIA A100-SXM4-80GB | 80 GB HBM2e | 2.039 GB/s | 400 W | 7 × 10 GB | 20B2 | NVIDIA, 250 W'lık PCIe kartın en yaygın uygulamalarda 400 W'lık SXM4 modülün yaklaşık yüzde 90'ı kadar başarım verdiğini yazıyor. İki PCIe kart üç NVLink köprüsüyle bağlanıp 600 GB/s'ye ulaşıyor; her köprü iki yuva aralığına göre yapılmış ve tam bant genişliği için üçü de takılı olmalı. SXM4 modüller NVLink'e HGX taban kartı üzerinden bağlanıyor. PCIe kartın güç girişi tek bir 8 pin CPU (EPS) konnektörü. Formda tam modeli, biçimi, adedi, kartların bir sunucuda takılı olup olmadığını, fatura ve garanti durumunu yazın. SXM4 modül, HGX taban kartı ya da sunucu satmak istiyorsanız bunu da belirtin; uygunluğu randevudan önce telefonda konuşuruz. ## Kartınızın 40 GB mı 80 GB mı olduğunu nasıl anlarsınız? En kesin yol, yukarıdaki tablodaki ad ve aygıt kimliği. 80 GB'lık PCIe kart 2021'de çıktı ve dışarıdan 40 GB'lık kartla neredeyse aynı: ikisi de yaklaşık 267 mm uzunluğunda, çift yuvalı, pasif soğutuculu ve tek 8 pin CPU girişli. Şu komut işinizi görür: ``` nvidia-smi --query-gpu=name,memory.total,pci.device_id,power.default_limit --format=csv ``` 40 GB PCIe kartta aygıt kimliğinde 20F1 geçer ve varsayılan güç sınırı 250 W görünür. Toplam bellek 40 bin MiB'ın biraz üzerindedir; NVIDIA'nın MIG kılavuzundaki A100-SXM4-40GB örneğinde bu değer 40.537 MiB. Eski sürücülerde adın başında "NVIDIA" yazmayabilir. MIG açıksa `nvidia-smi mig -lgip` listesinde 40 GB kartta 1g.5gb profili yer alır; 80 GB kartta en küçük profil ise 1g.10gb. ## MIG açık bir kartı nasıl getirmelisiniz? Kartı MIG kapalı getirmeniz en kolayı, çünkü NVIDIA'ya göre Ampere kartlarda MIG ayarı yeniden başlatmalardan sonra da kalıyor. Adımlar: 1. **Durumu görün:** `nvidia-smi -i 0 --query-gpu=pci.bus_id,mig.mode.current --format=csv` çıktısında "Enabled" ya da "Disabled" yazar. 2. **Kapatın:** `sudo nvidia-smi -i 0 -mig 0` çalıştırın. NVIDIA'ya göre Ampere kartlarda sürücü, ayarın geçerli olması için GPU'yu sıfırlamayı dener; olmazsa sunucuyu yeniden başlatın. 3. **Kontrol edin:** `nvidia-smi -q` çıktısındaki "MIG Mode" bölümünde "Current" ve "Pending" satırlarının ikisi de "Disabled" olmalı. Kapatamıyorsanız formda belirtmeniz yeterli. ## Satmadan önce hangi kontrolleri yapabilirsiniz? - **Bellek hataları:** `nvidia-smi -q -d ECC,ROW_REMAPPER` ECC sayaçlarını ve satır yeniden eşleme (row remapping) bilgisini birlikte gösterir. "Aggregate" ECC sayaçları kartın ömrü boyunca birikir. Yeniden eşleme bölümünde "Pending" ya da "Remapping Failure Occurred" satırı "Yes" ise formda belirtin; VRAM hatası olan kartı almıyoruz. - **Isı:** NVIDIA'ya göre pasif soğutuculu kart, sınırları içinde çalışmak için sistemin hava akışına ihtiyaç duyuyor; ürün özetinde ısı gereksinimlerinin V100S'e benzediği yazıyor. Yük testini sunucu kasasında yapın ve `nvidia-smi --query-gpu=temperature.gpu,temperature.memory,clocks_throttle_reasons.hw_thermal_slowdown --format=csv -l 5` ile izleyin; `temperature.memory` HBM bellek sıcaklığını verir. - **PCIe bağlantısı:** PCIe 4.0 destekli bir sistemde `nvidia-smi --query-gpu=pcie.link.gen.max,pcie.link.width.max --format=csv` çıktısı 4 ve 16 olmalı. - **Güç girişi:** 8 pin CPU girişinde kararma, erime ya da eğilmiş pin olmamalı; erimiş güç konnektörlü kartı almıyoruz. NVIDIA'ya göre bu giriş bir CPU 8 pin kabloyla ya da iki PCIe 8 pin'i birleştiren adaptörle beslenir; adaptörünüz varsa getirin. - **Görüntü:** Kartta ekran çıkışı yok; test sırasında görüntüyü anakarttan ya da başka bir ekran kartından alırsınız. Genel adımlar için [ikinci el kart test rehberimize](/blog/ikinci-el-ekran-karti-nasil-test-edilir/) bakabilirsiniz. ## A100 40 GB'ta teklifi hangi ayrıntılar etkiler? A100 40 GB için şu an yayınlanmış bir teklif aralığı yok: formu doldurun, teklifimizi telefonla iletelim. Kesin teklifi, kartı Bağcılar'daki tesisimizde sizin önünüzde test ettikten sonra veriyoruz; satmak zorunda değilsiniz. Bu kartta öne çıkan etkenler: - **Yaş ve garanti:** Kart 2020'de çıktı; faturadaki tarihi ve garantinin sürüp sürmediğini formda yazın. Garantisi bitmiş kartta teklifimizden %20 düşülür. - **Geçmiş:** Kartı ikinci el aldıysanız ve önceki kullanımını bilmiyorsanız %15 düşülür. - **Biçim ve adet:** Kartın biçimi, adedi ve hangi sunucudan çıktığı; SXM4 modülde uygunluk önce telefonda konuşulur. - **Soğutucu ve kasa:** Pasif soğutucunun kanatlarında ezilme, braket bükülmesi gibi kozmetik kusurlar. - **Eksiksizlik:** NVLink köprüleri, uzatma braketi ve güç adaptörü. Kart bir şirketten çıkıyorsa şirketiniz bize fatura keser; bireysel satışta gider pusulası düzenliyoruz. ## A100 40 GB'ı satmak için beklemeli misiniz? Fiyat tahmini yapmıyoruz; somut etkenler şunlar: - **Bellek sınıfı:** A100 ailesinde 80 GB sürüm Kasım 2020'de SXM4, 2021'de PCIe olarak geldi; sonraki nesil H100 SXM de 80 GB taşıyor. 40 GB, bu ailede küçük bellek seçeneği olarak kaldı. - **Yeni hassasiyetler:** 2022'de duyurulan [H100'de](/ekran-karti-alimi/h100/) FP8 destekli Transformer Engine var; A100'ün veri sayfasında FP8 yok. - **MIG:** H100 SXM de yediye kadar bölüme ayrılıyor ama bölümler 10 GB; A100 40 GB'ta 5 GB. - **Garanti:** Faturadaki tarihe bakın; garanti sürerken satarsanız garanti indirimi uygulanmaz. - **Bizim tarafımız:** Aldığımız kartları satmıyoruz; kendi kiralık sunucularımızda kullanıyoruz. ## A100 40 GB yerine kiralamak 40 GB yetmiyorsa kartı satıp daha büyük belleği aylık kiralayabilirsiniz. 80 GB bellekli [H100 sunucumuzun](/gpu-modelleri/nvidia-h100/) GPU başına aylık fiyatı $2.500 (KDV hariç). 96 GB bellekli [RTX PRO 6000 sunucusunun](/gpu-modelleri/nvidia-rtx-pro-6000/) aylık fiyatı ise $1.600. Kiralamalarımız aylık ve paylaşımsızdır: VPS değil, kartın tamamı size ayrılır. A100 ile H100'ü [karşılaştırma yazımızda](/blog/h100-vs-a100-karsilastirma/) ayrıntılı ele aldık. ## Özet - A100 40 GB, ECC'nin kapasiteden pay almadığı 40 GB HBM2 bellek, 1.555 GB/s bant genişliği ve güçlü FP64 hesapla öne çıkıyor. - 80 GB sürümle dışarıdan neredeyse aynı; nvidia-smi'deki aygıt kimliği 20F1 ise kartınız 40 GB PCIe. - PCIe kart 250 W, SXM4 modül 400 W; formda biçimi, adedi ve sunucu bilgisini yazın. - MIG ayarı yeniden başlatmada kalır; kartı MIG kapalı getirin ve `nvidia-smi -q -d ECC,ROW_REMAPPER` ile bellek sayaçlarına bakın. - Yayınlanmış teklif aralığı yok; teklifimizi formdan sonra telefonla iletiyoruz, kesin teklif testten sonra verilir. ## Kaynaklar - [NVIDIA: A100 veri sayfası (Haziran 2020)](https://www.nvidia.com/content/dam/en-zz/Solutions/Data-Center/a100/pdf/nvidia-a100-datasheet.pdf) - [NVIDIA: A100 veri sayfası, 40 GB ve 80 GB sürümler (Haziran 2021)](https://www.nvidia.com/content/dam/en-zz/Solutions/Data-Center/a100/pdf/nvidia-a100-datasheet-us-nvidia-1758950-r4-web.pdf) - [NVIDIA: A100 40GB PCIe ürün özeti](https://www.nvidia.com/content/dam/en-zz/Solutions/Data-Center/a100/pdf/A100-PCIE-Prduct-Brief.pdf) - [NVIDIA: A100 duyurusu (14 Mayıs 2020)](https://nvidianews.nvidia.com/news/nvidias-new-ampere-data-center-gpu-in-full-production) - [NVIDIA: PCIe A100 duyurusu (22 Haziran 2020)](https://nvidianews.nvidia.com/news/worlds-top-system-makers-unveil-nvidia-a100-powered-servers-to-accelerate-ai-data-science-and-scientific-computing) - [NVIDIA: A100 80GB duyurusu (16 Kasım 2020)](https://nvidianews.nvidia.com/news/nvidia-doubles-down-announces-a100-80gb-gpu-supercharging-worlds-most-powerful-gpu-for-ai-supercomputing) - [NVIDIA: Linux sürücüsünün desteklediği GPU'lar ve aygıt kimlikleri](https://download.nvidia.com/XFree86/Linux-x86_64/580.95.05/README/supportedchips.html) - [NVIDIA: MIG profilleri](https://docs.nvidia.com/datacenter/tesla/mig-user-guide/supported-mig-profiles.html) - [NVIDIA: MIG kılavuzu, başlangıç](https://docs.nvidia.com/datacenter/tesla/mig-user-guide/getting-started-with-mig.html) - [NVIDIA: nvidia-smi belgeleri](https://docs.nvidia.com/deploy/nvidia-smi/index.html) - [NVIDIA: H100 teknik özellikleri](https://www.nvidia.com/en-us/data-center/h100/) - [Hugging Face Accelerate: model bellek tahmini](https://huggingface.co/docs/accelerate/main/en/usage_guides/model_size_estimator) ## Sık sorulan sorular **A100 40 GB ikinci el kaç para, teklifiniz ne kadar?** A100 40 GB için yayınladığımız bir teklif aralığı şu an bulunmuyor. Formda kartın biçimini, adedini ve fatura durumunu yazarsanız teklifimizi telefonla iletiriz. Son teklif, kart Bağcılar'daki tesisimizde sizin önünüzde test edildikten sonra verilir ve satmak zorunda değilsiniz. **40 GB A100 ile 80 GB A100'ü nasıl ayırt ederim?** Kartı bir sunucuya takıp `nvidia-smi --query-gpu=name,memory.total,pci.device_id,power.default_limit --format=csv` çalıştırın. 40 GB PCIe kart "NVIDIA A100-PCIE-40GB" adıyla, 20F1 aygıt kimliği ve 250 W varsayılan güç sınırıyla görünür. 80 GB PCIe kartta ad "NVIDIA A100 80GB PCIe", kimlik 20B5, sınır 300 W'tır. **PCIe A100 40 GB ile SXM4 A100 40 GB arasındaki fark nedir?** Bellek ve bant genişliği aynı, ama PCIe kart en çok 250 W, SXM4 modül 400 W çekiyor; NVIDIA, PCIe kartın en yaygın uygulamalarda SXM4'ün yaklaşık yüzde 90'ı kadar başarım verdiğini yazıyor. PCIe kart standart bir sunucu yuvasına takılır, SXM4 modül HGX A100 taban kartına oturur. SXM4 modülleriniz varsa formda belirtin; uygunluğu randevudan önce telefonda konuşuruz. **A100'ü normal bir masaüstü kasada test edebilir miyim?** Önermiyoruz. A100 fansız, pasif soğutuculu bir kart; NVIDIA'ya göre sınırları içinde çalışması için sistemin hava akışı gerekiyor. Ekran çıkışı da olmadığı için görüntüyü başka bir karttan ya da anakarttan almanız gerekir. Kimlik ve bellek sayaçlarını yük vermeden okuyabilir, yük testini sunucu kasasında yapabilirsiniz. **ECC'yi kapatırsam A100 40 GB'ın belleği artar mı?** Hayır. NVIDIA'nın ürün özetine göre A100 40 GB'ın HBM2 belleğinde ECC'nin kapasite ve bant genişliği açısından ek yükü yok; kartlar ECC açık olarak geliyor. ECC ayarı `nvidia-smi -e` ile değişir ve bir sonraki yeniden başlatmada geçerli olur, ama satmadan önce bu ayarı değiştirmeniz gerekmez. **V100 32 GB alıyor musunuz?** Hayır. V100, A100'den önceki Volta neslinin kartı; 2020'den eski kartları almıyoruz. NVIDIA'ya göre A100, önceki nesle göre 1,7 kat bellek bant genişliği sunuyor. Kartınızın tam adını `nvidia-smi --query-gpu=name --format=csv` ile kontrol edebilirsiniz; V100'lerde ad "Tesla V100" ile başlar. **A100 40 GB'ımı satıp H100 kiralamak mantıklı mı?** Bu, kartı ne kadar sürekli kullandığınıza ve 40 GB'ın işinize yetip yetmediğine bağlı. 80 GB bellekli H100 sunucumuzun GPU başına aylık fiyatı $2.500 (KDV hariç); kiralamalarımız aylık ve paylaşımsızdır, VPS değildir. Kartı seyrek kullanıyorsanız satıp gerektiğinde kiralamak, sürekli kullanıyorsanız kartı tutmak daha uygun olabilir.