NVIDIA Kartlarındaki Gizli Yapay Zeka Gücü Açığa Çıktı: Performans İkiye Katlandı, İkinci El Fiyatları Tavan Yaptı!
Açık kaynaklı 'Zagitta' aracı, NVIDIA RTX 30 ve 40 serisi ekran kartlarının yapay zeka işlem gücünü kilidini kaldırarak adeta ikiye katladı. Bu gelişme, ikinci el piyasasında kart fiyatlarının rekor seviyelere ulaşmasına neden oldu.
Teknoloji dünyası, yapay zeka alanındaki baş döndürücü gelişmelerle birlikte donanım tarafında da çığır açan yeniliklere sahne oluyor. Özellikle NVIDIA GeForce RTX 30 ve 40 serisi ekran kartları için duyurulan yeni bir gelişme, kartların gizli kalmış yapay zeka hesaplama potansiyelini ortaya çıkardı. GitHub'da paylaşılan açık kaynaklı Zagitta aracı sayesinde, bu kartların yapay zeka görevlerindeki performansı neredeyse iki katına çıkarken, ikinci el piyasasında da adeta bir fiyat patlaması yaşanıyor.
Yapay Zeka Sınırları Kaldırılıyor: Zagitta Aracının Devrimi
Geçmişte, kripto para madenciliğinin zirve yaptığı dönemlerde NVIDIA, oyunculara yönelik geliştirdiği ekran kartlarının profesyonel ve kurumsal yapay zeka hesaplamaları için kullanılmasını kısıtlamak amacıyla bazı donanımsal sınırlamalar getirmişti. Bu kısıtlamalar, kartların belirli hesaplama türlerindeki hızını düşürüyordu. Ancak Zagitta adındaki yenilikçi yazılım, bu engelleri aşmak için geliştirildi. VBIOS flaşlama veya donanıma fiziksel müdahale gerektirmeden çalışan bu Linux çekirdek modülü, kartların FP16 ve BF16 hesaplama hızlarını ciddi oranda artırarak, adeta profesyonel kartların performans seviyesine taşıyor.
Zagitta'nın çalışma prensibi oldukça akıllıca. Araç, NVIDIA'nın kendi sürücüsü devreye girmeden hemen önce, donanım seviyesinde bulunan hız seçicilerini (speed selectors) yeniden yapılandırıyor. Bu sayede, özellikle GA102, GA103, GA104 ve GA106 grafik işlemcilerine sahip kartlarda, FP/BF16 FMA komut işleme hızı, profesyonel sınıf kartlarla rekabet edebilir seviyelere ulaşıyor. Yazılımın en dikkat çekici avantajlarından biri ise, kullanıcıları riskli vBIOS güncellemeleriyle uğraştırmaması ve sürücü güncellemeleri sonrasında dahi herhangi bir ek yama gerektirmemesi.
Performans Artışı Göz Kamaştırıyor: Test Sonuçları Ne Diyor?
Zagitta aracının kullanımıyla elde edilen ilk test sonuçları, özellikle Ampere mimarisine sahip RTX 30 serisi kartlarda inanılmaz kazanımlar sağlandığını ortaya koyuyor. Kartların ham işlem gücü ve büyük dil modelleri (LLM) gibi gerçek dünya senaryolarındaki performansı şu şekilde ölçülüyor:
- RTX 3090 Ti: BF16 işlem gücü 87,5 TFLOPS'tan 157,4 TFLOPS'a fırlarken, TF32 performansı ise 42,5 TFLOPS'tan 82,6 TFLOPS'a yükseliyor.
- RTX 3080 10 GB: Orijinal 320W güç sınırında çalışan kartın FP16 performansı, 65 TFLOPS'tan 113 TFLOPS seviyesine ulaşıyor.
- RTX 3070 ve RTX 3060 12 GB: Bu modellerde de BF16 GEMM hesaplamalarında yaklaşık %70 ila %81 arasında olağanüstü bir verim artışı gözlemleniyor.
Büyük Dil Modeli (LLM) alanındaki kazanımlar da oldukça dikkat çekici. Kilidin kaldırılmasıyla birlikte, uzun bağlamlı (long-context) sorgularda ön yükleme (prefill) süresi %35 civarında hızlanırken, ilk yanıta ulaşma gecikmesi (TTFT - Time To First Byte) %25 oranında düşüyor. Bu iyileştirmeler, yapay zeka uygulamalarının çok daha hızlı ve verimli çalışmasını sağlıyor.
İkinci El Piyasasında Rekor Fiyatlar: Oyuncular ve Geliştiriciler Karşı Karşıya
Zagitta aracının şu an için yalnızca Linux işletim sisteminde çalışıyor olması, başlangıçta bir kısıtlama gibi görünse de, yapay zeka geliştiricileri ve büyük dil modelleri üzerinde ince ayar (fine-tuning) yapan profesyoneller arasında bu kartlara olan talebi adeta patlattı. Özellikle 24 GB VRAM kapasitesine sahip GeForce RTX 3090 ve RTX 3090 Ti modelleri, kurumsal düzeydeki yapay zeka hızlandırıcılarına kıyasla çok daha uygun bir maliyetle etkileyici bir alternatif sunuyor.
Bu ani talep artışı, ikinci el pazarındaki fiyatları doğrudan etkiledi. Kısa bir süre önce yurt dışı ikinci el platformlarında yaklaşık 1.000 dolar civarında alıcı bulan 24 GB RTX 3090'ların fiyatı 2.000 doları aşarken, RTX 3090 Ti modelleri 2.650 ila 3.000 dolar aralığına tırmanış gösterdi. RTX 3080 modelleri de benzer bir artışla 1.000 dolar sınırına dayandı. Bu durum, yapay zeka geliştiricileri için daha erişilebilir bir hesaplama gücü kapısı aralarken, uygun fiyatlı bir ekran kartı arayışında olan oyuncuları ise fiyat artışları karşısında zor durumda bırakıyor. Teknoloji meraklıları ve donanım uzmanları, bu gelişmenin yapay zeka ekosistemindeki dengeleri nasıl değiştireceğini yakından takip ediyor.
Ceren Güneş
Teknoloji & Gelecek Vizyonu
Bu yazı yazarımızın sitemizde yayınlanan köşe yazılarından biridir. Yazarımıza ait diğer tüm köşe yazılarına ve analizlere yukarıdaki bağlantıdan ulaşabilirsiniz.