Suni zeka veri merkezleri boşluk tükendiğinde, pahalı bir ikilemle karşılaşırlar: daha büyük tesisler oluşturun yada birden fazla konumun beraber sorunsuz bir halde çalışmasını sağlama yolları bulun. NVIDIA’nın en yeni Spectrum-XGS Ethernet teknolojisi, AI veri merkezlerini geniş mesafelerden firmanın “GIGA ölçekli AI süper faktörleri” söylediği şeye bağlayarak bu zorluğu çözmeyi vaat ediyor.
Duyurulmuş Hot Chips 2025’in öncesinde, bu ağ inovasyonu, firmanın AI endüstrisini hesaplama gücünün iyi mi dağıtıldığını tekrardan düşünmeye zorlayan büyüyen bir soruna yanıtını temsil ediyor.
İçindekiler
Mesele: Bir bina kafi olmadığında
Suni zeka modelleri daha sofistike ve talepkar hale geldikçe, çoğu zaman herhangi bir tesisin sağlayabileceğini aşan çok önemli hesaplama gücü gerektirirler. Geleneksel AI veri merkezleri güç kapasitesi, fizyolojik alan ve soğutma özelliklerinde kısıtlamalarla karşı karşıyadır.
Firmalar daha çok işleme gücüne gerekseme duyduklarında, çoğu zaman tamamen yeni tesisler oluşturmak zorundadırlar – sadece ayrı konumlar arasındaki koordinasyon emek harcamaları ağ oluşturma sınırlamaları sebebiyle sorunlu olmuştur. Mesele, yüksek gecikme, öngörülemeyen performans dalgalanmalarından (“titreme” denir) ve uzak konumları bağlarken tutarsız veri aktarım hızlarından muzdarip olan standart Ethernet altyapısında yatmaktadır.
Bu problemler, AI sistemlerinin karmaşık hesaplamaları birden oldukca bölgede etkili bir halde dağıtmasını zorlaştırmaktadır.
NVIDIA’nın Çözümü: Ölçek-Across teknolojisi
Spectrum-XGS Ethernet, NVIDIA’nın “ölçek-akross” kabiliyetini tanıttığı şeydir-AI hesaplamaya mevcut “ölçeklendirme” (bireysel işlemcileri daha kuvvetli hale getirme ”ve“ ölçeklendirme ”(aynı konum içinde daha çok işlemci ekleme) stratejilerini tamamlayan üçüncü bir yaklaşım.
Teknoloji, NVIDIA’nın mevcut Spectrum-X Ethernet platformuna entegre olur ve birkaç temel yenilik ihtiva eder:
- Mesafe-Uyumlu Algoritmalar Tesisler arasındaki fizyolojik mesafeye gore ağ davranışını otomatikman ayarlayan
- Gelişmiş tıkanıklık kontrolü uzun mesafeli iletim esnasında veri darboğazlarını önleyen
- Duyarlı gecikme yönetimi Tahmin edilebilir cevap sürelerini sağlamak için
- Uçtan uca telemetri Gerçek zamanlı ağ seyretme ve optimizasyon için
Nvidia’nın duyurusuna gore, bu iyileştirmeler “birden fazla grafik işleme birimleri (GPU) ve hesaplama düğümleri arasındaki iletişimi işleyen NVIDIA Kolektif İletişim Kütüphanesi’nin performansını neredeyse iki katına çıkarabilir”.
Gerçek dünyadaki uygulamalar
GPU-Accupicered Computing mevzusunda uzmanlaşmış bir bulut altyapı şirketi olan CoreWeave, Spectrum-XGS Ethernet’in ilk benimseyenleri içinde olmayı planlıyor.
Coreweave’ın kurucu ve baş teknoloji sorumlusu Peter Salanki, “NVIDIA spektrum-XGS ile veri merkezlerimizi tek, birleşik bir süper bilgisayarlara bağlayabilir ve müşterilerimize her sektördeki atılımları hızlandıracak GIGA ölçekli AI’ya erişimi sağlayabiliriz” dedi.
Bu dağıtım, hızla gelişen teknolojinin gerçek dünya koşullarında vaatlerini yerine getirip getiremeyeceği için ergonomik bir kontrol durumu olarak hizmet edecektir.
Sanayi bağlamı ve neticeleri
Duyuru, orijinal Spectrum-X platformu ve Quantum-X silikon fotonik anahtarları da dahil olmak suretiyle NVIDIA’dan bir takım ağ odaklı sürüm izliyor. Bu model, firmanın ağ altyapısını AI gelişiminde tehlikeli sonuç bir darboğaz olarak tanıdığını göstermektedir.
Nvidia’nın kurucusu ve CEO’su Jensen Huang, “AI Endüstri Devrimi burada ve dev ölçekli AI fabrikaları temel altyapı” dedi. Huang’ın karakterizasyonu NVIDIA’nın pazarlama perspektifini eklerken, açıklamış olduğu temel güçlük – daha çok hesaplama kapasitesine duyulan gerekseme – AI endüstrisinde kabul edilmektedir.
Teknoloji, AI veri merkezlerinin iyi mi planlandığını ve işletildiğini etkileyebilir. Firmalar, mahalli güç ızgaralarını ve gayrimenkul piyasalarını zorlayan devasa tek tesisler inşa etmek yerine, performans seviyelerini korurken altyapılarını birden fazla ufak konuma dağıtabilirler.
Teknik hususlar ve sınırlamalar
Bununla beraber, çeşitli faktörler Spectrum-XGS Ethernet’in ergonomik etkinliğini etkileyebilir. Uzun mesafelerdeki ağ performansı, ışık hızı ve bölgeler arasındaki altta yatan web altyapısının kalitesi de dahil olmak suretiyle fizyolojik sınırlamalara tabidir. Hızla gelişen teknolojinin başarısı büyük seviyede bu engellemeler içinde ne kadar iyi çalışabileceğine bağlı olacaktır.
Buna ek olarak, dağıtılmış AI veri merkezlerinin yönetilmesinin karmaşıklığı, veri senkronizasyonu, arıza toleransı ve değişik yetki alanlarına düzenleyici uyumlulukları dahil etmek için ağ oluşturmanın ötesine uzanır – tek başına ağ geliştirmelerinin çözemediği.
Kullanılabilirlik ve pazar tesiri
NVIDIA, Spectrum-XGS Ethernet’in Spectrum-X platformunun bir parçası olarak “şimdi mevcut” bulunduğunu belirtir, sadece fiyatlandırma ve belirli dağıtım süre çizelgeleri açıklanmadı. Hızla gelişen teknolojinin benimsenme oranı, daha büyük tek site tesisleri oluşturmak yada mevcut ağ çözümlerini kullanmak benzer biçimde alternatif yaklaşımlara kıyasla maliyet etkinliğine bağlı olacaktır.
Tüketiciler ve işletmeler için sonuçta şudur: eğer NVIDIA’nın teknolojisi vaat edilmiş olduğu benzer biçimde çalışıyorsa, firmalar dağıtılmış data işlem yöntemiyle verimlilik kazandıkça daha süratli AI hizmetleri, daha kuvvetli uygulamalar ve potansiyel olarak maliyetleri görebiliyorduk. Bununla beraber, teknoloji gerçek dünya koşullarında teslim edilemezse, AI şirketleri devamlı daha büyük tek tesisler inşa etmek yada performans uzlaşmalarını kabul etmek içinde pahalı seçimle karşılaşmaya devam edecektir.
CoreWeave’in yaklaşan dağıtımı, AI veri merkezlerini mesafelere bağlamanın hakikaten ölçekli çalışıp çalışamayacağının ilk büyük testi görevi görecektir. Sonuçlar, öteki şirketlerin geleneksel yaklaşımları takip edip etmediğini yada geleneksel yaklaşımlara bağlı olup olmadığını belirleyecektir. Şimdilik, Nvidia iddialı bir vizyon sundu – sadece AI endüstrisi hala gerçekliğin vaatle eşleşip eşleşmediğini görmek için bekliyor.
Ek olarak bakınız: Çin için yeni Nvidia Blackwell Chip H20 modelini aşabilir
Sanayi liderlerinden suni zeka ve büyük veriler hakkında daha çok data edinmek ister misiniz? Çıkış yapmak AI ve Big Data Fuarı Amsterdam, California ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, öteki önde gelen etkinliklerle beraber toplanır. Akıllı Otomasyon Konferansı– Blockx– Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
Techforge tarafınca desteklenen öteki yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.