Bit gürültüsü: AI bellek üretim kapasitesi neredeyse tamamen doldu

celeron

Global Mod
Global Mod
Ne yazık ki tükendi! Bu, en güçlü AI bilgi işlem hızlandırıcılarının çoğunun ihtiyaç duyduğu RAM türü olan Yüksek Bant Genişlikli Belleğin (HBM) dünyadaki üç üreticisinden ikisinin bildirdiği şeydir. ABD şirketi Micron ve Kore şirketi SK Hynix, planladıkları HBM üretimini 2025'e kadar sattı. Yani fiyatlar artıyor; bu haber yatırımcıları memnun etmeli. AI patlamasından kâr elde etmek isteyen herkes. Tayvanlı pazar araştırma şirketi Trendforce'a göre pahalı HBM çipleri halihazırda toplam DRAM satışlarının yaklaşık yüzde 30'unu oluşturuyor.


Reklamcılık




Dünyanın en büyük çip fason üreticisi TSMC'de yüksek teknolojiye sahip paketleme tesislerinin kapasitesinin tam kapasite olduğu belirtiliyor. Bunlar, diğerlerinin yanı sıra Nvidia ve AMD tarafından geliştirilen ve TSMC tarafından üretilen AI çiplerini HBM bellek yığınlarıyla ortak yuvalara paketleyen üretim hatlarıdır. Bu darboğazlar şunu açıkça ortaya koyuyor: AI çip pazarına yeni gelenlerin sırada beklemesi gerekiyor. Henüz üretim kapasitesi ayırmamış olanlar muhtemelen 2026 yılına kadar daha büyük miktarlarda teslimat yapamayacaklar. Nvidia'nın yapay zeka çipleri üzerindeki yarı tekeli sağlamlaşmış gibi görünüyor.




Nvidia Hopper'ın bu yakın çekiminde, bilgi işlem hızlandırıcının kalıbının hemen yanında bulunan altı HBM yonga yığınını açıkça görebilirsiniz., Nvidia



Nvidia Hopper'ın bu yakın çekiminde, hızlandırıcı kalıbının hemen yanında bulunan altı HBM yonga yığınını açıkça görebilirsiniz.


(Resim: Nvidia)



Isıtma yarışması


Klasik yüksek performanslı bilgi işlem (HPC) için süper bilgisayarlar, inanılmaz derecede pahalı dev yapay zeka makinelerinin yanında cep hesap makinelerine benziyor. Exaflops Aurora sisteminin 500 milyon ABD doları tutarındaki satın alma fiyatı ve 40 megawatt (MW) güç tüketimi, Ren linyit madenciliği bölgesindeki bir Microsoft veri merkezi için 3,2 milyar avro ve birkaç yüz MW ile karşılaştırıldığında nedir? Hamburg'daki ISC 2024 süper bilgisayar konferansında, tek bir sunucu kabininden 100 kilowattlık enerji çıkaran soğutma sistemlerinden bahsedildi. Umalım da yapay zeka için güç yeterli olsun.

Klasik kurumsal sunuculara yönelik pazar yıllardır daralmaktadır ve son zamanlarda “normal” bulut sunuculara yönelik pazar da daralmaktadır. Hakim hiper ölçekli bulut şirketleri paralarını yapay zeka makinelerine yatırıyor. Klasik CPU sağlayıcıları argüman arıyor. 192 çekirdekli Ampere One'ın bir yıl önce duyurulduğu ancak hala nadiren görülen veya kiralanan Ampere Computing, yapay zeka çıkarımının birçok “küçük” ARM çekirdeğinde de iyi ve verimli bir şekilde çalıştığına inanıyor. AMD (128 çekirdekli Eypc 9754 “Bergamo”) ve yakında Intel (144 E çekirdekli Xeon 6700E “Sierra Forest”, 288 çekirdekli 6900E) potansiyel müşterilere kesinlikle aynı şeyi söyleyecektir.

Intel'in özlemini duyduğu P çekirdekli “Granite Rapids” de Xeon 6 yani 6700P veya 6900P olarak gelecek. Şu ana kadar net olmayan şey şuydu: Farklı anakartlar için iki performans sınıfı mevcuttu. LGA4710 soketli “SP” platformu sekiz RAM kanalını bağlarken LGA7529 (AP) CPU başına on iki kanala sahiptir. SP tipleri 350 watt'a kadar yakabilirken AP'nin 500 watt'a kadar yakabilmesi gerekir; yukarıda bahsedilen 288 E çekirdeği veya 128 P'ye kadar çekirdeği elde etmenin tek yolu budur. Bu, sonunda Intel'i Epycs ile aynı seviyeye getirecek ve “Turin”in (9005) de 128 Zen 5 çekirdeğine veya 192'ye kadar daha kompakt Zen 5c tipine sahip olması bekleniyor. Görünüşe göre bu 550 watt'lık bir TDP gerektiriyor.

Küçük sunucular için AMD, AM5 anakartlara yönelik, aslında Ryzen teknolojisini içeren bir Epyc 4004P serisini de piyasaya sürmeyi planlıyor. Intel'den Xeon E selamlarını iletiyor.

Ayrıca Qualcomm'un, satın aldığı ve Snapdragon X Elite/Plus'ta Oryon olarak hesaplanan “Nuvia” çekirdekleriyle ARM sunucu çipleri üzerinde yeni bir girişimde bulunmak istediğine dair söylentiler de mevcut. Ancak pazar potansiyeli buharlaşıyor gibi görünüyor: Amazon'un (Graviton) ardından Microsoft (Cobalt) ve Google da kendi ARM sunucu çiplerini duyurdu. Ampere'nin ARM sunucu çiplerinin kalan tek büyük müşterileri Oracle Cloud ve Avrupa'daki Hetzner gibi birkaç küçük veya bölgesel sağlayıcıdır.

Kaçtı


Dell'in çevrimiçi platform Scribd'de yayınlanan 311 sayfalık dahili PDF belgesi, yeni bir dizüstü bilgisayarın geliştirilmesinin ne kadar karmaşık olduğunu ve hangi bileşenlerin maliyetini ortaya koyuyor. Qualcomm Snapdragon X Plus'a sahip bir XPS 13 hakkındadır. On çekirdekli ARM CPU'nun maliyeti 145 ABD dolarıdır; bu, Dell'in Intel Core i7-1360P için ödediğinden yüzde 48 daha azdır. Ancak ARM CPU'nun anakartı daha pahalıdır ve 25,5 watt'lık termal tasarım gücü (TDP) ile aynı zamanda bir fana da ihtiyaç duyar. Dell, Intel'in “reklam sübvansiyonlarından” da bilindiği üzere Windows lisansı ve çip fiyatlarında Microsoft ve Qualcomm'dan önemli indirimler alıyor. ARM ve x86 arasındaki rekabet yeni bir tura giriyor.

Bit-Noise hakkında düzenli bir podcast de var.








Her 14 günde bir, Almanya'nın en büyük BT editör ekibi size BT güvenliği ve veri koruması, donanım, yazılım ve uygulama geliştirmeleri, akıllı ev ve çok daha fazlası hakkında güncel ipuçları, kritik raporlar, kapsamlı testler ve derinlemesine raporlar sunar. Bağımsız gazetecilik her şeyin başı ve sonudur.








(ciw)



Haberin Sonu