Samsung Yüksek Bant Genişliğinde Bellek İçi İşleme Mimarisini Duyurdu

Samsung Yüksek Bant Genişliğinde Bellek İçi İşleme Mimarisini Duyurdu. Samsung Electronics, yüksek bant genişliğine sahip bellekte işlem yapan HBM-PIM adı verilen yeni bir tür bellek yongası mimarisinin geliştirildiğini duyurdu.

AI Uygulamalarında Samsung Yüksek Bant Genişliğine Sahip Bellek İçi İşleme Mimarisi

Mimari, yüksek bant genişliğine sahip bellek yongalarına yapay zeka işlemeyi ekler. Yeni çipler, veri merkezlerini hızlandırmanın, yüksek performanslı bilgisayarlarda hızı artırmanın ve AI uygulamalarını daha da etkinleştirmenin bir yolu olarak pazarlanacak.

Bilgisayar mühendisleri, Samsung Bellek Mimarisi, bir bilgisayarın CPU’su ve bellek yongaları arasında verileri ileri geri karıştırma ihtiyacı nedeniyle bilgisayarlarda ortaya çıkan darboğazları ortadan kaldırmak için uzun süredir çalışıyorlar. Bunu yapmaya yönelik çabaların çoğu, CPU’lara küçük miktarlarda hızlı bellek önbelleği eklemeyi içeriyordu.

Maalesef, bunu yapmak enerji tüketimini artırıyor, daha fazla ısı üretimine yol açar. Bu yeni çabada, Samsung ‘daki ekip tam tersi bir yaklaşım benimsedi – bellek yongalarına işlemin bir kısmını üstlenme yeteneği verdi.

HBM-PIM ile Samsung DRAM İçin Optimize Edilmiş Yapay Zeka Motoru

Yeni HBM-PIM ile Samsung, “DRAM için optimize edilmiş Yapay Zeka Motoru” olarak tanımladığı şeyi bir bellek bankasının içine yerleştirdi. Bu, işinin bir kısmını uzak veri bankalarına aktararak CPU üzerindeki işlem yükünü azaltır. Yalnızca iş yükü azalmakla kalmaz, aynı zamanda veri hareketindeki azalma nedeniyle işleme hızı da artar.

HBM-PIM için teknik özellikler, geleneksel bellek komutları kullanılarak ana CPU tarafından kontrol edilen 300 MHz’de çalışan bir PCU içerir. Bu yaklaşımla, PCU’ya FP16 hesaplamalarını doğrudan DRAM ünitesinin içinde yapması talimatı verilebilir.

Özellikle, HBM-PIM, bir sistem kendisi için yazılmamış uygulamaları çalıştırırken normal RAM olarak çalışabilir. Samsung, yeni teknolojiyi mevcut HBM2 Aquabolt sistemleriyle test ettiklerinde, sistem performansının iki katına çıktığını ve enerji tüketiminin %70 oranında azaldığını belirtiyor.

Ayrıca, mevcut sistemlere HBM-PIM’lerin kurulmasının, yerinde donanım veya yazılımda başka herhangi bir değişiklik gerektirmeyeceğini de belirttiler.

HBM-PIM teknolojileri şu anda AI çözüm ortakları tarafından oluşturulan önceden geliştirilmiş AI hızlandırıcılarla test ediliyor – sonuçları bu yılın ilk yarısında görmeyi bekliyorlar.

Şirketin temsilcileri bu yılki Uluslararası Katı Hal Devreleri Sanal Konferansı’nda yeni teknolojiyi anlatan yazdıkları bir bildiriyi sunacaklar.

Okumaya Devam Edin: HBM Bellek Desteği ile Intel Sapphire Rapids Kurumsal İşlemciler