HBM3'te her şey mevcut, yalnızca standart kesinleştirildi
HBM3
PC çağından mobil ve yapay zeka çağına, çip mimarisi de CPU merkezli olmaktan veri merkezli olmaya geçti. Yapay zekanın getirdiği test, yalnızca çip hesaplama gücünü değil, aynı zamanda bellek bant genişliğini de içeriyor. DDR ve GDDR oranları nispeten yüksek olmasına rağmen, birçok AI algoritması ve sinir ağı, tekrar tekrar bellek bant genişliği sınırlamalarıyla karşılaşmıştır.Geniş bant genişliğine odaklanan HBM, veri merkezleri ve HPC planı gibi yüksek performanslı yongalar için tercih edilen DRAM haline gelmiştir. .

Şu anda JEDEC, HBM3 standardının nihai taslağını henüz vermedi, ancak standart formülasyon çalışmasına katılan IP satıcıları şimdiden hazırlıklarını yaptı. Kısa bir süre önce Rambus, HBM3'ü destekleyen bir bellek alt sistemini ilk duyuran şirketti.Son zamanlarda, Synopsys ayrıca endüstrinin ilk eksiksiz HBM3 IP ve doğrulama çözümünü de duyurdu.

IP satıcıları önce gider

Bu yılın Haziran ayında, Taiwan Creative Electronics, TSMC'nin CoWoS teknolojisine dayalı, HBM3 denetleyicisi ve PHY IP ile donatılmış, 7,2 Gbps'ye kadar G/Ç hızına sahip bir AI/HPC/ağ platformunu piyasaya sürdü. Creative Electronics ayrıca, herhangi bir açıda zikzak kablolamayı destekleyen ve HBM3 IP'yi kullanım için iki SoC'ye bölebilen bir aracı kablolama patenti için başvuruyor.

Synopsys tarafından duyurulan eksiksiz HBM3 IP çözümü, tasarımcıların SoC'de düşük güç tüketimi ve daha fazla bant genişliği ile bellek kullanabileceğini iddia ederek, 2.5D çok çipli paket sistemi için bir denetleyici, PHY ve doğrulama IP'si sağlar. Synopsys'in DesignWare HBM3 denetleyicisi ve PHY IP'si, çipte kanıtlanmış HBM2E IP'yi temel alırken, HBM3 PHY IP'si 5nm işlemine dayanmaktadır.Pin başına hız 7200 Mbps'ye ulaşabilir ve bellek bant genişliği 921GB/s'ye yükseltilebilir. .

Paket bonusu

Yukarıdakiler sadece tek katmanlı HBM'nin verileridir.2.5D paketleme yoluyla 2 veya 4 katman istiflendikten sonra bellek bant genişliği iki katına çıkacaktır. Örnek olarak Nvidia'nın A100 hızlandırıcısını ele alalım.Nvidia'nın ilk 80GB sürümü, 1,6 TB/sn'lik bir bant genişliği elde etmek için 4 katmanlı bir HBM2 kullanır.Daha sonra, bant genişliğini 2 TB/sn'ye çıkarmak için 5 katmanlı bir HBM2E sürümü tanıtıldı. Ve bu tür bant genişliği performansı sadece 2 katman HBM3 ile elde edilebilir ve 4. ve 5. katmanların konfigürasyonu, uzak süpermarkette mevcut bellek spesifikasyonudur.

Ayrıca mantık + HBM yöntemi artık yeni değil ve birçok GPU ve sunucu yongası benzer tasarımları benimsemiştir. Bununla birlikte, fabrikalar 2.5D paketleme teknolojisinde çaba göstermeye devam ettikçe, tek bir çip üzerindeki HBM'lerin sayısı da artıyor. Örneğin, yukarıda bahsedilen TSMC CoWoS teknolojisi SoC çipine 4'ten fazla HBM entegre edebilir.Nvidia'nın P100'ü 4 HBM2'yi entegre ederken, NEC'in Sx-Aurora vektör işlemcisi 6 HBM2'yi entegre eder.

Samsung ayrıca yeni nesil I-Cube 2.5D paketleme teknolojisini geliştiriyor.4 ila 6 HBM'nin entegrasyonunu desteklemenin yanı sıra, iki mantık yongası + 8 HBM'li bir I-Cube 8 çözümü de geliştiriyor. Benzer 2.5D paketleme teknolojisi ve Intel'in EMIB'si, ancak HBM esas olarak Agilex FPGA'sında kullanılıyor.

son sözler

Şu anda Micron, Samsung, SK Hynix ve diğer bellek üreticileri bu yeni DRAM standardını zaten takip ediyor.SoC tasarımcısı Socionext, desteklenmesi gereken x86 mimarisine ek olarak çoklu çip tasarımında HBM3'ü tanıtmak için Synopsys ile işbirliği yaptı. , Arm'ın Neoverse N2 platformu da HBM3'ü desteklemeyi planladı ve SiFive'ın RISC-V SoC'si de HBM3 IP'yi ekledi. Ancak JEDEC "sıkışmış" olmasa ve resmi HBM3 standardını yıl sonunda yayınlasa bile, HBM3 ile ilgili ürünleri görmek için 2022'nin ikinci yarısına kadar beklememiz gerekebilir.

NVIDIA'nın Tesla P100/V100'ü, AMD'nin Radeon Instinct MI25'i, Intel'in Nervana sinir ağı işlemcisi ve Google'ın TPU v2'si ve çok daha fazlası gibi veri merkezi uygulamaları başta olmak üzere birçok yüksek performanslı çipte HBM2/2E'yi herkes gördü.

Tüketici düzeyindeki uygulamalar HBM'den uzaklaşıyor gibi görünüyor.Geçmişte AMD'nin Radeon RxVega64/Vega 56 ve Intel'in KabyLake-G'si HBM'nin grafik ürünlerini kullanıyordu ve daha da yüksek seviyeler Nvidia'nın Quaddro GP100/GV100 ve AMD'yi içeriyordu. Profesyonel WX.

Bugün bu ürünlerin hepsi GDDR DRAM kullanıyor.Sonuçta, tüketici uygulamalarında bant genişliği darboğazı yok.Tam tersine, çip üreticileri en çok hız ve maliyete değer veriyor.Ancak HBM3, daha geniş bant genişliği ve daha yüksek verimliliğin avantajlarından bahsediyor. maliyetleri düşürmez.