melalui Raghu Sreeramaneni di Hot Chips 2026 mengungkap terobosan HBM4 dengan bandwidth mencapai 2800 GB/s. Teknologi ini membawa lompatan besar dengan jumlah IO mencapai 2000 unit, serta menggandakan kapasitas IO dan saluran dibanding generasi HBM3E.
Arsitektur HBM4 menyertakan stacked DRAM dies dengan saluran independen dan base die yang menghubungkan host via 3D TSV PHY. Micron kini meneliti tumpukan memori di atas 16-Hi menggunakan metode fusion bonding untuk resolusi mikron tunggal pada pitch yang ketat.
Inovasi ini krusial karena kemampuan komputasi tumbuh 3x tiap dua tahun, sementara memori hanya di bawah 2x. Dengan kegagalan HBM yang memicu 17% gangguan latihan Llama 3 Meta, efisiensi arsitektur baru ini menjadi kunci masa depan pusat data dan teknologi AI.