JEDEC merilis standar SPHBM4 baru untuk memangkas biaya memori AI

Perkembangan ini menjadi salah satu sorotan penting dalam perkembangan komponen dan performa PC. JEDEC telah merilis spesifikasi barunya yang bertujuan untuk menurunkan harga HBM ultra-mahal yang mendukung prosesor AI tercepat.

JEDEC telah merilis spesifikasi barunya yang bertujuan untuk menurunkan harga HBM ultra-mahal yang mendukung prosesor AI tercepat. Meskipun standar baru ini tidak akan membantu meringankan kekurangan DRAM karena menggunakan perangkat DRAM HBM4 yang besar, standar baru ini dapat membuat memori bandwidth tinggi sedikit lebih murah karena memungkinkan pemasangan tumpukan memori SPHBM4 tanpa pengemasan lanjutan dan menggunakan substrat organik yang murah.

Badan standar menerbitkan spesifikasi SPHBM4, Paket Standar Memori Bandwidth Tinggi (JESD330-4), yang menggabungkan IC DRAM HBM4 dengan kemasan standar dan antarmuka 512-bit 'sempit' yang cepat. Berikut rinciannya.

Meskipun antarmuka 1024-bit dan 2048-bit yang digunakan oleh memori HBM3 dan HBM4 memberikan kinerja yang tidak ada duanya, antarmuka mereka yang lebar mengonsumsi area silikon yang signifikan di dalam prosesor, memerlukan interposer yang mahal, dan teknologi pengemasan canggih dengan kapasitas terbatas, seperti CoWoS TSMC, untuk integrasi dengan prosesor host. Memori SPHBM4 yang akan datang tetap menggunakan tumpukan DRAM HBM4 yang sama seperti JESD270-4, namun menukar cetakan dasar HBM konvensional dengan cetakan PHY/buffer SPHBM4 baru yang menampilkan antarmuka 512-bit yang lebih sempit yang memungkinkan pemasangan pada substrat organik standar tanpa menggunakan metode pengemasan yang canggih untuk integrasi. Untuk mengimbangi efek antarmuka yang lebih sempit, SPHBM4 mendukung kecepatan transfer data yang jauh lebih tinggi mulai dari 22, 4 GT/s hingga 46, 0 GT/s.

Meskipun SPHBM4 secara dramatis meningkatkan bandwidth I/O, hal ini tidak membuat array DRAM itu sendiri menjadi lebih cepat. Inti memori HBM4 mempertahankan arsitektur dan pengaturan waktu dasar yang sama, termasuk frekuensi inti, aktivasi baris, pengisian awal, dan operasi penyegaran, meskipun PHY tambahan diperkirakan akan menimbulkan beberapa latensi. Misalnya, inti DRAM hanya berjalan pada seperempat frekuensi antarmuka eksternal, yang berarti 2 GHz dalam kasus SPHBM4 dengan speed bin 32 GT/s.

Standar ini mendukung bump pitch yang lebih besar dari 90 µm dan jangkauan saluran hingga 20 mm, yang merupakan dua fitur yang memungkinkan menjatuhkan interposer yang mahal dan menggunakan perutean substrat organik yang lebih murah. Namun, menghilangkan interposer dan kemasan CoWoS (atau serupa) tidak secara otomatis membuat SPHBM4 menjadi murah. SPHBM4 masih memerlukan IC DRAM HBM4 yang sangat besar, kemasan 2. 5D, cetakan dasar yang kompleks (yang mungkin lebih mahal daripada yang digunakan oleh HBM4 konvensional), dan perakitan paket tingkat lanjut dengan via silikon tembus. Selain itu, antarmuka SPHBM4 yang sempit menggunakan perimeter die dan area silikon di dalam prosesor yang jauh lebih sedikit, sehingga membuatnya lebih menarik bagi perusahaan yang berusaha memasang lebih banyak kemampuan komputasi dan/atau berniat memasang lebih banyak tumpukan memori di sekitar prosesor mereka. Namun, kita masih berbicara tentang teknologi memori berkinerja tinggi yang akan menangani aplikasi tertentu dan hampir tidak akan menyaingi HBM4 secara langsung.

Selain itu, HBM4 memindahkan data melalui antarmuka yang sangat luas dengan banyak tautan paralel lambat yang cenderung sangat hemat energi. Sebaliknya, SPHBM4 memindahkan jumlah data yang sama melalui seperempat jumlah kabel, yang berjalan kira-kira empat kali lebih cepat. Transfer data berkecepatan tinggi cenderung kurang hemat energi dibandingkan transfer data 'lambat' melalui antarmuka yang luas. Mengingat PHY SPHBM4 yang agak canggih yang mengubah antarmuka lebar menjadi antarmuka sempit, yang kemungkinan merupakan proses yang haus daya. Meskipun demikian, jumlah driver dan receiver yang 4X lebih rendah dapat mengurangi konsumsi daya SPHBM4 secara signifikan. Meskipun demikian, tanpa rincian implementasi dari pembuat DRAM atau pengembang prosesor, mustahil menyimpulkan jenis memori mana yang memiliki konsumsi daya lebih rendah.

Secara keseluruhan, perkembangan ini memberi gambaran tentang arah terbaru di perkembangan komponen dan performa PC dan alasan mengapa topik ini tetap relevan untuk terus dipantau.

Baca sumber asli dari tomshardware. com