HBM2E：現代資料中心最快速的記憶體

資料中心正不斷演進，以解決快速、高效地儲存、移動和分析資料的挑戰。在很大程度上，這種演進是由下圖所示的四種高效能應用趨勢所帶動。

傳統遊戲和專業視覺化主要屬於 PC 領域，並由快速 GDDR 記憶體的創新得到滿足。但隨著人工智慧 (AI) 訓練和推論以及高效能運算的發展，我們看到資料中心對最快速的記憶體——高頻寬記憶體 (HBM) 的使用逐漸增多。這些區塊的應用程式架構師必須盡可能找到最大頻寬。

讓我們花點時間想想原因。當然是因為資料！大量的資料！

資料正在加速增長。根據 IDC 全球 Datasphere 2021 年報告，2018 年的資料總量為 36 ZB，2020 年增長至 64 ZB，2024 年將繼續增長至 146 ZB。

大量的資料是 AI、深度學習和機器學習效能不可或缺的一部分。AI 是一個改變遊戲規則的智慧工具，可提供超越人為驅動探索範疇的新洞察力。我們現在不再需要為運算基礎設施編程，而是可以利用大量資料對其進行訓練，以達到前所未有的深度，包括智慧農業、個人化教育和精準醫療等領域。

在美光，作為超頻寬解決方案的一部分，我們正在提供 GDDR 和 HBM 等新技術，為分析引擎提供動力並協助訓練下一代 AI 演算法。舉例來說，擁有超過 13 億個參數的 AI 模型無法裝入單一 GPU（即使是擁有 32GB 記憶體的 GPU）。因此，擴充記憶體容量可實現更大的模型尺寸／更多參數，以便更加接近核心運算。透過增加記憶體和儲存解決方案的頻寬和容量並減少延遲，我們加快了洞察速度，並協助客戶發掘更大的競爭優勢。

基於加速器的多元件異質方法

因應資料密集型工作負載與應用程式的增長、使用案例的演進以及新出現的商機，資料中心基礎架構正被重新定義。資料中心傳統上是以 CPU 為中心。資料使用記憶體（例如 DDR4）和儲存裝置（例如 SSD）進行處理。隨著 AI 等現代使用案例和工作負載的出現，這種傳統架構已成為一個瓶頸，無法讓 CPU 以所需的高效能速率運行。

為了解決效能差距日益擴大的問題，專用硬體現正被用來卸除 CPU 的若干功能。這種基於加速器的新運算模式正成為異質資料中心演進的核心。現代資料中心的重新分配過程部署了多種元件，這些元件專注於特定功能或資料類型和格式的高度可變性，從而大幅提升整個系統的速度和效能。

對於那些使用 DDR4（以及不久後的 DDR5）運算記憶體的傳統 CPU，我們現在新增了用於加速的 GPU，以及使用其他功能的 FPGA 和 ASIC。現代資料中心可能會用到各種不同的運算功能，並且使用不同類型的記憶體也成為實現高效能不可或缺的一環，以應付各種不同的工作負載。

這就是推出 HBM 的原因，它將效能推向新的境界。美光 HBM2E 是最新一代的 HBM，也是我們速度最快的 DRAM，是為客戶提供更高洞察力的核心。

HBM2E：超頻寬解決方案產品組合之星

美光以不斷演變的記憶體解決方案引領市場，以支援不斷增長的市場應用的嚴苛和動態要求，而這些應用正在改變我們的世界。

HBM2E 使用矽穿孔 (TSV) 通道來建立垂直堆疊的 DRAM。（如需詳細資訊，請參閱我們的技術簡介：「整合與操作 HBM2E 記憶體」。）20 年來，美光一直致力於堆疊式 DRAM 的研發，並在此過程中取得了數千項專利。（「矽堆奇蹟」與我們的研發主管 Akshay Singh 一起瞭解更多關於堆疊 DRAM 的資訊。） 在未來堆疊式 DRAM 的創新探索中，我們打算開發新產品，以滿足更多資料密集型工作負載對高效能和低功耗的需求。

我們在 HBM2E 中使用了垂直堆疊 DRAM，並使用矽穿孔 (TSV) 通道連接各層。

高頻寬記憶體的設計是為了解決業界在頻寬、功耗和規格尺寸方面的差距。此技術現在是 AI 的業界標準記憶體解決方案，並廣泛應用於資料中心。HBM2E 是 HBM 產品系列的第三項標準：HBM1、HBM2 和現在的 HBM2E。HBM2E 提供較寬的多通道 I/O（即 1,024 位元的頻寬），並擁有非常短的實體通道。基本上，它以很小的佔用空間提供極高的記憶體密度。

HBM2E 位於非常靠近 GPU 或 CPU 的中介層上，通常包覆在相同的封裝或散熱外殼中。HBM2E 擁有較寬的 I/O 匯流排和更高的容量，可提供現代資料中心基於加速器的運算模式所需的高效能和省電效率。

如需資料中心加速器記憶體產品組合以及我們提供的高效能記憶體的並排比較，請查看白皮書中的表 1，「超頻寬解決方案的需求」。我們對於 HBM2E 的強化 I/O 效能、頻寬和功效效率感到非常興奮，這也讓 HBM2E 成為我們超頻寬解決方案產品組合的基石。

總結

隨著高效能應用程式的需求驅動次世代系統架構和異質資料中心進化，HBM2E 記憶體和我們的超頻寬解決方案提供了關鍵記憶體和進階系統效能，將資料轉換為洞察力。在 micron.com/hbm2e 線上搜尋我們的相關資料。