今天,美光宣布採用 Compute Express LinkTM(CXLTM)的 CZ120 記憶體擴充模組搭配 Supermicro X13 和 H13 Petascale 伺服器出貨,擴充我們在人工智慧(AI)和高效能運算(HPC)方面劃時代產品的陣容。過去一年來,Supermicro 與美光一直攜手合作研發下一代 Petascale 平台。透過利用美光的 CZ120 記憶體擴充模組進行記憶體容量和頻寬擴充,為關鍵任務工作負載提供更快、更具效率的資料存取。這一里程碑讓兩家公司都站在產業最前線,加快了資料中心營運商採用 CXL 解決方案的速度,以應對因現有資料密集型工作負載以及新的 AI 和機器學習(ML)工作負載而不斷加大的記憶體挑戰。
使用 CXL 的 Micron CZ120 記憶體模組
CXL:突破記憶體牆,滿足未來 AI、高效能運算、記憶體內建資料庫和通用運算等資料密集型工作負載的需求
由於現有伺服器基礎架構難以滿足資料密集型工作負載的需求,CXL 提供全新架構,突破舊有資料瓶頸。Supermicro 的 Petascale 平台和美光採用 CXL 的 CZ120 記憶體擴充模組,提供了解決這項挑戰所需的建構模塊:
- 記憶體容量 使用 4 個 CZ120 256GB 模組,可為 Petascale 伺服器增加高達 1 TB 的容量。
- 頻寬擴充:每個 CZ120 模組可增加高達 36GB/s 的資料傳輸頻寬,相當於以 4800MT/s 速度運作的 DDR5 RDIMM 的頻寬。透過增加記憶體容量和/或頻寬,可提升伺服器效能。這份美光白皮書中針對多種工作負載提供了 Petascale 平台與 CZ120 CXL 記憶體模組組合的分析:CXL 記憶體擴充:進一步探索實際平台(micron.com)。
透過測試組合產品的互通性、相容性及跨作業系統能力,客戶正在將搭配 Micron CZ120 記憶體擴充模組的 Supermicro Petascale 伺服器整合至其資料中心。Petascale 與 CZ120 的組合現正向多個大中型資料中心和高效能運算中心客戶出貨。 初步使用案例包括:
- 將資料庫完全儲存在記憶體中,以提高吞吐量(例如 SQL 資料庫和向量資料庫)
- 儲存變壓器模型中使用的鍵值快取,以加速推論
- 以 Hypervisor 為核心的典型 IVI 系統軟體結構
- 使用具備最新 AI 指令集的僅限 CPU 推論方案
隨著美光與 Supermicro 率先推出聯合解決方案,資料中心營運商現在有了針對記憶體密集型工作負載的架構選擇。請與我們的團隊聯絡,瞭解採用 Micron CZ120 的 Petascale 伺服器如何幫助您解決資料中心的挑戰。如需更多資訊,請瀏覽 CZ120 CXL TEP 或 Supermicro Petascale 網站。
參考資料:
Supermicro 1U Petascale 儲存伺服器,配備 8 個 E3.S NVMe PCIe Gen 5 SSD 硬碟槽和 4 個 CXL E3.S 硬碟槽、AMD EPYC™ 9004 處理器。 (型號 ASG-1115S-NE3X12R)。
Supermicro 1U Petascale 儲存伺服器,配備 8 個 E3.S NVMe PCIe Gen 5 SSD 硬碟槽和 4 個 CXL E3.S 硬碟槽、雙第五代 Intel® Xeon® 可擴充處理器。(型號 SSG-121E-NE3X12R)。