設計工具

輸入無效。不支援特殊字元。

LPDDR 模組

SOCAMM2

美光的 SOCAMM2 是市面上首款採用資料中心級 LPDDR5X 模組化規格尺寸的產品,專為建構 AI 資料中心的旗艦記憶體解決方案而設計。低功耗 DRAM 與壓縮附加記憶體模組(CAMM)搭配使用,以革命性的規格尺寸提供卓越的效能和功耗效率,相比傳統 DDR5 RDIMM 配置可節省更多空間。

全球首款面向資料中心基礎設施的高容量 256GB LPDRAM SOCAMM2

256GB SOCAMM2 在與其前代產品相同的緊湊外形尺寸下,提供了高達 33% 的容量提升;同時,它利用美光(Micron)先進的 1γ(1-gamma)DRAM 工藝,實現了突破性的效能表現與更高的能效。

美光 SOCAMM2

全球首款 256GB SOCAMM2

得益於美光突破性的單片式 32Gb LPDDR5X 技術,美光 SOCAMM2 擴充了資料中心內的低功耗 AI 記憶體能力。

基於其在 LPDDR 模組領域率先推向市場的領先地位,美光推出了 256GB SOCAMM2 — 在同樣緊湊的外形規格下,容量提升了一倍。

容量增加 2 倍

美光 SOCAMM2 透過智慧地將 KV 快取從 HBM 卸載至高容量 LPDDR,有助於縮短推理時的「首個詞元產生時間」。 

首個詞元產生速度提升 2.3 倍

SOCAMM2 採用基於 1γ(1-gamma)工藝技術的 32Gb 裸片,在擴充容量的同時降低了每比特能耗,從而顯著降低了每千百萬位元組(GB)的功耗。

功耗減少 50%

相關資訊

LPDDR5X SOCAMM2 技術賦能計劃

LPDRAM SOCAMM2 技術賦能計劃為使用者提供了一條進入美光公司的途徑,以便儘早獲取技術資訊和支援、電氣和熱模型,以及有助於設計、開發和推出次世代運算平台的資訊。

一組向上排列的多色數字線條

1 結果基於美光內部使用 Llama3 70B 模型(採用 FP16 量化)進行即時推理的測試,上下文長度為 500K,並有 16 個併發使用者。預計 TTFT 延遲改善是基於每個 CPU 使用 2TB LPDRAM 的延遲為 0.12 秒,而每個 CPU 使用 1.5TB LPDRAM 的延遲為 0.28 秒。

2 結果基於美光內部的 LPDDR5x 功耗計算器,並基於預估的 AI 應用場景及條件。

設計工具

使用我們的設計工具和資源,測試、構建和維護高效能解決方案,藉此支援您的設計流程。

搜尋、篩選和下載資料表

深入瞭解產品特性、規格、功能等資訊。

訂購美光樣品

訂購美光記憶體樣品和追蹤訂單的線上資源。

下載項目與技術文件

協助您設計、測試、構建和最佳化創新設計的資源。