美光技術助力打造未來的 AI 資料中心
- 近記憶體
- 主記憶體
- 擴充記憶體
- 本地 SSD 資料快取
- 網路化資料湖
釋放 AI 資料中心的潛力
每個 AI 伺服器箱子內都有一個金字塔或記憶體和儲存裝置的層級結構，以支援快速、突破性的 AI。使用美光的領先技術建構資料中心能夠減少瓶頸，提高永續性及功耗效率，並改善總體擁有成本。
與金字塔互動，探索我們的 AI 產品組合
箱內一瞥
常見問答
1 與上一代 1α 節點產品相比。
2 根據 JEDEC 規格。
3 與市售（2023 年 6 月）同類 3DS 模組相比，測量資料單位為 pJ／位元。
4 比較 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 的實證性 Intel 記憶體延遲檢查器（Intel MLC）資料。
5 在 1TB 條件下比較 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 的實證性 Stream Triad 資料。
6 比較 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 的實證性 OpenFOAM 任務能耗。
7 與 LPDDR5X 8533 Mbps 相比
8 與上一代產品相比
9 MLC 頻寬比較：使用 12 通道 4800MT/s RDIMM+ 4x256GB CZ120 對比僅使用 RDIMM。
10 效能比較根據效能著重型 Gen5 SSD 以及產品發佈時提供的 1 DWPD 7.68TB 容量 SSD 的公開資料資訊。QD512 的循序和隨機吞吐量。多份公開資料顯示，美光實驗室測試了大型加速器記憶體（BaM），如：https://www.tomshardware.com/news/nvidia-unveils-big-accelerator-memory-solid-state-storage-for-gpus(opens in a new tab) 和用於使用 NVIDIA H100 GPU 訓練工作負載的圖像神經網路（GNN）的 GPU 主動直接儲存（GIDS），並與效能著重型 Gen5 SSD 進行比較。
11 以 Llama3 405B 參數 LLM 為模型的檢查項目工作負載。模型代表 8 GPU 伺服器。檢查項目大小為 415GB。數字表示與 Solidigm D5-P5336 相比，執行一個檢查項目所需的時間、執行一個檢查項目的 SSD 能耗以及執行檢查項目期間的 SSD 吞吐量。詳情請參見美光 6550 ION SSD AI 技術簡介(opens in a new tab)。
12 這些比較使用的是在 6550 ION 推出時，公開發布的競爭對手資訊，其中 6550 ION 的最大功耗為 20W，競爭對手硬碟的最大功耗為 25W，因此 6550 ION 的最大功耗最多可降低 20%。
13 美光 6550 ION 提供高達 61.44TB 的容量。支援 E3.S 的伺服器可在 1U 內配置多達 20 個 SSD。