設計工具
儲存裝置

使用全球最快的資料中心 SSD 徹底改變 AI 工作負載

Alvaro Toledo | 2024 年 7 月

隨著人工智慧(AI)不斷改變各行各業並推動創新,資料中心需要能夠跟上這一步伐的儲存解決方案。為滿足這一需求,今天本人很高興地宣布美光的最新硬碟,美光 9550 NVMeTM SSD 問世。這款嶄新的最頂尖垂直整合 SSD 是以美光領先業界的 232 層 NAND 為基礎的 PCIe® Gen5 解決方案。透過融合這些前沿技術,美光為效能和功耗效率設定了新標準。美光 9550 SSD 不僅僅是快;它是市面上最快的 PCIe Gen5x4 資料中心 SSD,提供無與倫比的效能和無可比擬的功耗效率。
 

美光 9550 在速度和效率方面表現突出

美光 9550 SSD 利用 PCIe Gen5 技術提供驚人的效能,其速度在業界無可匹敵。美光 9550 具有以下優勢:

  • 連續讀取效能高達 14GB/s,在資料傳送速率方面實現重大飛躍,領先業界。
  • 連續寫入效能高達 10GB/s,相較於現今市面上的其他 PCIe Gen5 硬碟,超出多達 67%。
  • 隨機讀取效能高達 330 萬 IOPS,相較於市場中的競爭性產品,增加多達 35%。
  • 隨機寫入效能高達 400,000 IOPS,比競爭性解決方案高出 33%。

該卓越效能使美光 9550 SSD 成為尋求加速其工作負載的資料中心客戶的解決方案不二之選。

美光 9550 速度分析圖表

AI:殺手級 PCIe Gen5 應用程式

AI 已成為 PCIe Gen5 的殺手級應用程式,推動對高效能儲存解決方案的需求。隨著 AI 模型規模的不斷擴大,對有效率的資料處理需求亦隨之增加。傳統文件存取方式無法跟上這些工作負載的節奏,導致重大延遲和負擔。為應對這一挑戰,人們研發出大型加速器記憶體(BaM)等創新儲存軟體解決方案,以利用 SSD 使 GPU 線程直接、細粒度存取龐大的資料集和大型訓練模型。

BaM 的自訂儲存驅動針對平行 GPU 處理進行最佳化,無需 CPU 干預,即可直接實現儲存裝置存取。這會使圖神經網路(GNN)等依靠對大型資料集的小型、隨機讀取作業的工作負載的訓練時間大幅縮減,且其 IOPS 最大化。

BaM 已透過大幅縮減 GNN 訓練時間和最大化每秒讀寫次數(IOPS)證明其實力。我們在美光 9550 上進行了對 BaM 的測試,並藉此證明了 AI 資料處理效率及速度的新標準。

BaM GNN 工作負載時間
GNN 功能聚合 SSD 效能

當永續發展遇到效能

在永續發展領域,美光 9550 SSD 的出眾不僅表現為非凡的效能,亦體現在其超群的能源效率上,這是 AI 工作負載的關鍵因素。我們測試得出的資料揭示,在使用 BaM 進行的 GNN 訓練中,相較於其競爭產品,美光 9550 的效能高出高達 60%,而每個 SSD 消耗的能源要少高達 43%,進而導致完成相同的任務,所用的系統能源要少高達 29%。

圖神經網路訓練

 

欲瞭解細節,請參閱美光 9550 NVME SSD 和大型加速器記憶體(BaM)技術簡介

同樣,在大型語言模型推論測試中,我們的測試顯示使用美光 9550 SSD 的效能高出高達 15%,同時每個硬碟節能高達 37%,進而導致系統節能高達 19%。

大型語言模型推論

資料中心的未來在這裡

美光 9550 不僅僅是一個元件;它是資料處理技術的飛躍。其無與倫比的速度和效率使 AI 應用程式有能力在最忙碌的狀態下作業,推動整個產業的創新和進步。

Meta 的系統工程師 Ross Stenfort 表示:「美光的 9550 Gen5 SSD 透過遵守 OCP 資料中心 SSD v2.5 等超大型運算驅動的產業標準,加速了儲存裝置創新,包括進階遙測能力。這些能力加之 E1.S 的規格尺寸和高達 16TB 的容量,使大規模艦隊維持成為可能。」

邀請您親自體驗美光 9550 的功耗與效率。如需更多資訊或欲討論美光 9550 SSD 可以以何方式惠及您的資料中心,請馬上與我們聯絡

VP & GM, Data Center and Storage

Alvaro Toledo

Alvaro is Vice President and General Manager of Data Center Storage at Micron. He is responsible for strategy, product and technology roadmaps, technical customer engagement, and profit and loss (P&L) for data center storage.

Alvaro earned a bachelor’s degree in computer science from National University and an MBA from the Haas School of Business at the University of California, Berkeley.