設計工具
儲存裝置

展望 AI 效能的高峰

Bill Bollengier | 2023 年 10 月

當人工智慧 (AI) 專家將創新的軟體定義儲存 (SDS) 與高效能 NVMe SSD 結合時,會發生什麼事? 好事。實現快速和可擴充性。

本部落格著重於 Scan Computers International Ltd(Scan)、PEAK:AIO美光科技之間的合作。這三家公司設計並交付了高效能、簡單、易於處理的架構,可提供許多 AI 工作負載所需的龐大效能和容量(而且解決方案必須在中型客戶的財務範圍內)。

一些歐洲以外的人可能不知道 Scan。Scan 是專業技術合作夥伴,提供用戶端硬體、基礎架構解決方案、雲端運算和服務,且始終專注於細節。他們的深厚內部專業知識涵蓋 PC 遊戲、專業繪圖技術、影片編輯、音樂製作、高效能運算和人工智慧平台設計。

從挑戰開始

Scan 在 AI 系統設計方面深獲肯定的專業知識告訴他們,傳統的企業儲存裝置無法滿足新一代 GPU 系統對儲存的需求。現有的儲存硬體和軟體不提供不斷成長、複雜的資料集和 AI 模型所需的吞吐量或可擴充性。Scan 也知道他們的客戶非常重視 RAID 保護資料。

這些需求促使 Scan 與 PEAK:AIO 合作

PEAK:AIO 是一款軟體定義的儲存 (SDS) 平台,專為滿足 AI 工作負載的特定需求而設計。它部署在標準 x86 伺服器技術上,可建立 AI 資料伺服器,提供最佳化 GPU 使用率所需的超低延遲和不可思議的頻寬。

Scan 確信 PEAK:AIO SDS 平台將成為建立具有 RAID 保護資料的中階 GPU 叢集的關鍵要素。Scan 也確信,與使用傳統資料保護的舊式 HDD 儲存裝置(如 Linux MD RAID)相比,使用 PEAK:AIO 和 SSD 可以提供更好的吞吐量。最後,體驗告訴 Scan,任何傳統儲存架構都太慢、太複雜、太貴或全部三種,因此他們選擇了 PEAK:AIO SDS 平台和高效能 NVMe SSD,以適當的經濟效益提供所需的效能、可管理性、擴充性和資料保護。

美光 9400 NVMe SSD 完成了系統

美光作為 SSD 市場領導者的良好記錄,帶領 Scan 和 PEAK:AIO 與美光合作進行概念驗證效能測試。在這次測試中,Scan 會擴大 SSD 的數量以驗證系統擴充,同時增加儲存容量,以容納不斷增長的資料集並饋送給現代 GPU。

Scan 選擇美光 9400 SSD,因為美光專為如 AI 訓練等吞吐量關鍵工作負載量而設計。美光 9400 SSD 容量高達 30 TB1,連續讀取吞吐量為 7GB/s,隨機 4KB 讀取效能高達 1.6M IOPS。1

一個非常成功的組合

透過在緊湊型 2U 儲存系統中新增多達 24 個 30TB 的美光 9400 SSD,Scan 可輕鬆超越其 150GB/s 的初始吞吐量目標。事實上,測試顯示設定可達到超過 170GB /s。

這種組合也清楚地展示了 Scan 客戶所需的容量和效能擴展。隨著更多美光 9400 SSD 加入採用 PEAK:AIO SDS(顯示為淺灰色)的系統,與使用舊版 Linux MD RAID(顯示為黑色)的系統相比,其效能得到了擴展,如下所示。

9400 績效圖表

按保護類型劃分的讀取效能擴展,PEAK:AIO SDS 和美光 9400 SSD。


結論

PEAK:AIO 與美光科技的結合產生了驚人的成果,尤其是快速且可擴展的事物,例如:

  • 高達 650TB 的 RAID 保護儲存裝置
  • 吞吐量超過 170GB/s
  • 使用額外硬碟線性擴充效能

透過 Scan、PEAK:AIO 和美光的合作,客戶獲得卓越的 AI 工作負載量容量、效能和可擴展性,這標誌著將 AI 優勢普及到在世界各地的企業範圍內,並將經濟實惠的 AI 資料效能從未來展望轉移到資料中心的重大里程碑。

想瞭解更多資訊?

在此深入瞭解美光科技的所有資料中心 SSD,並在此深入瞭解美光 9400 SSD。

在此深入瞭解他們的 Scan AI 生態系統,並在此查看此專案的 Scan 新聞稿。

在此深入瞭解 PEAK:AIO AI 解決方案陣容。PEAK:AIO 有關此專案的新聞稿在此。

1 未格式化容量。格式化後容量會減少。美光 9400 NVMe SSD 的完整規格可於此處取得:https://www.micron.com/9400

Director Product Management, Storage Business Unit

Bill Bollengier

Bill Bollengier is a Director of Product Management in Micron’s Storage Business Unit in Folsom, California. He and his team oversee the strategic planning and product management of Micron’s high performance and mainstream data center solid state drive solutions for enterprise and cloud customers.

Bill Bollengier