SC25 效能突破：單伺服器實現 2.3 億 IOPS

我們自豪地宣佈 AI 基礎架構效能的重要里程碑：使用 NVIDIA SCADA 編程模型、Micron 9650 PCIe^® Gen6 SSD、Broadcom PEX90000 PCIe Gen6 交換器和 H3 Platform Falcon 6048 PCIe Gen6 伺服器，成功實現 2.3 億 IOPS。 

可擴充加速資料存取 (SCADA) 是安全編程模型和技術堆疊，首次提出於《BaM 系統架構中的 GPU 發起式按需高吞吐量儲存裝置存取》。這是 NVIDIA、美光等企業共同推動的重大儲存生態計劃，旨在定義和實施新型基礎架構，用於存取超出本地記憶體限制的巨量資料集，透過使用基於 NVMe 的載入／儲存操作來防止記憶體不足錯誤，同時將儲存控制轉移至可信的 DPU，以保持高效能並保護共享資料免受受損運算節點的影響。 

該成果彰顯了 GPU 驅動的儲存編排與次世代互連技術及全球最快 SSD 的協同威力。

您可在 SC25 展會的美光展位（3516 號）現場體驗該示範，詳情請見本部落格末尾。

Micron 9650：全球最快的 SSD

Micron 9650 SSD 不僅追求極致效能，更透過速度、能效與互操作性的均衡融合，為次世代 AI 和 HPC 工作負載提供強大支撐。作為美光於 2025 年 FMS（美光推出業界首創 SSD 系列，助力 AI 革命）發佈的全球首款 PCIe Gen6 SSD，不僅實現突破性的吞吐量和 IOPS，更支援強健的生態系統整合。過去兩年間，美光與 PCIe Gen6 生態鏈合作夥伴緊密協作，開展了全面的互通性測試，為今年的大規模應用鋪平道路。Micron 9650 採用 PCIe Gen6 架構，專為 NVIDIA SCADA 等 GPU 驅動環境打造，並針對小區塊運作進行最佳化。

NVIDIA SCADA 大幅提升吞吐量以擴充 AI 工作負載

SCADA（可擴充加速資料存取）體現了 NVIDIA 對 GPU 驅動儲存操作的願景，透過在 GPU 與儲存裝置間建立直接連接，繞過傳統 CPU 瓶頸，加速兩者間的資料傳輸。SCADA 是 NVIDIA 多年研究和工程設計的成果，它使 GPU 能夠直接協調 NVMe 事務，為小區塊工作負載提供前所未有的吞吐量和 IOPS，這對於擴充圖神經網路（用於藥物發現、社交網路、知識圖譜）等 AI 工作負載至關重要。有關 SCADA 的更多資訊，請參閱 NVIDIA 在 FMS 2025 大會上的示範文稿：《推進次世代 AI 工作負載的記憶體和儲存架構》。

Broadcom 與 H3：尖端伺服器平台實戰

H3 Falcon 6048 PCIe Gen6 伺服器與 Broadcom 的 PEX90000 PCIe Gen6 交換機系列整合，為此協同架構提供動力。這些 PCIe Gen6 交換器提供超低延遲、高頻寬和卓越的連接埠密度，可在 GPU 和 NVMe 裝置之間實現強大的可擴充性和無縫互連。

PCIe Gen6 交換器部署在 H3 Platform Falcon 6048 伺服器中，該系統將加速器和儲存裝置整合為單一 PCIe Gen6 最佳化架構。它支援 44 個 E1.S Micron 9650 SSD，每個都透過 PCIe Gen6 x4 連接。H3 的先進遙測和診斷功能簡化了大規模 AI 架構管理，而與 CPU、GPU、SSD（特別是 Micron 9650）、網卡和重定時器的廣泛互通性測試則確保了可靠、無憂的部署。