美光和 AMD 利用 96GB DDR5 和第四代 AMD EPYC™ 處理器，為雲端原生工作負載提供卓越效能
美光最近宣佈推出高效能 RDIMM 解決方案，以幫助解決運算密集的人工智慧 （AI）、資料分析和以記憶體為重點的工作負載。與 AMD 合作，我們的共同目標是利用美光 DDR5 的功能和第四代 AMD EPYC™ 處理器的進階功能，提升高效能運算 （HPC） 的工作負載。從那時起，兩家公司都取得了顯著的進展，包括在 2023 年 1 月成功驗證了如 24GB、48GB 和 96GB 等新容量的 DDR5 DIMM。此部落格文章專注於展示全新 96GB DDR5 搭配第四代 AMD EPYC 處理器的驚人效能。
利用優勢獲得改善
透過與 AMD 合作，美光充分利用這些最新的 AMD EPYC 處理器的雲端原生運算優勢，提供卓越的能源效率。這些改進針對永續發展目標，以及每瓦的高效能，完美符合資料中心產業廣泛使用的關鍵指標。
以下是此組合的主要優勢：
- 尖端效能：AMD EPYC 9754 處理器專為滿足雲端原生工作負載的需求而設計。每個處理器有高達 128 個實體核心和充足的 L3 快取記憶體（每個處理器高達 384MB），其可提供高水準的平行處理能力。此電源可有效執行並行任務，並支援雲端原生應用程式所需的可擴充性。
- 令人驚豔的 DDR5 速度：美光 DDR5 記憶體模組專為高達 51.2 GB/s 的驚人速度而設計，可確保在系統中快速存取和傳輸資料。此高頻寬允許無縫處理大型資料集，並支援雲端原生工作負載所需的快速資料處理。
- 尖端加工：美光先進的 1β（1-beta）節點處理技術為本表帶來了多項優勢。它能提升 15% 的能源效率，實現更多運算能力，同時將能源消耗降至最低。此外，與上一代 1α （1-alpha）相比，每個晶粒的容量達到 16Gb，位元密度增加 35%，可提升記憶體容量並改善整體系統效能。
- 增強的資料完整性和可靠性：美光 DDR5 記憶體中的整合錯誤更正碼 （ECC） 同位，透過偵測和更正記憶體錯誤來確保資料完整性。此功能對於處理大量關鍵資料的雲端原生工作負載至關重要，可針對潛在的資料損壞提供額外保護。ECC 同位的存在可增強系統的整體可靠性和穩定性。
- 能源效率與效能：AMD 最新的 128 核心處理器專注於能源效率，在支援雲端原生工作負載的同時提供卓越的能效。處理器具備經實證的 RAS（可靠性、可用性和可維修性）功能，以及廣泛的 x86 硬體和軟體相容性。我們的測試顯示，與上一代產品相比，效能/瓦的改善達到 2.68 倍。
透過利用 AMD EPYC 9754 處理器的強大功能、高速且高效率的美光 DDR5 記憶體，以及強大的 ECC 同位功能，我們看到雲端原生工作負載的最佳解決方案。此組合可實現高效能運算、高效率資料處理、廣泛的記憶體容量和可靠的運作，這些都是現代資料中心環境中雲端原生應用程式的必要條件。
設定和基準測試雲端記憶體內資料儲存
為了模擬與美光自身 IT 雲端原生環境極為相似的工作負載，我們選擇了 Redis YCSB Proofpoint 工作負載 D。此工作負載包含 2.5 億行，每行記錄大小為 2KB，導致資料庫總大小為 925GB。
測試設定涉及使用一個 Redis 伺服器和四個用戶端執行 64 個執行個體，重點在於效能和擴充。效能是使用每秒操作數 （ops/s） 來測量，我們可調整工作負載，同時確保延遲維持與上一代相同或更低。
| 使用 DDR4 測試 | 使用 DDR5 測試 | |
| 處理器 | 雙 CPU 第三代 AMD EPYC 7763，64 核心，3.7 GHz | 1 個 CPU 第四代 AMD EPYC 9004，128 核心，3.7 GHz |
| 記憶體容量 | DDR4 3200 每通道 1 個 DIMM 1 TB | DDR5 4800 每通道 1 個 DIMM 1.15 TB |
| 記憶體 DIMM | 64GB | 96GB |
| 軟體堆疊 | Alma 9 Linux 核心 5.14 | Alma 9 Linux 核心 5.14 |
| 功耗消耗： | 321 瓦 | 161 瓦 |
| 每秒操作數 （ops/s） | 739,655 | 978,191 |
| 每瓦每秒操作數 | 2262 | 6064 |
| 延遲 | 0.19 毫秒 | 0.14 毫秒 |
結果
這項測試涉及將 10 億筆記錄載入 925GB Redis 資料庫，並執行 64 個執行個體，達到 978,191 每秒操作數（ops/s）的吞吐量。與上一代相比，此結果代表顯著改善 32%，平均讀取延遲為 0.14 ms。值得注意的是，在我們的測試中，採用單顆第四代 AMD EPYC 處理器的系統比採用第三代 AMD EPYC 處理器的雙插槽 DDR4 系統的功耗低 47%。
美光 DDR5 記憶體能夠在較低電壓等級下運行，並且與最新的 AMD EPYC 高效和高核心數處理器結合使用。它使每瓦效能提高了 2.68 倍，令人印象深刻。
結論
雖然我們測試了記憶體內資料庫，但雲端原生工作負載也能獲得類似的結果。雲端原生工作負載通常以容器化和微服務為基礎，且採用現代 DevOps 做法來持續整合和交付。雲端原生工作負載旨在充分利用雲端原生技術和服務，例如無伺服器運算、受管理的資料庫和容器調度平台，以提供高效能、可用性和韌性。
與目前執行個體或現有基礎架構相比，透過公有雲和企業消耗這些工作負載的終端客戶可以獲得顯著的總體擁有成本 （TCO）。
若要深入瞭解美光與 AMD 的突破性合作，以及搭載第四代 AMD EPYC 處理器的 96GB DDR5 DIMM 令人印象深刻的效能，我們鼓勵您與我們聯絡。我們的專家團隊可提供詳細的見解和技術規格，並且我們可以回答您可能有的任何問題。保持領先於資料中心發展的世界，探索 AMD 和美光合作所帶來的可能性。
來自美光資料中心工作負載工程團隊的 Muktikanta Sa 的貢獻。
