支持 AI 發展的動力：記憶體是下一個能源效率前沿

我們正在經歷運算領域的世代交替。AI 不再是小眾工作負載，而是影響基礎架構策略、矽藍圖和業務指令的決定性力量。規模驚人：超大規模企業正以每叢集數萬台 AI 加速器的規模進行部署，訓練萬億參數模型，並在每個部署區域消耗兆瓦級電力。

業界對 AI 的力量讚不絕口——其改變行業、加速發現和增強人類能力的能力。但我們現在必須面對一個更加嚴峻的現實：支持 AI 發展的動力——運行這些工作負載所需的能源——正在成為創新最關鍵的制約因素之一。  

普遍的反應是可以預見的。最佳化運算。冷卻機架。購買更多綠色電力。這些措施固然必要，卻已遠遠不夠。認為運算是提高能源效率的主要手段這一假設已日漸過時。事實上，它可能掩蓋了一個最具影響力但卻未得到充分利用的機會。

是時候談談記憶體了。 

隱蔽的能量庫

在 AI 基礎架構中，記憶體和儲存裝置通常被視為輔助角色——必不可少，但不具有策略意義。然而，在現代 AI 叢集中，記憶體子系統（包括高頻寬記憶體 (HBM)、DRAM、SSD 和連接各項元件的互連裝置）佔到系統總功耗的 50%，具體取決於特定配置和工作負載。隨著模型規模的擴大和資料移動的增加，這一系統總功耗佔比以及高能效記憶體和儲存裝置的重要性只會持續攀升。 

為支持 AI 而進行的運算最佳化催生了邊緣、分散式架構等不同的運算範式。資料具有引力，會將處理能力拉向資料，而每天產生的資料量之大令人震驚。據估計，到 2025 年，全球每天將產生超過 402 EB 的資料。從非常現實的角度來看，AI 正向資料所在之處遷移，而資料棲息於記憶體與儲存裝置之中。這些範式增加了記憶體佔用空間，帶來了更多的功耗最佳化機會。

資料移動的能源成本——從記憶體到加速器、從 SSD 到 DRAM、跨機架和結構——現已成為總功耗的主要因素。根據 Semianalysis 的一項獨立研究，記憶體綁定操作（如檢查點和集體通訊）目前是造成超大規模 AI 叢集功耗激增的最大因素之一。這些事件可造成數十兆瓦的瞬時波動，凸顯了記憶體在能耗和電網穩定性方面日益重要的作用。運算受益於積極的節點擴充和架構創新，而與運算不同的是，記憶體系統歷來以漸進方式演進。 

這就造成盲點。而這也是我們下一步解決能效問題的關鍵所在。

新玩法：以記憶體為主導的效率 

在美光，我們相信永續 AI 基礎架構的未來將由記憶體主導。這種方法意味著從記憶體開始重新思考架構——並非事後考慮因素，而是作為效能和效率的策略基礎。

我們已經看到這種轉變的雛形： 

• LPDDR 和 HBM：我們的最新記憶體技術可提供業界領先的每瓦效能，在不影響頻寬的情況下降低能耗。這一成果不僅歸功於採用最先進製程節點所獲得的效率，還歸功於我們在每個設計中堅持不懈地最佳化架構以提高功耗效率。

• 基於 SSD 的記憶體分層：透過使用高效能 SSD 擴展記憶體分層，我們可以減少 DRAM 佔用空間和閒置功耗。並且，透過使用業界領先的第 9 代 NAND 最佳化 SSD 產品組合，並滿足每個記憶體和儲存裝置分層的特定需求，我們可以在每次必須儲存和移動資料時提高功耗效率。 

• 資料移動最小化：對系統進行架構設計，使資料更接近運算單元，並減少不必要的傳輸，可顯著節約能耗。

• 遙測和動態調整：對記憶體子系統進行即時功耗分析，可實現智慧節流和工作負載感知最佳化。 

這些並非理論上的想法。如今，世界上一些最先進的 AI 叢集正在部署這些技術，其結果令人信服。

策略需要 

對於基礎架構領導者而言，這種轉變不僅出於技術好奇心，更出於策略需要。電力現已成為規模化的關鍵因素。總體擁有成本（TCO）正在膨脹。永續發展是董事會層面的任務。而 AI 需求的增長速度正在超過傳統基礎架構的跟進能力。超大規模 AI 資料中心的工作負載輸出不再受限於本身所包含的運算硬體，而是受限於本身能從電網採購的能源量。 

以記憶體為主導的效率提供了新的槓桿——可以立即投入使用並隨問題擴充。它使超大型企業能夠在相同的功耗範圍內部署更多容量。它降低了冷卻和配置成本。它使基礎架構團隊能夠滿足次世代 AI 工作負載的需求，同時不影響永續性或經濟性。 

展望未來

展望未來，問題不再是 AI 是否會改變世界——這是必然的——而是我們將如何為這種改變提供動力。答案不僅在於更快的晶片或更低溫的資料中心，還在於更智慧的架構，這些架構將記憶體和儲存裝置提升和最佳化至效率等式的核心角色。 

在美光，我們很自豪能夠引領這一轉變——透過投資於技術、夥伴關係和系統，使記憶體成為大規模永續 AI 的驅動力。AI 的力量毋庸置疑。但是，如何高效、永續地在地球範圍內實現 AI，將決定下一個創新時代的走向。 

讓我們攜手共創未來。