每一瓦都很重要：低功耗記憶體如何改變資料中心

隨著 AI 技術的迅速崛起，資料中心正面臨持續的挑戰——如何在降低功耗的同時最大限度地提高運算效能。到 2028 年，美國資料中心和 AI 的耗電量將增加兩倍，進而推動我國能源需求的巨大增長。2023 年，美國資料中心的耗電量約為 176 太瓦時（TWh）。據預測，到 2028 年，這一數字將上升到 580 太瓦時，佔美國總用電量的 12%¹，能源使用量在短短五年內將增加 3.3 倍。

在 AI 和其他資料密集型應用不斷擴張的推動下，這一預期的劇增突顯了先進硬體技術在支持美國和全球資料中心基礎架構日益增長的能源需求方面的重要性。²透過研發和採用美光® LPDDR5X 等創新型低功耗（LP）記憶體架構，資料中心可以大幅提高效能，並能夠避免傳統 DDR5 記憶體的能源損耗。

為什麼選擇 LP 記憶體？

美光^® LPDDR5X 專為在提供高速效能的同時消耗更少能源而設計。與 DDR5 等傳統記憶體技術不同，LP 記憶體運行於較低的電壓，並透過以下方式提高功耗和能源效率：

• 減少功耗
• 降低發熱量
• 最佳化以節能為重點的電路設計

對於 AI 驅動的資料中心來說，提高功耗效率和能源效率是一項持續的挑戰。想一想在大規模客戶支持環境中執行推理的 Llama 3 70B。單個 GPU 管理複雜的 AI 互動，同時即時處理數千個錯綜複雜的客戶查詢。LP 記憶體的使用將這一密集型運算工作量轉化為能源效率更高的過程。

在 AI 應用的運算需求與環保意識不斷提高的今天，低功耗記憶體不僅僅是技術升級，更是現代資料中心的策略需要。在實踐中，低功耗記憶體技術透過同時減少用電量和降低營運成本，提高資料中心的經濟效益。電力需求的減少直接轉化為冷卻要求和電費支出的降低。對於資料中心營運商來說，這些改進意味著更低的水電費和顯著減少的碳足跡。此外，營運商能夠在營運效率之外實現功耗和效能改善。憑藉更高的吞吐量和更少的延遲，使用者可以享受更順暢的體驗與更迅速的回應時間。

提高能源效率正在成為未來的趨勢

隨著 AI 的發展，資料中心的運算和記憶體不斷突破極限，LPDDR5X 等先進的記憶體技術透過提高資料中心的運行效率，正在成為永續運算的推動者。加速提高推理等 AI 任務的效能，同時降低功耗要求，將使我們能夠以更少的資源做更多的事情。提高能源效率正在成為未來 AI 發展的趨勢，因為 LP 記憶體向我們證明，我們可以在推動 AI 效能發展的同時減少碳足跡，最終為 AI 開闢一條更具永續性的發展道路。

瞭解更多

• 下載我們的綜合技術簡介，低功耗（LP）記憶體在資料中心工作負載中的作用，瞭解低功耗記憶體如何在次世代 AI 基礎架構中改變資料中心的效能和能源使用。
• 有關低功耗記憶體技術的更多資訊，請查看我們的 LPDDR5X 產品頁面。