電壓調節如何使 LPDDR5X 提供高效的 AI 使用者體驗？

消費者對實現更多邊緣自動化和智慧化的需求不斷增長，推動了支援 AI 的智慧型手機的普及，使邊緣 AI 成為次世代行動體驗的關鍵推動因素。在裝置上運行 AI 可減少對持續網路連線的需求或對雲端等集中式伺服器的依賴，從而加快回應速度，提高資料處理的安全性。但是，儘管人們對 AI 的期待越來越高，目前的硬體能力卻難以跟上步伐。 

AI 推動先進處理效率 

在 AI 為先的經濟中，資料是基本燃料——每個洞見、預測和決策都源自於它。先進演算法和大型模型的強大程度取決於為其提供資料的品質、數量和可存取性。

大型語言模型（LLM）依賴於龐大、複雜的資料輸入，處理過程需要大量運算資源。在本地裝置上直接運行這些模型（稱為本地裝置 AI）需要能夠處理密集型工作負載的高效能硬體。為了滿足使用者對快速效能、無縫應用程式切換、快速載入時間和延長電池壽命的期望，行動裝置必須支援即時 AI 處理，而無需依賴雲端。這正是記憶體的關鍵所在：它是資料和運算之間的橋梁，使處理器能夠即時存取和處理大型資料集。這種回應速度取決於記憶體的跟進能力。然而，AI 處理和高解析度視訊捕捉等任務會消耗大量的電能。任何進步都需要權衡利弊，在這種情況下，實現如此高的回應速度必然會以電池電量消耗為代價。這就是為什麼具有功耗效率的記憶體或低功耗 DRAM（LPDRAM）對於在提供 AI 所需速度的同時節約能源至關重要。

較低電壓下的驅動效能 

在過去幾代 LPDDR（低功耗雙倍資料速率）記憶體的發展過程中，業界一直致力於突破電壓調節的極限。由於功率是電壓和電流的乘積，因此降低電壓供應水平可直接降低功耗。在功耗要求極高的高速記憶體系統中，即使適度降低電源電壓也能節省大量能源。 

LPDDR5X 這一代行動 DRAM 具有更高的頻寬和更優的功耗效率，透過將曾經統一的 VDD2 軌道重新架構為兩個不同的域，充分體現了這一進步：VDD2H （VDD2 的高電壓域） 和 VDD2L （VDD2 的低電壓域）。這種分離使電壓調節能夠更精準地適配不同效能需求。 

為充分利用此架構，DVFSC（動態電壓和頻率擴展控制）和 eDVFSC（增強型 DVFSC）等技術至關重要。這類技術可根據工作負載需求動態調整電壓和頻率，允許 VDD2H 在低速任務期間以較低的電壓運行，藉此有效降低功耗和延長電池壽命。

記憶體庫和核心邏輯等高效能組件繼續從 VDD2H 和 VDD1 等較高電壓軌道汲取電流，以保持速度和回應性。相比之下，外圍電路和 I/O 功能在 VDD2L 和 VDDQ 等較低電壓軌道上運行，以便在要求不高的任務中減少能耗。

美光在較低 VDD2H 方面的創新 

VDD2H 和 VDD2L 的分離標誌著一個關鍵的進步，它將電源傳輸的彈性和效率提升至新水平。透過識別不需要原始 VDD2 軌道全電壓的組件，工程師使系統能夠在低頻活動期間以 VDD2L 運作，從而在不影響回應速度的情況下降低功耗。

但創新並未止步於此。美光的工程師發現，即使由 VDD2H 供電的元件也可以承受較低的電壓閾值。這促使低 VDD2H（LVDD2H） 的研發——一種經過微調的低電壓版 VDD2H。透過將 VDD2H 的電壓降低至最低可行水平，LVDD2H 模式可在已透過 VDD2L 分離實現的節能基礎上進一步減少能源消耗。

降低 VDD2H 的電壓，尤其是在高速運行模式下，可帶來以下幾大優勢：

• 降低動態和靜態功耗，減少總體能耗。
• 改善散熱效能，因為更少的功率意味著更少的熱量。
• 延長效率至關重要的行動和嵌入式系統的電池壽命。

LVDD2H 操作模式

透過廣泛的測試和特性分析，美光工程師定義兩種主要的 LVDD2H 操作模式：標稱模式和最小模式。 

在標稱模式下，為了與生態系統能力保持一致，電壓水平在 8.533–10.7 Gbps 時保持在 1.05V，並在資料速率低於 7.5 Gbps 時降低。在最小模式下，LVDD2H 可在整個資料速率範圍內降低。 

利用 LVDD2H 實現節能 

美光的內部測試證明了 LVDD2H 在人工智慧標記語言 (AIML) 和使用天數 (DoU) 這兩個主要用例中的重要作用。³在 AIML 工作負載中，將 VDD2H 從 1.060V 降至 0.98V，平均可節省高達 8% 的功耗。⁴該電壓降低測試在 12 種不同 AI 模型上進行，所有模型均顯示出顯著的節電效果。在 LLM 中，Llama 2-13b 的功耗效益最高，達 12%。能耗的降低可直接提升語音助手、照片處理、自動糾錯和聊天機器人等 AI 驅動功能的終端使用者體驗。在 DoU 場景中，電壓降低在八個不同的使用案例中平均產生了 5% 的功耗效益。DoU 使用案例包括使用者在行動裝置上全天進行的典型活動，如在 Facebook 上聊天、聽音樂、瀏覽網頁或觀看影片。

下一個 

更低的電壓可直接降低功耗，以使用者每天都能感受到的方式延長電池壽命。隨著技術以前所未有的速度發展，先進的記憶體解決方案是跟上技術發展的必要條件。美光一直致力於盡可能地提高其設計的功耗效率和效能，為終端使用者創造有意義的影響，並在業內樹立具有能源效率之 DRAM 的標杆。透過與生態系統合作夥伴密切合作，支持協同創新和全行業進步，我們正在塑造資料的未來。我們對創新和卓越的不懈追求，使我們始終保持領先地位，提供推動下一代體驗的解決方案。