輸入無效。不支援特殊字元。
不斷發展的資料需求
自電腦問世以來,如何高效地將資訊傳輸至處理器並從中擷取,一直是一大挑戰。令人害怕的卡堆、磁帶捲軸和軟碟機,為旋轉硬碟提供了一種方法,可以快速讀取和儲存大量(在此期間)資料。這些硬碟連接到一台電腦,如果使用者想要在電腦之間移動資料,則使用 sneakernet 和 FTP 是最佳選項。但這些方法導致許多相同檔案的副本難以保持同步和管理。
在 1980 年代中期,Sun Microsystems 的一些聰明工程師透過建立網路檔案系統(NFS)來解決檔案複製問題,讓多台電腦存取位於單一位置的檔案。起初,該位置是另一台電腦;之後,該位置位於網路連接儲存裝置(NAS)上。
資料匯集、 資料倉儲和資料孤島已提供給資料湖,其一詞用於描述可透過網路存取的非揮發性、區塊可定址儲存裝置的大量資料,供各種使用者和用途使用,如圖 1 所示。
隨著資料集從 MB 成長到 TB 再到 PB,從區塊儲存裝置跨互連技術移動資料到系統記憶體的成本,執行運算,然後將大型資料集儲存回持續儲存裝置的成本在時間和功耗功耗(瓦特)方面正在上升。此外,異質運算硬體越來越需要存取相同的資料集。例如,通用 CPU 可用於組裝和預先處理資料集和排程工作,但在訓練人工智慧模型時,專業運算引擎(如 GPU)速度要快得多。需要更有效率的解決方案,以減少大型資料集直接從儲存裝置傳輸到處理器可存取的記憶體。
有幾個組織將資料集保存在大型、位元組可定址、可共用的記憶體中,推動產業解決這些問題。在 1990 年代,可擴充的同調介面(SCI)允許多個 CPU 以同調的方式存取系統內的記憶體。 異質系統架構(HSA)1 規格允許在同一匯流排上不同類型裝置之間共用記憶體。 從 2010 年開始的十年中,Z 世代標準提供了具有高頻寬和低延遲的記憶體語意匯流排通訊協定,並具有一致性。這些努力最終成為現今廣泛採用的 Compute Express Link(CXLTM)標準。自 Compute Express Link(CXL)聯盟成立以來,美光一直並持續積極貢獻。
CXL 共用,零複本記憶體
Compute Express Link 開啟了節省時間和電源的大門。新的 CXL 3.1 標準允許在不同的主機之間使用行業標準元件,透過低延遲、高頻寬介面共用位元組可定址、負載儲存可存取的記憶體,如 DRAM。
這種分享之前只能透過昂貴的專有設備開啟新的大門。使用共用記憶體系統,資料可以載入共用記憶體一次,然後由管線中的多個主機和加速器處理多次,而無需產生將資料複製到本機記憶體、區塊儲存協定和延遲的成本。
此外,某些網路資料傳輸可以消除。例如,連接至感測器陣列的主機可隨著時間的推移將資料擷取並儲存在共用記憶體中。一旦常駐於記憶體中,針對此目的最佳化的第二個主機可清除並預先處理資料,接著是處理資料的第三個主機。同時,第一個主機已經擷取第二個資料集。主機之間唯一需要傳遞的資訊是指向資料的訊息,表示其已準備好進行處理。大型資料集永遠不需要移動或複製,可節省頻寬、能源和記憶體空間。
零複製資料共用的另一個例子是生產者-消費者資料模型,其中單一主機負責在記憶體中收集資料,然後多個其他主機在資料寫入後消耗資料。和以前一樣,生產者只需要發送一條指向資料位址的訊息,向其他主機發出訊號表示其已就緒可供取用。
增強記憶體功能
具有內建處理功能的 CXL 記憶體模組可以進一步增強零複製資料共用。例如,如果 CXL 記憶體模組可以對模組中的資料物件執行重複的數學運算或資料轉換,則可以儲存系統頻寬和電源。這些節省方式是命令記憶體模組執行作業,而不需要資料離開模組,使用稱為近記憶體運算(NMC)的能力。
此外,低延遲 CXL 光纖可以利用它,快速地將低經常性負擔的訊息從一個主機傳送到另一個主機、主機和記憶體模組之間,或記憶體模組之間。這些連線可用於同步步驟,並在生產者與消費者之間共用指標。
除了 NMC 和通訊優勢之外,CXL 模組還可以新增進階記憶體遙測,以在共用裝置2中提供真實世界應用程式流量的新視窗,而不會給主機處理器帶來負擔。。隨著獲得的見解,作業系統和管理軟體可以最佳化資料放置(記憶體分層)並調整其他系統參數,以實現從效能到能耗的營運目標。交易等額外的記憶體密集型增值功能也非常適合 NMC。
記憶體湖
美光很高興能將大型、橫向擴充的 CXL 全球共用記憶體和增強的記憶體功能結合到我們的記憶體湖概念中。記憶體湖利用 CXL 3.1 規格的新功能,並新增本部落格討論的功能等等,如圖 2 所示。
記憶體湖包含以下功能:
- 高效率的容量和成本
- 數百兆位元組到千兆位元組的全球可定址共用記憶體,允許無屏蔽存取最大的資料集
- 最關鍵資料的記憶體分層始終是最快的記憶體,但成本和資料持久性是透過將較不關鍵的資料保存在更具成本效益的記憶體中來控制
- 可設定的拓撲
- 透過分享實現績效
- 無需複製即可透過負載儲存語義,讓多達數十(或數百)個主機存取位元組可定址資料的資料共用
- 低延遲實作
- 低於 600 奈秒的負載和資料儲存時間
- 透過 CXL 光纖同步(少於 1 微秒)
- 加速效能的近記憶體運算
- 資料永遠不會離開記憶體模組的運算功能(近記憶體或記憶體內運算)
- 原生記憶體模組支援原子操作
這是 CXL 和共用記憶體令人興奮的時刻。如果您目前正在檢測 CXL,請加入我們的技術應用支援計畫(TEP)以掌握最新資訊,或關注我們,瞭解未來的更新資訊。
1 異質系統架構基金會(hsafoundation.org)
2 D. Boles,D. Waddington 和 D. A. Roberts,《CXL 增強的記憶體功能》
美光可擴充記憶體系統尋路團隊
進階記憶體解決方案集團從事新型記憶體技術的研究、設計和測試。我們的專家團隊與合作夥伴、客戶、大學和標準機構密切合作,確保美光記憶體解決方案維持在記憶體技術的領先地位。