美光與 Magnum IO GPUDirect 儲存技術合作為 AI 和 ML 帶來顛覆業界的創新
一個人的職涯有許多里程碑。有些可能是長期工作的里程碑,例如慶祝在公司工作 30 年。有些可能是為承擔新的責任或專案而改變工作角色。有些甚至時為了新的機會而更換公司。
有時,一個人的職涯是透過參與一項能從根本改變整個產業的技術而定義。更罕見的是,一個人的職涯從一開始就與該技術息息相關。最近,我的職涯就兩者皆有。我有幸一開始就為 NVIDIA 顛覆業界的創新 Magnum IO GPUDirect 儲存技術提供支援,該技術現已發布 1.0 版本。該技術實現 GPU 與儲存裝置之間的直接路徑,本質上提供了更快的資料路徑和更低的 CPU 負載。
業界顛覆性創新的有趣之處在於,將其推向市場需要付出巨大的努力和大量的時間。在回顧我的筆記時,我意識到我們與 NVIDIA 關於 GPUDirect 儲存技術的首次討論是在 2018 年 11 月 7 日,大約兩年半前。我坐在 NVIDIA 總部,身邊是與這些技術相關的幾位業界頂尖人才——來自 NVIDIA 的 David Reed、Sandeep Joshi 和 CJ Newburn 以及來自美光的 Currie Munce。NVIDIA 分享了他們對這項技術的願景,並詢問我們是否有興趣參與其中。從這篇部落格可以看出,我們立即接受該願景和支援這項新興技術的挑戰。
為什麼? 因為從一開始,這項技術顯然將為人工智慧(AI)、機器學習(ML)、深度學習和高效能運算(HPC)等對 GPU 要求極高的工作負載提供更高效能的儲存。這些工作負載通常具有龐大的資料集,因此 GPU 記憶體與儲存裝置之間的直接記憶體存取(DMA)可提供較低的 IO 延遲,同時減少 CPU 的負載。這顯著縮短了洞察時間,是美光的一項重大計畫,使創新者能夠更快地研發疫苗、發現更省油的運輸方式,以及為世界偏遠地區開發更有效率的食品配送服務。
沿著我們的創新之路,我們詳細介紹了我們為證明這項技術的有效性而開展的合作。以下是您可能感興趣的一些要點。
- 2019 年 3 月:讓 GPU I/O 在當今和未來的平台上脫穎而出
- 2019 年 8 月:GPUDirect 儲存技術:儲存裝置與 GPU 記憶體之間的直接路徑
- 2020 年 7 月:利用 NVIDIA GPUDirect 儲存技術,最大限度提高您對用於 AI/ML 工作負載的美光 SSD 的投資
- 2020 年 11 月:分析儲存裝置對 AI 工作負載的影響
- 2021 年 2 月:架構克服 AI 儲存裝置挑戰
- 2021 年 3 月:Barton Fiske 和 Wes Vaske 探討如何利用 NVIDIA® GPUDirect 儲存技術克服 AI 資料瓶頸
今天,我們很高興慶祝 NVIDIA 發佈 Magnum IO GPUDirect 儲存技術 1.0 版本!在回顧 2019 年 3 月 NVIDIA 部落格發佈前的一次會議的記錄時,我發現 NVIDIA 曾問我們是否願意在該部落格中簡單寫上一句「美光很高興能參與其中」以表示支援。我們的回答非常肯定──是的!恭喜 NVIDIA 與美光及更廣泛的生態系統共同打造這項顛覆業界的技術並就此進行合作。美光很高興幫助您減少從資料中提取有價值見解所需的時間。