HBM3 Gen2 (HBM3E)

業界速度最快、容量最高的 HBM 記憶體,推動生成式 AI 創新

+

加快 AI 創新速度

戴眼鏡的男孩

生成式 AI

如上圖所示,透過使用大型語言模型 (LLM) 進行訓練和推論,生成式 AI 開啟一個有別以往的創意和表達形式的新世界。使用運算和記憶體資源可縮短部署和回應時間。Micron HBM3 Gen2 (HBM3E) provides higher memory capacity that improves performance and reduces CPU offload for faster training and more responsive queries when inferencing LLMs such as ChatGPT.

+
深度學習

深度學習

AI 為企業、IT、工程、科學、醫學等領域創造新的可能性。隨著部署可加速深度學習的大型 AI 模型,維持運算和記憶體效率對於解決效能、成本和功耗方面非常關鍵,以確保所有人都能從中獲益。Micron HBM3 Gen2 (HBM3E) improves memory performance while focusing on energy efficiency that increases performance per watt resulting in lower time to train LLMs such as GPT-4 and beyond.

+
高效能運算 (HPC)​

高效能運算

科學家、研究人員和工程師們面臨尋找氣候模型、治療癌症以及再生和永續發展能源資源解決方案的挑戰。高效能運算 (HPC) 透過執行非常複雜的演算法和運用大型資料集的進階模擬,以加速運算的時間。Micron HBM3 Gen2 (HBM3E) provides higher memory capacity and improves performance by reducing the need to distribute data across multiple nodes, accelerating the pace of innovation.


+
1 資料速率測試估計是根據製造測試環境中執行的 Pin 速度 Shmoo 圖
2 相同堆疊高度增加 50% 容量
3 功率和效能估計根據工作負載量使用案例的模擬結果

4 根據參照 ACM 出版物的內部美光模型,與目前出貨平台 (H100) 相比
5 根據內部美光模型,參照 Bernstein 的研究報告《NVIDIA (NVDA):由下而上調整 ChatGPT 機會大小的方法》2023 年 2 月 27 日,與目前出貨平台 (H100) 相比
6 根據使用已上市 H100 平台和線性推斷的系統測量

相關資訊

Micron delivers industry's fastest, highest capacity HBM3 Gen2 (HBM3E) to advance generative AI innovations

1.2 TB/s bandwidth, 8-high 24GB HBM3 Gen2 (HBM3E) from Micron delivers superior power efficiency enabled by advanced 1β process node.

Read HBM3 Gen2 (HBM3E) press release >
+

Six Five 的內部專家與美光的 Girish Cherussery

Micron's Girish Cherussery, Sr. Director, High Performance Memory, sits down with Patrick Moorhead and Danial Newman from Six Five to discuss High Bandwidth Memory (HBM) and Micron's newest HBM3 Gen2 (HBM3E) product.

View video on HBM3 Gen2 (HBM3E) >
+

專為 AI 創新而生的記憶體

我們正處於人工智慧 (AI) 時代來臨之際,AI 預期將成為我們日常生活的核心。運算和記憶體技術的進步加速推動 AI 時代。高頻寬記憶體 (HBM) 是 AI 創新的先驅。
Read HBM3 Gen2 (HBM3E) Product Brief >
+

1β DRAM 技術

業界首款採用次世代 1-Beta 製程技術的美光記憶體已正式出貨。這顯示美光持續投資於研發與先進製程技術帶來了最先進的創新。在美光的 1-Beta 製程技術驅動之下,得以開發出比上一代產品效能更強、容量更大、密度更高以及相對功耗更低的記憶體產品。

深入了解 >
+

常見問答

What is the data rate of HBM3 Gen2 (HBM3E)?
Micron’s HBM3 Gen2 (HBM3E) delivers an industry leading pin speed of > 9.2Gbps and can support backward compatible data rates of HBM3 Gen2 (HBM3E) first generation devices.
What is the bandwidth of HBM3 Gen2 (HBM3E)?
Micron’s HBM3 Gen2 (HBM3E) delivers an industry leading Bandwidth of >1.2 TB/s per placement. HBM3 Gen2 (HBM3E) has 1024 IO pins and Micron’s pin speed > 9.2Gbps achieves > 1.2TB/s​.
What is the capacity of HBM3 Gen2 (HBM3E)?
Micron’s industry leading HBM3 Gen2 (HBM3E) provides 24GB capacity per placement with an 8-high HBM3 Gen2 (HBM3E), Micron plans to announce a 36GB 12-high HBM3 Gen2 (HBM3E) device in the future.​ ​
How fast is HBM3 Gen2 (HBM3E) memory?
Micron’s HBM3 Gen2 (HBM3E) delivers an industry leading Bandwidth of >1.2 TB/s per placement. HBM3 Gen2 (HBM3E) has 1024 IO pins and Micron’s pin speed > 9.2Gbps achieves > 1.2TB/s.​
What is the difference between HBM2 and HBM3 Gen2 (HBM3E)?​
HBM2 offers 8 independent channels running at 3.6Gbps per pin and delivering up to 410GB/s bandwidth. HBM2 提供 4GB、8GB 和 16GB 的容量。HBM3 Gen2 (HBM3E) offers 16 independent channels and 32 psuedo channels. Micron’s HBM3 Gen2 (HBM3E) delivers pin speed > 9.2Gbps at an industry leading Bandwidth of >1.2 TB/s per placement. Micron’s HBM3 Gen2 (HBM3E) offers 24GB using 8-high stack, and a 36GB using 12-high stack is planned for the future.
What are HBM3 Gen2 (HBM3E) specifications?
請參閱我們的產品簡介。
+
Powered by Translations.com GlobalLink OneLink SoftwarePowered By OneLink