美光技術詞彙表

深度學習

徑向模糊明亮燈光

深度學習是機器學習的子集,多年來變得越來越重要。深度學習模型對於推動人工智慧(AI)和先進技術至關重要。閱讀更多內容,瞭解深度學習的真正意義、運作方式,以及各行各業的應用方式。

什麼是深度學習?

深度學習的定義:深度學習是機器學習的子集,使用多層級的人工神經網路來分析和解讀複雜的資料。

這些神經網路由多個處理層組成,協同作業從資料集擷取和處理各種特徵和模式。

神經網路是一種建模在人類大腦上的電腦系統,旨在模仿人類處理資訊的方式的情報。深度學習使用這些深度神經網路,以複製人類認知功能的方式處理資訊。透過此過程,電腦可以從資料中學習並隨著時間改進,從而得到更準確的結果。

雖然有些神經網路相對簡單,但深度學習仰賴多層的深度複雜神經網路。這些網路用於模擬複雜的決策過程。

深度學習如何運作?

深度學習是以經過大量標記資料訓練的演算法為基礎。這些演算法學習將資料與特定標籤關聯,並可將此分類套用至新資料。經過訓練後,深度學習演算法就可以根據其處理的資料進行預測。

以下是運作方式:深度學習使用人工神經網路從資料中學習。這些網路在人類大腦之後建模,實現了複雜的處理並從資料中學習,類似於人類學習資訊的方式。

資料會通過互連神經網路層來產生結果。在深度學習中,資料會透過多層節點(神經元)進行處理。每個節點接收輸入資料、處理資料並將輸出傳遞給下一層節點。這種分層方法產生了複雜而細微的輸出。系統在處理(訓練)和輸出過程中學習,識別之後可以使用的模式(推論),並進一步模仿人類大腦的學習和處理能力。

深度學習的歷史為何?

深度學習擁有豐富的技術歷史,從 20 世紀 40 年代初期開始,就有以神經網路為基礎的電腦模型。從那時起,它就經歷了重大的進化。

  • 1940 年代,基礎概念:深度學習的發展可以追溯到 1940 年代。1943 年,Walter Pitts 和 Warren McCulloch 建立了一個基於神經網路的電腦模型,結合演算法和數學來模擬人類思考過程。這項基礎工作奠定了神經網路和深度學習的日後進步基礎。
  • 1960 年代,早期發展:深度學習在 1960 年代以最先的模型為重點時開始成形。關鍵發展包括 Kelley 的持續反向傳播模型和 Dreyfus 更簡單的鏈法,這是深度學習模型最早的迭代。
  • 1970 年代、CNN 和人工智慧冬季:在整個 1970 年代,對 AI研究的興趣和資金減少,這期間稱為 AI 寒冬。儘管如此,卷積神經網路(CNN)、象徵性邏輯和逆向傳播仍取得了重大進展,為未來的深度學習開發奠定了基礎。
  • 1980 和 1990 年代,流程更快:在 1980 和 1990 年代,隨著電腦開始更快、更有效率地處理資料,深度學習重新恢復了動能。增強的處理能力讓神經網路能更快速地學習,推動更強大的研究和進展。
  • 2000 年代,完善系統:2000 年代的深度學習系統進一步改善。關於後期層如何為早期層提供資訊的發現,促成了短期記憶體和逐層訓練的進步。2009 年,李飛飛甫推出超過 1,400 萬張貼有標籤的影像資料庫,大幅推動深度學習模型的訓練和開發。
  • 2010 年代、突破和廣泛採用:2010 年代是深度學習重大突破和廣泛採用的時期。關鍵發展包括深度神經網路的崛起,例如卷積神經網路和遞歸神經網路,在影像和語音辨識工作上取得顯著的成功。Ian Goodfellow 於 2014 年引進生成式對抗網路,讓真實影像與資料的產生徹底改變了這個領域。此外,大型、貼有標籤的資料集的可用性,以及運算能力的進展,特別是透過 GPU、加速深度學習研究和應用。
  • 2020 年代,進階架構和應用:2020 年代已經出現更先進的架構,例如 Transformer,其已成為自然語言處理(NLP)和其他領域中最先進的模型的基礎。深度學習持續擴展到各種領域,包括醫療照護、自動駕駛和機器人,展示其多功能性和影響力。隨著深度學習模型整合到關鍵的決策流程中,道德考量和對可解釋 AI 的需求變得越來越重要。

深度學習的主要類型為何?

深度學習演算法非常複雜,多層神經網路建構模型。這些層會依序處理資訊,每個層的輸出會通知下一層。深度學習模型有多種建構和應用方式,每種都適用於不同的任務。

  • 卷積神經網路 (CNN)是一種深度學習模型,可直接從所輸入資料中學習,專精於辨識任務。其在處理影像資料特別強大,但也能有效處理語音和音訊資料。
  • 遞歸神經網路(RNN)在自然語言處理和語音辨識方面非常有效。它們旨在瞭解口頭背景和時間相依性,這有助於模型瞭解過去事件如何影響未來結果。此功能可實現更準確的預測和更好的決策,從而使 RNN 適合語言翻譯和時間序列預測等任務。
  • AI 使用生成式對抗網路(GAN)產生類似於訓練資料的創意輸出。它們由兩個神經網路、生成器和鑑別器組成,以對抗的方式共同運作。生成器會建立人工資料,而鑑別器則會評估資料的真實性。這種動態導致產生高度逼真的影像、影片和其他內容。
  • 深度學習(DRL)常用於機器人和遊戲。其使電腦能夠透過使用機器學習技術來根據環境中的回饋優化其行動,從而學習如何在環境中表現。DRL 模型透過試驗和錯誤來學習,透過最大化獎勵和最小化處罰來改善其績效。

如何使用深度學習?

半自動模型車輛是深度學習運作的主要範例。這些車輛使用深度神經網路即時處理來自感測器、攝影機和雷達系統的大量資料。透過分析這些資料,AI 可以辨識物體、預測行人和其他車輛的行為,並做出複雜的駕駛決策。

高效能記憶體對於支援 AI 工作負載至關重要,可快速處理和儲存訓練深度學習網路所需的大型資料集。此記憶體可確保系統能夠管理密集的運算需求,讓人工智慧從新資料中學習,並隨著時間提升其準確性和安全性。這項技術對於開發可駕馭各種環境,並以最少的人為介入處理各種駕駛情境的自駕車至關重要。

美光的領導產品在提供支援這些先進 AI 應用程式的高效能記憶體解決方案處於領先地位。創新的記憶體解決方案,例如 HBM3E 和 1β(1-beta)DRAM,專為滿足 AI 工作負載的嚴苛需求而設。舉例來說,美光的 HBM3E 記憶體提供卓越的頻寬和容量,透過加快資料處理速度並降低功耗,大幅提升人工智慧系統的效能。此外,美光的綜合產品組合,包括高容量伺服器 RDIMM 和 Gen5 PCIe® NVMe FlashArray SSD,可確保 AI 應用程式可以有效且高效地擴展。

常見問答

深度學習常見問題

機器學習和深度學習都是 AI 的子集,但複雜度、資料需求和處理方法各不相同。深度學習是機器學習的專門子集,旨在強化和提升機器學習系統的效率。 

深度學習使用高度互連的神經網路,共同處理資料。與傳統機器學習不同,深度學習通常需要大量的人為介入才能擷取和訓練功能,因此能將這些流程自動化,使其成為更自主的 AI 技術形式。

相較於傳統機器學習模型,深度學習模型提供多項優勢: 

效率: 深度學習模型可以更有效率地處理和分析大型資料集,減少對大量人為介入的需求。 

複雜性: 其可以學習資料集內特徵之間的複雜關係,使其成為影像和語音辨識、自然語言處理等任務的強大工具。 

可擴充性:深度學習模型具有高度可擴充性,在處理更多資料時可提升效能,因此非常適合巨量資料應用程式。 

自主性: 這些模型在訓練時需要最少的人為介入,因此可實現更自主和自我調適的人工智慧系統。