神經網路

神經網路是人工智慧（AI）的基本面向，可讓電腦如人類一般處理資訊。AI 模擬人類的工作，神經網路則複製人類的認知過程和行為。

隨著 AI 在日常生活中蓬勃發展和整合，神經網路已成為日益重要的技術。

什麼是神經網路？

神經網路定義：神經網路是在人類大腦上建模的電腦系統，旨在模擬人類大腦的結構和功能。它能像真人智慧一樣處理資訊並做出決策。

神經網路由以層排列的互連節點或神經元組成。這些層使網路能夠以類似於人類大腦的方式處理資料。神經網路透過經驗和資料來提高準確性和輸出，從而不斷學習和適應。

神經網路會持續適應和學習。隨著系統不斷演進，神經網路是各種產業和應用中使用的強大工具，其能夠從它們遇到的資料、決策和障礙中學習。

神經網路如何運作？

AI 神經網路由排列在複雜網路中的節點層組成，專為處理資料和產生輸出而設計。這些輸出通常是預測性和分析性的，透過理解和分類從輸入資料中得出。

最簡單的神經網路由三個互連層組成：

• 輸入層：這層介紹了資訊。輸入節點在將資料傳遞至下一層之前，會先處理、分析與分類資料。
• 隱藏層：此層會從輸入層或其他先前隱藏層接收資訊。此處會進一步分析、處理和傳遞前一層的輸出。
• 輸出層：這是最後階段，處理後的資料將作為結果傳回。

這個過程可能看起來很簡單，但複雜的神經網路可以包含幾個隱藏的層，其中有數百萬個神經元相互連結。深度神經網路可能非常複雜，且通常比其他機器學習模型需要更多訓練。

神經網路的歷史為何？

AI 是一項相對較新的技術，但神經網路的歷史相當漫長。事實上，神經網路和神經網路技術的演進已比我們預期的更久。以下是一些關鍵里程碑：

• 1943 年，起源：Warren McCulloch 和 Walter Pitts 探索神經網路如何應用於運算，為未來的發展奠定基礎。
• 1940 年代後期，擴展理論：機器學習開始考慮神經網路。D. O. Hebb 提出了一種神經可塑性機制，即赫布學習(Hebbian learning)，這後來為 AI 中神經網路的發展提供了理論基礎。赫布學習理論通常可以用一句話來概括：「一起激活的細胞，會連接在一起。」
• 1958 年，電腦學習的開始：弗蘭克·羅森布拉特（Frank Rosenblatt）發明了感知器，標誌著人工神經網路的出現。這是一個重要的里程碑，促成對深度學習研究的投資增加。
• 1967 年，多層感知器：Shun’ici Amari 發表了第一個透過隨機梯度下降法（一種優化函數方法）訓練的多層感知器。
• 1980 年代，卷積神經網路：福島邦彥（Kunihiko Fukushima）提出了新認知機，這是早期形式的卷積神經網路（CNN）架構，成為電腦視覺的基礎。1986 年反向傳播演算法的出現，使得深度神經網路的訓練成為可能，克服了感知器的局限性，並重新激發了人們對神經網路的興趣。這項創新為重大進展鋪平了道路，其中包括 Yann LeCun 於 1989 年發表神經網路架構訓練演算法的開創性論文，該論述代表了神經網路在 AI 領域的成功應用邁出重要一步。
• 1992 年，支援向量機器和組合方法：20 世紀 90 年代，Vladimir Vapnik 及其同事引入了支援向量機 (SVM)，其成為分類任務中一種流行的方法。此外，Leo Breiman 於 1995 年開發了隨機森林演算法，透過整合學習提高了模型之準確性。
• 2000 年代，深度學習和 CNN：2000 年代見證了卷積神經網路在各種應用中的廣泛應用，包括影像分類以及目標檢測。CNN 捕捉空間層次結構和辨識模式的能力徹底改變了電腦視覺領域。2006 年，Geoffrey Hinton 和 Ruslan Salakhutdinov 發表了一篇關於深度信念網路之論文，其為可以學習複雜依賴關係的機率模型。本文重現了對深度學習的興趣。
• 2010 年代，Transformer 和 LLM：2017 年推出的 Transformer 模型，讓模型能夠以語言瞭解語法相依性，徹底改變了自然語言處理。此架構成為 BERT 和 GPT 等大型語言模型（LLM）的基礎，大幅推動領域發展。OpenAI 的 GPT-3 於 2020 年推出，以 1,750 億個參數展現 LLM 的力量，並展現其產生類似人類文字的能力。
• 2020 年代，進階模型：2020 年代的生成式 AI 持續進步，DALL-E 和穩定擴散等模型可創造逼真的影像和文字。這些發展讓 AI 成為大眾更為熟悉的技術，並突顯其商業潛力。在大幅躍進的路上，Google 引進了 AI 代理程式，能夠產生高度準確的 15 天氣象預報。這項由 DeepMind 開發的新工具強調了 AI 在實際應用中的強大功能，並提供卓越的預測，有助於規劃和減輕極端天氣事件造成的損害。

神經網路的主要類型為何？

神經網路由互連節點層或神經元組成。其與資料流之間的互動區分了不同類型的神經網路。

不同類型的神經網路以稍微不同的方式運作，以達到預測和分析輸出：

• 卷積神經網路（CNN）是一種直接從資料學習的神經網路。其通常用於識別物品、類別和模式。有了這種辨識功能，CNN 就有助於將資料分類為類別、系列和清單，並做出預測。
• 前饋神經網路的主要特徵是單向資料流動。這些網路不會形成迴路；相反，其會將訊息向前傳遞到其他節點和層。
• 與僅向前傳遞訊息的前饋神經網路不同，反向傳播神經網路使用學習過程來分析錯誤並調整結果。此方法透過學習複雜的模式改善網路進行準確預測的能力。反向傳播神經網路利用修正回饋迴路來分析和增強自身的輸出。

如何使用神經網路？

神經網路透過提高準確性和效率來革新各種領域。在醫療保健領域，其分析醫療影像以偵測疾病，而在自駕車中，則處理感測器資料以安全導航和決策。

• 醫療造影：神經網路廣泛用於醫療保健，用於分析醫療影像，例如 X 光、MRI 和 CT 掃描。其可以高準確度偵測異常並診斷疾病，通常比人類專業人員更快、更可靠。
• 自駕車：神經網路為自駕車的決策過程提供動力。其透過處理感應器和攝影機的資料、使其能夠導航、避開障礙物並做出即時駕駛決策，幫助車輛瞭解其周遭環境。