美光技術詞彙表

聯合學習

晴朗的燈光

深度學習和人工智慧(AI)已成為日常生活的一部分,讓組織運用這些技術來改善、加速和強化流程。然而,對於許多產業,例如醫療保健和金融,保護訓練資料可能相當困難。

由於資料隱私權是許多人心中的首要考量,組織可能難以取得足夠的正確資料,以充分訓練 AI 模型。聯合學習是解決此問題的解決方案,提供跨多個裝置訓練模型的中央平台,無需分享資料。

什麼是聯合學習?

聯合學習定義:聯合學習是機器學習的一個子集,其允許模型接受來自多個裝置的資料集訓練,而無需分享原始資料。這種方法不僅能保護資料隱私權,還能強化資料安全性並符合法規。此外,聯合學習透過使用各種資料來源同時維護資料安全,可以提供更準確和穩健的模型。

除了資料隱私權和安全之外,聯合學習也透過使用來自多個來源的資料來鼓勵多元化。由於多個資料集有助於整體學習、模型和最終產出,聯合學習確保了一種植根於更廣泛資料和資料類型的模型,從而提高模型的準確性和適應性。

聯合學習可以使用協作訓練技巧。透過允許多個貢獻方針對其不同的資料訓練單一模型,而不必分享此原始資料,較大的組織可以從群體協同合作的模式中受益。

聯合學習如何運作?

聯合學習的運作方式是從源頭處理資料,確保敏感資訊仍保留在本機裝置上。多方透過下載共享基礎模型、訓練其私人資料,然後加密和分享更新模型,而非共享原始資料。

一旦模型在單一私人資料集上接受訓練,就可以由下一方下載和訓練。在所有各方都對模型進行訓練和加密後,即可從各種來源分析新資料集。

聯合學習有幾種不同的方法,每種方法使用的資料類型各不相同。例如,某些模型接受來自不同來源的大量類似資料類型的訓練,而其他模型則接受各種資料類型的訓練。

聯合學習的歷史是什麼?

聯合學習是機器學習的一個子集,近年來隨著 AI 系統的演進和快速採用而出現。

Google 於 2016 年首次發表聯合學習一詞,內容涵蓋機器學習模型分散式訓練的概念。為因應日益嚴重的隱私洩露問題,Google 開發了新的安全資料訓練技術,而不需要分享原始資料。

聯合學習的關鍵類型是什麼?

聯合學習有幾種類型,主要因模型接受資料訓練的方式,以及模型接受訓練的資料類型而有所不同:

  • 水平聯合學習在包含類似資料類型的多個資料集上訓練模型。這些資料組可以輕鬆一起處理。
  • 垂直聯合學習在多個不同但互補的資料集上訓練模型,使模型能夠產生統一的輸出。
  • 聯合遷移學習將預先訓練的基礎模型引入新資料集,使原始模型能夠傳輸其執行新功能的能力。
  • 集中式聯合學習透過收集和彙總單一伺服器上所有用戶端的模型更新來協調訓練流程。此伺服器充當模型彙總和分佈的中心點。
  • 分散式聯合學習缺乏中央伺服器。相反地,用戶端會以點對點的方式,直接彼此分享其模型更新。這種方法可以增強安全性和隱私權,因為沒有單點故障或控制。
  • 異質性聯合學習會以不相容的形式處理不同類型的資料類型,以持續訓練模型。在模型訓練完成之前,需要一個適應性步驟,並且貢獻的用戶端會調整其資料和學習率,以在訓練中保持一致性。

如何使用聯合學習?

聯合學習是一種技術與方法,可應用於各種機器學習應用程式。其提供了收集資料集的實用方法,無需在源頭合併它們。

與其他類型的機器學習相比,聯合學習的主要好處是安全和資料隱私權。因此,AI 聯合學習的主要使用案例是資料本質上是隱私和安全的產業,例如醫療保健。

醫療保健行業內的企業使用聯合學習來收集有關患者的分散資料集,而不影響這些患者的隱私權。其中一個例子是健康保險業務從個人病歷中匯編有關其客戶的資料,使醫院和診所能夠安全地分享私人資料。

同樣地,金融產業內的企業可能會使用聯合學習,共同受益於更多資料,以推動詐欺預防和財務安全。這是機構間資料共享如何保護產業安全的範例。

聯合學習也有助於開發新技術。為了促進創新,研究人員可以安全地分享其資料,以便從彼此的資料中獲益。例如開發自駕車的研究。自駕車和其他自駕車都仰賴機器學習技術、模型和演算法,即時彼此合作,而且有一系列的輔助模型需要考慮。為了開發自駕車和驅動自駕車的技術,負責此技術個別元素的組織可以透過聯合學習進行協作,使自駕車能夠更有效地回應即時刺激。

創新正在不斷開發更多可用技術迭代,而不同的汽車品牌也在此領域內運作,並擁有不同的測試資料。透過使用聯合學習分享這些資料,AI 模型可以提供見解、預測和分析,進一步推動自駕車開發。

常見問答

聯合學習常見問題

聯合學習並非與機器學習分開,而是特殊的機器學習類型。其以傳統的機器學習原則為基礎,但引進分散式、安全的資料處理方法,使多方能夠在不損害資料主權的情況下貢獻資料。

聯合學習在資料主權方面提供了明顯的益處,但有哪些缺點? 要建立所有貢獻者都能同意的聯合學習平台可能很困難。一個可用的平台需要在適合所有相關人員的適當級別上保護資料安全、隱私權和合規性。
 

視模型的複雜程度而定,在隱私權問題方面也可能帶來挑戰。聯合學習是管理敏感資料產業的隱私問題的解決方案,但資料所有者需要適當確保其隱私確實受到保護。

聯合學習可以應用於深度學習模型,其中深度神經網路會接受來自多個貢獻來源的資料訓練。