主管觀點部落格

破除偏見:AI 為什麼需要 DEI

作者 Sharawn Connors - 2020-02-03

想像一下當您使用 Alexa 時聽不到她的聲音。或得知在您的健康狀況較差卻因膚色不同,導致運算法的誤差,而在醫院比別人更慢接受治療

在產業中,人工智慧的潛能常常使我們迫切想要創造新的應用程式,但有時卻忘了考量會從中受惠的所有人。抑或如果我們不在建立應用程式的資料中將多元化、平等與包容(DEI)原則列入考量因素,這些人將被排除在外。

AI 就僅僅只是您所輸入的資料。最近的一項研究顯示,臉部辨識可以 99% 的準確度來識別出白人男性,但對於有色人種女性則下降到 35% 。原因為何呢?因為在設計階段,這些族群被排除在測試範例之外。

在奧克蘭,軟體經試驗用來預測高犯罪率地區。但事實證明,這項系統規則實際上是在追蹤少數族裔人口眾多的地區 - 無關犯罪率問題。

這些都是不公正且顯而易見的例子,卻被技術給誇大了。

在 AI 和軟體設計中,重要的就是我們在創新時有考慮到每個人。否則,我們仍會繼續並加速刻板印象帶來破壞性的影響,即使我們是在不知不覺中這麼做的。最後結果就是我們錯失 AI 可以帶給我們生活的額外好處,並阻礙這項技術的真正潛力。

在美光,我們對此問題進行了很多思考。去年,Micron Gives 宣布了我們的 先進科技創新(Advancing Curiosity)計劃,這項計劃針對透過 AI 致力於社會公益的領導大學研究團體以及非營利組織提供 100 萬美元。

這項承諾包括支持 UCLA 專案,此專案旨在辨別並消除 AI 中的偏見,並透過開發嚴格的計算方法,來幫助辨別偏見進而提高機器學習的透明度。為了促進 AI 領域內的多元化,我們還支持AI4All及其營隊,這些營隊活動著重在引起人們對這些領域的興趣,尤其是在少數族群中。

這超越了種族和性別;我們必須研究多元化的所有面相。幾乎所有的 AI 助理都是以語音為基礎,這項功能讓聽障人士幾乎無法使用這些工具。先進科技創新(Advancing Curiosity)計劃正與羅徹斯特理工學院合作,開發替代性的 AI 輔助技術,這項技術在整個設計循環中,將聽障使用者列入考量。這樣的作法可確保這項解決方案真正適用於使用它的人。

您會看到,要獲得 AI 的高品質資料輸入,至關重要的是開發這些專案的人員和組織的組合必須反映出我們所有人生活的世界。如果美國人口中有 7 % 的身心障礙人士,那麼這個百分比應該反映在工作場所中。這樣一來,透過對應用程式本身的設計和開發做出貢獻人員的多元化和包容性,您便可以獲得有價值的 AI。

但是,您還必須考慮思想的多元化。同樣重要的是要有能包容各方的環境,讓每個人都可以輕鬆分享想法。如果您擁有多元化,但人們卻沒有貢獻,那麼您就無法獲得多元化的價值。

如今,我們正處在一個臨界點,周圍遍布著龐大的 AI 資料集。我們必須仔細思考我們的資料內容,以及它是否完全代表我們想要服務和幫助的人群。為此,我們必須創造出一種工作場所,在那裡最佳解決方案、最佳創新、最佳創意都因應而生-不管它來自何處。

我很高興成為致力於建立一支多元化、平等和包容的員工團隊中的一員。我們絕不是完美的,但我相信意志和動力就在這裡,我們瞭解 DEI 為我們的文化、創新和競爭力所提供的價值。瞭解更多美光為多元化、平等和包容所做努力的相關資訊,並閱讀我們最新的 DEI 報告。

Sharawn Connors

Sharawn Connors

美光多元化、平等與包容部門副總裁
+
Powered By OneLink