AI威脅人類的危機近年成科技界熱話，有專家認為真正的危機在於人類過分信任AI，做好風險管理及確保AI學習系統透明將是AI未來健康發展的關鍵。 AI現今已涉足許多關乎決策的領域，例如協助醫療診斷、金融投資管理，甚至參與部分司法判決程序等，背後均有賴機器學習(machine learning)技術，藉由人類提供大量數據用作AI的「訓練」材料，讓其從中學習選出相關資料，以及找出資料當中的規律，從而對新資料作出判斷，例如從病人的腦部掃描捕捉腦退化症的早期徵兆等，這種技術幾乎可應用於任何範疇處理問題。 運算過程不清晰 可致誤判 運用AI最大好處在於AI能迅速分析海量複雜數據並作出判斷，不過AI從數據分析得出結論的過程卻並不清晰，亦難以控制干預，甚至會導致錯誤結果。美國達特茅斯學院研究美國監獄更生管理系統採用的AI軟件Compas，該軟件以服用藥物情况等137項指標分析囚犯的重犯風險，而決定保釋申請處理，已沿用20年，但研究發現軟件疑存在種族偏見，將黑人重犯的風險全列為高於白人，不論罪行，而未經訓練的普通人預測準確度反而比軟件更高2%。社交網站facebook的動態消息運算程式亦因被指助長假新聞而為人詬病。 Google AI開發主管賈南德雷亞(John Giannandrea)去年表示，機器學習本身已存在安全問題，「如我們給AI系統有偏見的數據，系統便會有偏見」，此問題比AI叛變甚至傷害人類的構想要迫切得多。 賈南德雷亞認為重要的是開發AI時採用的資料要保持公開透明，讓人能夠及時發現系統可能存在的偏見，減少誤判風險。不少研究人員亦正設法讓較複雜的AI向開發者及用戶展示運算過程以供參考驗證。
|
| |
| |
;)
