AI突破恐遭濫用
專家籲公眾討論威脅 政府制訂法例
多名人工智能(AI)專家周二(20日)發表新報告，警告AI如以現今速度繼續發展而不受管制，現有保安機制將會失效，令AI能輕易被心懷不軌者濫用於製造假新聞、發動網絡襲擊甚至襲擊現實世界的實體基建，呼籲公眾多討論AI的威脅，政府亦必須考慮制訂相關法例規管。
襲實體基建 無人機施襲
今次報告題為《人工智能的惡意使用》，由非牟利AI研究組織OpenAI、電子前線基金會(EFF)、劍橋大學及牛津大學等聯合發布，聚焦於現有或未來5年內將會普及的AI技術，在數碼世界、實體世界及政治上最可能被濫用的情况。
報告稱，AI發展正走向成熟，如以現時速度繼續突破，其威力將足以壓倒現有數碼或實體系統的防禦機制，很可能被敵對國家、罪犯與恐怖分子濫用。例如AlphoGo等具學習能力的AI有助找出數據規律與程式漏洞，令開發新型數碼武器的門檻降低，或可藉以作出目標更精準的攻擊。AI亦可能被用於強行操控無人機及無人車用作武器施襲。另外，基於AI分析人類行為、心理或信念的能力而開發的網上廣告工具，亦可能被用作操控選民，令政治體制被騎劫。
報告呼籲公眾應更廣泛討論AI的威脅，執政者及研究人員亦應合作，在開發時慮及AI的「雙面刃」特性，採取措施防止AI被濫用，例如OpenAI去年推出一款可藉由閱讀網上商店亞馬遜用戶評價而了解人類感情的人工智能情緒神經元，便因擔心會被濫用於創造虛假評價而決定將程式源碼保密。
參與撰寫報告的OpenAI策略及傳訊總監克拉克(John Clark)稱，過去5年AI的發展令許多人震驚，「如那趨勢持續，你將見到AI有機會創造真正危險的東西」。
牛津大學未來人類研究所研究員布倫戴奇(Miles Brundage)亦稱，AI將改變民眾、機構及國家所面對的威脅，對保安的衝擊非常龐大，特別是AI系統的表現不僅已達至人類水平，甚至已超越人類，有必要要考慮AI應用的影響。(金融時報/BBC)
