滿地可AI教父研究指人工智能技術風險 對人類禍福難定奪
【明報專訊】一份關於人工智能(AI)安全的重要國際報告指，專家對有關技術帶來的風險無法達成一致，那就是目前尚未清楚人工智能對人類是福還是禍。
有關報告的負責人是由滿地可大學(University of Montreal)教授、機器學習的領軍人物賓基奧(Yoshua Bengio)，他認為，「通用人工智能的未來軌迹極不確定」，「即使在不久的未來，也可能出現「廣泛的軌迹」，包括非常積極和非常消極的結果」。該報告是在去年由英國主辦的人工智能安全高峰會上委託編寫的，這是全球第一個類似會議。
英國邀請被譽為人工智能「教父」的魁北克人工智能研究所Mila科學總監賓基奧擔任有關報告的負責人。該報告是於下周在韓國首爾舉行的另一場全球人工智能高峰會之前發表的。
賓基奧在報告中寫道，眾所周知，先進的人工智能日新月異，該等先進的人工智能系縭將如何影響大家日後的生活和工作方式則懸而未知。
英國政府在前天發表的新聞稿中稱，該報告是關於人工智能安全的第一份獨立的國際科學報告，它將為下周韓國的研討會提供資方面發揮重要作用。一個75人專家小組有份編寫有關報告，其中包括由30個國家、歐盟和美國提名的專家小組。前天發布的是中期報告，最終報告將於年底出。它聚焦於通用人工智能系統，如美國科網初創公司OpenAI推出人工智能聊天機械人ChatGPT，該機械人可根據提示生成文字、圖像和視頻。
該報告指，專家「對通用人工智能功能、風險和風險緩解措施等個或大或小的問題上仍存在分歧」，其中一個爭論的領域是「大規模勞動市場影響、人工智能黑客或生物攻擊、以及社會失去對通用人工智能的控制等風險」的可能性。
報告概述多種風險，包括人工智能可能透過虛假內容、假消息和欺詐、甚至網絡攻擊造成危害。它還指，人工智能可導致風險偏差，特別是在「醫療保健、招聘和金融借貸等高風險領域」，其中一個可能出現的情況是，人類對人工智能失去控制，即它可能造成損害，也無法控制該技術。報告說，儘管大家一致認為當前的通用人工智能技術不會帶來上述風險，但一些專家為，正在進行的自主人工智能開發作可能會導致類似結果，因為該技術可以「行動、策劃和追求目標」。報告又說，對於失控情況的可能性有多大、何時可能發生以及緩解有關狀況的難度，專家則意見不一。
