加國設人工智能安全研究中心 攜國際伙伴研討風險防護措施
專家已警告AI技術可能帶來生存風險
【明報專訊】聯邦政府成立一個研究中心,專門探討人工智能(AI)技術帶來的風險。
加拿大人工智能安全研究所(Canadian Artificial Intelligence Safety Institute)周二在滿地可啟用,聯邦工業部長商鵬飛(Francois-Philippe Champagne)主持揭幕儀式時表示,該中心在讓公眾對AI技術建立信心方面至關重要。
聯邦政府指,AI可能會在選舉干預、假消息宣傳和網絡安全事故中被濫用。
5月份在南韓首都首爾舉行的一個會議上,各國領袖同意建立一個由公共資金支持的安全機構所組成的網絡,以推進有關技術的研究和測試。商鵬飛稱,加拿大是最早成立類似機構的其中一個國家。
加拿大人工智能安全研究所將跟其他國家的類似組織合作,作為人工智能安全機構國際網絡的一部分,該網絡將於下周在美國三藩市舉行第一次會議。
專家已警告改變日常生活的AI技術可能會帶來生存風險,各國政府和全球機構一直致力就AI推出防護措施。
加拿大新設的研究所將隸屬聯邦創新、科學及經濟發展部,它將在5年內獲渥京撥款5,000萬元,有關款項屬於本年度聯邦財政預算案已宣布的24億元AI相關資金一部分。
該研究所將負責由政府主導的項目,重點關注網絡安全及跟其他國家聯合測試等優先事項。政府也將通過加拿大高等研究院(Canadian Institute for Advanced Research)資助加拿大和國際專家進行的研究工作。
「泛加拿大人工智能策略」協會(Pan-Canadian AI strategy at the Canadian Institute for Advanced Research)的行政主任絲托梅(Elissa Strome)稱,因應AI技術無遠弗屆,全球合作至關重要。
她說,加拿大在AI研究方面一直處於領先地位,亦將為全球對話帶來其具備的專業知識和領導力。
絲托梅指,在三藩市的會議上,來自世界各地AI機構的代表將探討新興主題和合作機會。她又說,AI的使用方式已經存在一些擔憂,也令問題叢生,包括錯誤信息、諸如深偽技術(deepfake)製造的假消息和合成內容,但亦有機會開發新技術方法來識別或防止虛假內容。