通安局警告外國對手恐用AI深度偽造影像影響下次大選

[2023.12.07] 發表

【明報專訊】加拿大通訊安全局(CSE)周三在一份最新的網絡威脅報告中警告，不良行為者正計劃使用人工智能工具來影響下一次聯邦選舉，而且該機構無法識別每一個欺騙性深度偽造(deepfakes)影像。

CSE稱，「很有可能」外國敵對勢力或「黑客」會使用人工智能在加拿大下屆聯邦大選前影響選民。它表示：「據我們評估，外國對手和黑客活動分子可能會在未來兩年內將生成式人工智能武器化，以製造政客和政府官員的深度偽造影片和圖像。」

深度偽造影片和圖像經由數位改造，看起來像真的一樣。CSE報告沒有引用加拿大曾出現過的任何特定案例。它亦表示，基於深度偽造影片和圖像預期會數量巨大，很可能超出該機構檢測追蹤能力，而且「鑑於深度偽造偵測模型的無效性以及生成式人工智能的可用性不斷增加，使用它針對選民的影響力活動可能會越來越多，且難被公眾發覺。」

CSE表示，已有數以千計的偽造影片正在流傳，這些偽造影片是利用政客的視頻剪接編輯而成。CSE指出，今年稍早流傳的一則深度偽造視頻，顯示拜登總統發表反跨性別演說。

CSE警告，候選人辯論有可能成為深度偽造影片的主要目標，「即使事實後來被澄清，但已造成的傷害可能會令選民質疑未來政治辯論的合法性。」

報告稱，社交媒體如Instagram和YouTube試圖在深度偽造內容廣為流傳前將其刪除，但不是每一次都成功，而因為缺乏法規，令刪除深度偽造視頻更為複雜。報告表示：「政黨本身正在使用生成式人工智能作為其競選活動的一部分，例如，製作如果政治對手當選『可能後果』的視頻。雖然免責聲明可用來識別影片是否為深度偽造，但加拿大和美國目前對生成式人工智能在政治廣告中的使用程度幾乎沒有監管。」

CSE局長澤維爾(Caroline Xavier)表示：「敵對勢力確實想操縱我們的民主程序，但這並不意味著我們無法阻擋他們。」她說，CSE公布上述報告的目的在提醒加拿大人提高警覺。

澤維爾也表示，CSE確實擁有合法權力阻擋對加拿大選舉機制可能的攻擊。CSE則稱，加拿大不像美國和英國是深度偽造活動的主要目標，但亦非免疫。