歹徒用人工智能製視頻宣傳 反欺詐中心提醒民眾防受騙
【明報專訊】 加拿大反欺詐中心(CAFC)提醒民眾，不法之徒會運用人工智能，進行金融詐騙。
CAFC客戶和通信官員霍恩卡斯爾(Jeff Horncastle)說，深度偽造的詐騙手法往往使用一個家喻戶曉人物的照片或一段視頻偽造一個媒體事件，使受眾更容易相信那是真的，比如CTV新聞首席記者高級編輯Omar Sachedina播放新聞的畫面被剪輯嫁接到一個大麻宣傳的視頻廣告，另一個非常流行的深度偽造是馬斯克推銷一家虛假加密貨幣公司的股票。雖然不清楚有多少人成為深度偽造的受害人，但CAFC報告顯示加拿大人在2022年被各種金融詐騙損失總計5.31億元，今年截至目前損失2.83億元。
當民眾對一名知名新聞主持人在YouTube上宣傳一個大麻品牌感到奇怪，抑或對億萬富豪特斯拉創始人馬斯克(Musk)做廣告推銷一款投資產品產生疑問？你的直覺是對的，不管這些視頻新聞看起來多麼令人信服，它其實是一種被稱為「深度偽造」的詐騙手法，就是利用人工智能技術(AI)編造和篡改真實媒體事件。
安省西安大學首席數字信息官、網絡專家達利(Mark Daley)說，深度偽造最令人驚恐是偽造技術愈來愈先進，使人們鑑別真偽愈來愈困難，5年前要創造深度偽造，詐騙分子要掌握很高的軟件技術，而現今任何人只要掌握AI都可以實現。
這些深度偽造的視頻錄像也被用在政治領域，傳播虛假信息欺騙受眾，煽動政治對立甚至仇恨。舉個例子，為參加2024年美國總統選舉，佛羅里達州長德桑蒂斯(Ron DeSantis)正在各州競選尋求獲得共和黨總統候選人提名，然而上周一個深度偽造的視頻新聞顯示，德桑蒂斯已宣布退出競選。
為了幫助用戶識別深度偽造，谷歌宣布將對其平台上的所有AI生成的圖像添加水印警告標識，CTV新聞也發聲明表示，加強執法打擊欺詐和濫用，並推出新的廣告商認證規定，發現和組織其媒體上的欺詐行為。
心理治療師、技術領域記者道喬治亞(Georgia Dow)表示，一個視頻是否是深度偽造，可以仔細觀察說話者的口型是否匹配、眼球的運動是否自然，以及他是否與背景和諧，特別是當說話者移動時。
霍恩卡斯爾的建議是，第一個亮紅燈是這個名人為什麼給他不感興趣或沒關係的東西做廣告？如果不能確定，進一步搜索做廣告的公司，在決定購買其產品查驗它是否合法。
Alex Wu, Local Journalism Initiative Reporter
