歹徒用人工智能製視頻宣傳 反欺詐中心提醒民眾防受騙
【明報專訊】 加拿大反欺詐中心(CAFC)提醒民眾，不法之徒會運用人工智能，進行金融詐騙。
CAFC客戶和通信官員霍恩卡斯爾(Jeff Horncastle)說，深度偽造的詐騙手法往往使用一個家喻戶曉人物的照片或一段視頻偽造一個媒體事件，使受眾更容易相信那是真的，比如CTV新聞主播Omar Sachedina播放新聞的畫面被剪輯接到一個大麻宣傳視頻廣告；另一個流行的深度偽造是馬斯克(Musk)推銷一家虛假加密貨幣公司的股票。雖然不清楚有多少人成為受害人，但CAFC報告顯示加人在2022年被各種金融詐騙損失總計5.31億元，今年截至目前損失2.83億元。
當民眾對一名知名新聞主播在YouTube上宣傳大麻品牌感到奇怪，或對億萬富豪特斯拉創始人馬斯克做廣告推銷一款投資產品產生疑問時，其直覺是對的，不管這些視頻新聞多麼令人信服，它其實是一種被稱為「深度偽造」的詐騙手法，就是利用人工智能技術(AI)編造和篡改真實媒體事件。
安省西安大學網絡專家達利(Mark Daley)說，深度偽造最令人驚恐是偽造技術愈來愈先進，使人們辦別真偽愈來愈困難。5年前要創造深度偽造，騙徒要掌握很高的軟件技術，而現在任何人只要掌握AI都可以實現。
這些深度偽造的視頻錄像也被用在政治領域，傳播虛假信息欺騙受眾，煽動政治對立甚至仇恨。舉例為參加2024年美國總統選舉，佛羅里達州長德桑蒂斯(Ron DeSantis)正在各州競選尋求獲得共和黨總統候選人提名，然而上周一個深度偽造的視頻新聞顯示，德桑蒂斯已宣布退出競選。
為了幫助用戶識別深度偽造，谷歌宣布將對其平台上的所有AI生成的圖像添加水印警告標識，CTV新聞也發聲明稱會加強執法打擊欺詐和濫用，並推出新的廣告商認證規定，發現和組織其媒體上的欺詐行為。
心理治療師、技術領域記者道喬治亞(Georgia Dow)表示，一個視頻是否是深度偽造，可以仔細觀察說話者的口型是否匹配、眼球的運動是否自然，以及他是否與背景和諧，特別是當說話者移動時。
霍恩卡斯爾給民眾的建議是，第一個亮紅燈是這個名人為什麼給他們不感興趣或沒關係的東西做廣告？如果不能確定，進一步搜索做廣告的公司，在決定購買其產品之前查驗它是否合法。
