「浪漫詐騙」更高明 一年掠款逾6000萬 深度偽造及人工智能助長

「浪漫詐騙」更高明一年掠款逾6000萬深度偽造及人工智能助長

[2023.02.13] 發表

【明報專訊】隨着深度偽造(Deepfake)及人工智能(AI)等技術發展，「浪漫詐騙」(Romance Scams)恐怕更令人防不勝防，因為即使聽到聲音、收到短訊甚至看到照片或視頻中的樣貌，也可能在現實中統統不存在。前年全國共錄得逾1900宗浪漫詐騙案，造成超過6000萬元損失。

前年全國1900宗相關騙案

加拿大反詐騙中心(Canadian Anti-Fraud Centre，CAFC)報告指，新冠大流行令民眾將生活大規模轉移至網上，浪漫詐騙也隨之激增。從可獲得的最新數據顯示，2021年全國共錄得1928宗浪漫詐騙，總損失金額超過6450萬元，比前一年飈升近25%。

CAFC表示，騙徒往往會說服受害者建立虛擬的網上關係，一旦建立信任和感情，就會索取金錢、加密貨幣、禮物或投資。該中心更警告情人節將為騙徒提供機會，以正在尋找戀愛關係的加拿大人為目標。根據CAFC發布的2023/2024年度《網絡威脅評估》，深度偽造及人工智能文本生成器被標示為潛在威脅。

分析指隨着深度偽造的內容愈來愈難與真實內容作出區分，加上創建深度偽造的工具更加廣泛，網絡威脅參與者很可能會進一步將該技術納入使用，從而增加影響範圍、規模及可信度。另一方面，人工智能文本生成器所生成的內容，已經發展到幾乎無法與真實素材辨別。

卑詩大學(UBC)電腦科學系副教授克魯恩(Jeff Clune)表示，人工智能技術進步有可能助長浪漫詐騙，「騙子現時有更多工具欺騙人們，尤其是那些不了解最新技術發展的人。」這類新技術包括語音模擬器、人臉生成器、深度偽造，即透過現有圖像或視頻，創造虛假但可信的片段；以及聊天機器人如ChatGPT，生成類似人類的文本作出回應。

克魯恩指利用人工智能技術進行騙局仍然需要有人操控，但這種情況可能很快就會改變，「儘管現在詐騙非常普遍，但這樣做還是要付出代價，因為必須有一個人坐在那裏花時間，但如果騙徒能讓人工智能每天對100萬人這樣做，然後坐下來看着錢滾滾而來，那就是可怕的地方，也是這項技術有可能實現的。」

學者指法例跟不上科技步伐

達爾豪斯大學(Dalhousie University)法學院助理教授鄧恩(Suzie Dunn)表示，法例跟不上技術發展步伐，在法律框架中留下重大空白，「根據加拿大《刑法》與假冒相關的法例，犯案者必須冒充現實存在的人，這是目前法例面臨的挑戰之一。」

她指當人們可以利用軟件，以虛假口音、聲線或外貌創造現實中不存在的人，會引起複雜法律情況，「如果使用某人的相片或名字，這可被視為假冒的形式；但這些新技術可以創造不存在的人，現有法律並不能涵蓋這類型傷害。」

她續指受害者必須依靠現有的勒索和欺詐法例，「我們不需要新的勒索法例，不論是由深度偽造還是普通人進行，勒索就是勒索。」

她認為人工智能開發商、約會及社交媒體平台等企業都應該意識到有關技術帶來的潛在危害，並採取必要的保護措施。

克魯恩對此表示同意，又指新技術將永遠走在法律和政客面前，「這個領域的發展速度驚人，幾乎任何你能想像到的東西，可能在今天看來像科幻小說和未來主義，都會在幾年後出現。」他補充指政客及社會應該就即將發生的事情進行周詳交流，嘗試領先於技術發展，並思考能對此做些什麼。