以未成年人為對象偽造色情照 AI製作難分真假 趨勢令人擔憂
深度偽造色情照通常用於勒索騷擾或欺凌
【明報專訊】多倫多一名16歲少女在去年被人深度偽造裸照,她在互聯網上看到了一張自己的裸照,這張照片是深度偽造的。
以未成年人為對象製作深度偽造的色情照已成為一種令人擔憂的新趨勢。深度偽造是指任何經過修改或創建的圖像或視頻,通常使用人工智能技術,難以與真實的圖像或視頻區別開來。
網絡安全教育工作者勞爾(Brandon Laur)指出,這些事難以杜絕,希望大家提高警覺,因為一旦圖像被上傳,即便有安全的設定,也幾乎無法控制它會發生什麼事。
沒以真名在網上發照片亦中招
熱線1年處理4,000偽造色情照
該名少女名叫魯比(圖右),她在去年收到了一連串的信息,有人告訴她,互聯網上有她的照片,並讓她點擊一個鏈接來查看。
魯比要求查看這些照片,有人向她發送了一張深度偽造的照片,照片中的她上身赤裸。她說,原始的照片是在她13歲時拍攝的,當時的她穿戴整齊。
魯比曾被教導如何安全上網,且她沒有以真名在網上發布照片。她說:「我沒有做錯任何事。事情就這樣發生了,我的心中充滿了憤怒。我不知道這個人是誰。」
魯比的父母致電Cybertip.ca求助,這是一條全國性的熱線,供人們報告未成年人的色情圖像。該熱線在去年處理了4,000張深度偽造的色情影像,這是該熱線開始追蹤數據的第一年。
加拿大兒童保護中心 (Canadian Centre for Child Protection)負責 Cybertip.ca的營運,該中心分管支援服務的營運總監羅布(Lindsay Lobb)說,以未成年人為對象製作深度偽造的色情照,這一問題「持續地發展和演變」。
她指出,深度偽造的照片通常被用於勒索、騷擾或欺凌未成年人,這些照片很容易製作,因為有很多網站和應用程式可以將圖像「裸體化」。
在加拿大,任何未成年人的色情圖像,無論是否是深度偽造的,均是非法的,並被視為兒童色情。網絡和社交媒體平台說,他們會向警方舉報在其平台上發現的色情圖像。
網絡安全教育工作者勞爾(Brandon Laur)指出,要區分深度偽造的圖像與真實的圖像,難度只會愈來愈大。
勞爾說:「我們每年都會看到這些圖像的真實性有很大的飛躍。」他還說,即便是現在,當孩子否認這些圖像的真實性時,家長們不一定會相信。
勞爾說,期望人們不要在網絡上發布照片是不切實際的,但他希望提高人們的警覺意識,一旦圖像被上傳,即便有安全的設定,也幾乎無法控制它會發生什麼事。
多倫多的律師雷諾茲(Molly Reynolds)指出,深度偽造的圖像可能是前伴侶為了報復而製作的,也可能是同事和同學為了威脅和欺凌而製作的,也可能是其他國家的陌生人製作的。
她說,受害人可以向存放圖片的網站(例如谷歌或Meta)提交移除圖片的請求。之後,可能會有民事或刑事的途徑就騷擾提出索賠。