男星賭輸10億屬「AI謠」
36歲男涉造謠拘8天 9月起AI內容須標示
【明報專訊】一則「頂流男星在澳門輸了10億」消息連日熱爆內地互聯網，藝人周杰倫、黃曉明相繼為此闢謠。公安部昨通報，案件是36歲徐姓男子利用人工智能(AI)生成謠言並發布，已對其作出行政拘留8天的處罰。AI「造謠」能力近期備受各界關注，國家網信辦等4個部門近日聯合發布新規，9月1日起，AI生成合成內容必須添加標識。
網安局指經AI輸熱點詞生成
周杰倫黃曉明曾闢謠
公安部網安局昨通報，網安部門查明，36歲男子徐X強為爭取流量、謀取非法利益，周一(10日)使用軟件「某書」(辦公軟件×書)中AI智慧生成功能，輸入社會熱點詞，製作了標題為「頂流明星被曝境外豪賭輸光十億身價(身家)引發輿論海嘯」的謠言信息，並通過互聯網平台對外發布，造成謠言迅速傳播擴散，引發大量網民議論，誘發相關謠言、話題等頻繁登上熱搜榜，嚴重擾亂公共秩序。公安機關根據相關法律法規，對徐X強處以行政拘留8日處罰。
該消息近幾天連續發酵，引發網民各種猜測，周杰倫、黃曉明等男星被對號入座，甚至還上了熱搜榜，其後兩人相繼發出澄清。微博CEO王高飛周一發文稱，AI分析員判斷該傳聞缺乏實質性證據，且主要信息源為匿名帳號及營銷號，存在動機和邏輯漏洞。
對於消息最終被證實為AI生成的謠言，不少網民認為，讓消息熱傳的社交平台也有責任，「搞算法推薦的平台也不能光想着『恰』(吃)流量，一點責任也不擔」。不少人關注到AI生成內容細節豐富，效率高、成本低，造成的危害更大。人民網評論指出，有了AI的「加持」，不法分子可隨心所欲製造謠言，零成本開辦「謠言工廠」，不能不讓人擔憂和警惕；網絡平台不能袖手旁觀，須對AI生成內容加大審核機制，防止AI生產的謠言興風作浪。
新規範：平台應核驗AI標識
事實上，國家網信辦、工信部、公安部、國家廣播電視總局聯手制定的《人工智能生成合成內容標識辦法》於昨日公開，今年9月起施行，將要求服務提供者應當對文本、音頻、圖片、視頻等生成合成內容，添加顯式標識。《辦法》強調，互聯網應用程式服務提供者提供AI生成合成服務的，應用程式分發平台應當核驗其生成合成內容標識相關材料。國家網信辦負責人稱，海量信息得以快速生成合成並在網絡平台傳播，在促進經濟社會發展的同時，也產生了生成合成技術濫用、虛假信息傳播擴散加劇等問題，為此制定《辦法》進一步規範AI生成合成內容標識活動。
