代表倡治AI換臉擬聲深偽欺詐

昨日，十四屆全國人大三次會議在北京人民大會堂舉行預備會議。全國人大代表、小米科技創始人雷軍準備步入會場。（中新社）

今年全國兩會，人工智能(AI)等科技議題成為人大代表及政協委員關注的重要議題。包括小米集團創辦人雷軍、TCL創辦人李東生、美的集團副總裁兼首席財務官鍾錚、科大訊飛董事長劉慶峰等全國人大代表，昨均表示關注AI的發展及治理問題。雷軍昨披露了他圍繞新能源汽車、AI產業的高質量發展向大會提交的5份建議。

雷軍表示，建議的出發點都是推動「科技帶來美好生活」，既有提升中國企業在全球科技新格局中的競爭力的產業視角，如建議加快推進AI終端的高質量發展；又有民生視角，他建言重啟新能源車牌調研論證，切實治理「AI換臉擬聲」不當濫用問題。

李東生也關注到「AI深度偽造欺詐治理」的話題，建議包括加快出台AI深度合成內容標識管理規章制度，以各種方式加強管理。鍾錚則認為，現在生成式AI在法律法規體係上仍不完善，特別是在界定AI生成內容的版權歸屬以及侵權責任認定等方面存在空白。此外，目前對於生成式AI影片的審核，技術條件有限，還需要繼續完善技術手段。

相關統計數據顯示，中國生成式AI產品的用戶規模已達2.49億人。科大訊飛董事長劉慶峰表示，生成式AI存在「幻覺」，特別是深度推理模型的邏輯自洽性提升，使得AI生成內容真假難辨。他建議，研究幻覺自動分析的技術和軟件平台，開展深度鑑偽、有害內容識別以及互聯網傳播溯源。

中科院主任：機械人成AI重要載體

昨下午，全國政協委員、中科院多模態AI系統實驗室主任喬紅在「委員通道」接受媒體採訪時表示，近3年，中國工業機械人的裝載量達到全球二分之一以上，中國技術已經得到飛躍式發展，和國際先進水平的距離顯著減少。喬紅認為，人形機械人不僅是AI的重要表現形式和重要載體，也是通用實體AI系統的典型代表。未來中國的機械人系統將面臨更大更重要的舞台。

明報記者