網信辦擬管AI 內容禁涉顛覆分裂
稱須交安全評估 指應符社會主義價值觀

[2023.04.12] 發表

【明報專訊】內地科企近來爭相推出類似ChatGPT的人工智能(AI)模型,國家網信辦擬針對生成式人工智能服務出台管理辦法,要求企業在向公眾推出產品前先向當局提交安全評估,並要求AI生成的內容應體現社會主義核心價值觀,不得含有顛覆國家政權、煽動分裂國家等內容。

國家網信辦昨在官網發布關於《生成式人工智能服務管理辦法》的徵求意見稿,向社會公開徵求意見,為期一個月。網信辦指,這是為了「促進生成式人工智能技術健康發展和規範應用」。意見稿指出,利用生成式人工智能產品向公眾提供服務前,應向網信部門申報安全評估。生成的內容應當體現社會主義核心價值觀,不得含有顛覆國家政權、推翻社會主義制度,煽動分裂國家、破壞國家統一的內容;也不能宣揚恐怖主義、民族仇恨等,以及可能擾亂經濟秩序和社會秩序的內容。

意見稿亦對服務提供者提出要求,在算法設計、提供服務等過程中,要採取措施防止出現種族、民族、性別等歧視,也應防止生成虛假信息、採取措施防止用戶過分依賴或沉迷生成內容。另外按照《網絡安全法》,要求用戶提供真實身分信息。

違規將警告 嚴重可停服務

針對違反規定的提供者,意見稿指出,法律、行政法規沒有規定的,由網信部門給予警告、通報批評,責令限期改正。拒不改正或情節嚴重的,責令暫停或者終止其提供服務,並處1萬元(人民幣,下同)以上、10萬元以下罰款。構成犯罪的,將追究刑責。

內地「財新網」昨指,政府目前會對國內的ChatGPT類產品,進行互聯網新技術新業務安全評估,只有通過評估之後,才能對外提供服務。報道引述上海大邦律師事務所合伙人游雲庭指,《辦法》總體上以鼓勵產業發展為重點,例如《辦法》提及「國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作」,說明新規例是為現行AI服務中出現的問題補漏,「這對從業的公司來說仍是利好的」。

問及監管機構就AI生成的最新監管,商湯聯合創始人、首席科學家王曉剛昨表示,有關法規並不是針對AI聊天機器人或大模型本身,而是人工智能的生成。他表示,當新技術出現突破,過程產生收入價值,必然陪伴隨風險,當中涉及認知、道德、倫理和法律的問題約束。「商湯明確遵守各地有關人工智能的法規」,在上市前已成立AI倫理與治理委員會和信息安全管理委員會,當有新產品推出時會透過嚴格審查要求,以符合標準。

近來多個主要科企推出ChatGPT類產品,包括百度的「文心一言」、阿里巴巴的「通義千問」、商湯的「商量」等,京東也將在年內上線ChatJD。

更多中國要聞
習近平視察湛江 消息:檢閱南海艦隊
【明報專訊】國家主席習近平周一(10日)在廣東省考察調研。他首先到粵西的湛江市,在徐聞港了解當地提升交通基礎設施互聯互通水平、推動廣東和海南... 詳情
華北沙塵擴散19省 越長江襲上海
【明報專訊】華北地區周日(9日)起出現大範圍沙塵天氣,是今年以來第八次,影響19省區超過4億人。沙塵更越過長江波及江淮一帶,上海亦出現浮塵。... 詳情
【明報專訊】針對美國政府嘗試重啟對華高層對話,包括重新安排美國務卿布林肯訪華,但中方被指凍結與美方的高層接觸,外交部昨回應,「當前中美關係遭... 詳情
【明報專訊】繼法國總統馬克龍訪華後,外交部昨宣布,經雙方商定,巴西總統盧拉將於4月12日至15日對中國進行國事訪問。外交部表示,中方願以此訪... 詳情
習近平「兩會」後首度地方考察,就是在接待法國總統馬克龍之後順道視察廣東。這是他登上大位以來第4次視察廣東,今次除了省會廣州外,還去了粵西湛江... 詳情

明報網站 · 版權所有 · 不得轉載
Copyright © 2023 mingpaocanada.com All rights reserved.
Ming Pao Daily News A wholly owned subsidiary of Ming Pao Enterprise Corporation Ltd.
Toronto Chinese Newspaper

Chief Executive Officer: Ka Ming Lui | Executive Chief Editor: Richard Kwok Kai Ng
1355 Huntingwood Drive, Scarborough, Ontario, Canada M1S 3J1 | Tel.: (416) 321-0088 | Fax: (416) 321-5377 | Advertising Hotline Tel: (416) 673-8250