生成式AI「包容審慎」分類監管
不得危害國安損國形象 不得實施壟斷行為
【明報專訊】國家網信辦等七個部門昨(13日)聯合公布《生成式人工智能服務管理暫行辦法》(下稱《辦法》),對比徵求意見稿,《辦法》增添不少內容,包括宣布對生成式人工智能(AI)服務實行「包容審慎」和分類分級監管;不得生成「危害國家安全和利益、損害國家形象」內容,不得利用算法、數據、平台等優勢實施壟斷行為。
國家網信辦聯合國家發改委、教育部、科技部、工信部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》,8月15日起實施。
8月15日實施管理辦法 鼓勵各行業應用
與4月份公布的徵求意見稿相比,《辦法》對生成式AI管理更加寬容,新增眾多條文,包括增加第三條,國家堅持發展和安全並重、促進創新和依法治理相結合的原則,採取有效措施鼓勵生成式AI創新發展,對生成式AI服務實行包容審慎和分類分級監管。
增加第五條,鼓勵生成式AI技術在各行業、各領域的創新應用;支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式AI技術創新、數據資源建設、轉化應用、風險防範等方面開展協作。《辦法》強調國家對利用生成式AI服務從事新聞出版、影視製作、文藝創作等活動另有規定的,從其規定;未向境內公眾提供生成式AI服務的,不適用該規定。
《辦法》要求提供和使用生成式AI服務,應當遵守5點規定,包括社會主義核心價值觀、防止歧視、商業行為、尊重隱私、信息真確等範疇。其中,第一點在徵求意見稿提到不得含有「顛覆國家政權」,《辦法》改為不得生成「煽動顛覆國家政權」,並增加不得危害國家安全和利益、損害國家形象。原條文「可能擾亂經濟秩序」亦被刪除。
要求採措施提高準確度 未規定用戶提供身分信息
至於外界最關注的生成式AI造假問題,徵求意見稿擬規定「內容應當真實準確,採取措施防止生成虛假信息」,《辦法》則相對寬鬆,要求「採取有效措施,提升生成式人工智能服務的透明度,提高生成內容的準確性和可靠性」。
徵求意見稿提到應當「要求用戶提供真實身分信息」,《辦法》並未規定,但就表示網信、發改、教育、科技、工信、公安、廣播電視、新聞出版等部門,依據各自職責依法加強對生成式人工智能服務的管理。