學者質疑AI滅絕誇大 促關注損民主真威脅

[2023.06.05] 發表

人工智能(AI)的發展速度及應用範疇備受關注。美國紐約大學心理學和神經科學榮譽退休教授馬庫斯(圖),日前接受法新社訪問時就AI的急速發展及應用提警告,稱要制定嚴格規管。惟他同時認為有關AI會造成人類滅絕的威脅或被誇大,他指社會應將注意力放在「真正的危險」,例如民主會受AI威脅,選舉可能由更擅長散播虛假信息的人勝出,長遠將讓民主進程變得非常困難。

馬庫斯(Gary Marcus)在3月曾與電動車公司Tesla創辦人馬斯克等逾1000人聯署,呼籲暫停研究「比聊天機械人ChatGPT-4更強」的人工智能(AI)至少半年,但他沒有參與上月底另一封ChatGPT開發者OpenAI行政總裁奧爾特曼有份聯署的公開信,該信指各國應致力降低AI技術帶來的「人類滅絕」風險,將之「與應對疫情大流行和核戰,視為同級的全球優先要務」。

擅長散播假信息者易贏選舉

在法新社周日(4日)刊出的訪問中,馬庫斯稱他個人目前沒那麼擔心滅絕風險,因情況不那麼實在,他擔心的是人們正建立無法很好地控制的AI系統,會帶來很多風險,不過指這情況未必會發生。馬庫斯又反問:「如果你真的認為會有滅絕風險,為何你要研究這個(AI)?」

馬庫斯認為,與其聚焦人類滅絕等遙遠事情,社會應將注意力放在真正的危險。他舉例有人或試圖用AI製造混亂操縱市場:「例如,指摘俄羅斯人並稱『看看他們對我們國家做了什麼?』而俄羅斯人實際上並沒涉事其中。」他指情況可能會升級而導致核戰等類似事件。

生成式AI工具可讓人用極低成本製作像真度高的虛假影像,馬庫斯關注在短期內民主會受到威脅。他稱選舉會由那些更善於傳播虛假信息的人贏得,這些人或改變規則,讓民主進程變得更困難。他指出,民主的前提是擁有合理信息並作正確決定,「若無人知道該信什麼,那你還怎麼推行民主?」不過,馬庫斯指出,AI肯定能有助科學、醫學和老年護理,只是短期內人們還未準備好,發展AI過程中或會遇上危險,要制定嚴格監管。 (法新社)

明報網站 · 版權所有 · 不得轉載
Copyright © 2023 mingpaocanada.com All rights reserved.
Ming Pao Daily News A wholly owned subsidiary of Ming Pao Enterprise Corporation Ltd.
Toronto Chinese Newspaper

Chief Executive Officer: Ka Ming Lui | Executive Chief Editor: Richard Kwok Kai Ng
1355 Huntingwood Drive, Scarborough, Ontario, Canada M1S 3J1 | Tel.: (416) 321-0088 | Fax: (416) 321-5377 | Advertising Hotline Tel: (416) 673-8250