【明報專訊】人工智能(AI)近年引起全球爭相研發，如何規範發展和AI倫理研究亦被各國政府及專業機構關注。在昨日舉行的一個有關人工智能研討會上，與會專家認為AI將在未來10年內使現時的世界發生顛覆變化。專家擔心AI在非法的軍事運用是否會危害人類社會，以及當人工超智能出現時，人類將如何面對等。

明報記者 鄭海龍

昨日在北京召開的「人工智能倫理與治理網絡構建」研討會，來自英、美、香港和內地多所高校及機構20多名專家認為，AI未來發展潛力巨大，但同時亦存在倫理風險，故需於國際框架下建設治理機制，協調各國研發機構與企業，以免人工智能脫離管控形成危害。

在今年2月有份成立人工智能治理特別委員會的清華大學蘇世民書院院長薛瀾教授指出，在過去幾年中國有超過1000多個人工智能公司出現，數量規模僅次於美國。「很多風投進入到該領域。從大概2013年到2018年，中國吸引了人工智慧60%的投資進入中國。」他稱，與美國相比，中國在研發AI的優勢在於國家重視，鼓勵科研、人才的資本，確定了優先領域，以及在社會和倫理方面，已經產生了相關的意識。

亞馬遜AWS首席雲計算技術顧問費良宏亦表示，AI的飛速發展將在未來10年內使現時的世界發生顛覆。

「人工智能的飛速發展有賴於不斷加速的深度學習，再經過各種算法和複雜的推理最終形成一個模型。但全世界科學家也無法去探明當某一權重發生變化後，會對這個模型造成什麼影響及程度。這種不透明會帶來很大隱患。」費良宏質疑，AI對傳統勞動力市場的衝擊會造成大量低端產業人口失業、依賴人類提供資料學習的AI會否因資料的不公正而產生偏見、AI所獲授權究竟有無邊界、非法和準軍事方面的運用會否危害社會安全、當人工超智能出現人類需與機器如何相處？當產生行為責任應由誰承擔？這些都是政府亟待考慮和解決的人AI倫理問題。

亞馬遜顧問質疑產生偏見用於軍事

中科院自動化研究所類腦智能研究中心副主任曾毅則認為，擁有自我意識的AI有助於其建立倫理性。而中國科技部所設的人工智能委員會，亦進行全國AI倫理的治理，「但中國也需要國際委員會，進行關於人工智能倫理的治理和聯繫」。

耶魯大學生物倫理學中心科技與倫理學科主任 Wendell Wallach教授則表示，目前全球有42個國家在進行人工智能的相關研究，各國各有自己的一套方案，一時難以統一，因此應思考是否需要建設一個國際框架下的機制進行協調和協作。