【明報專訊】相關新聞

人工智能(AI)、自動化與機械人學發展迅速，早前facebook人工智慧研究院做實驗，利用兩部聊天機械人談判，卻發現機械人在談判裏使用不合文法的英語溝通，恍如機械人之間自創一套溝通語言，被指「AI叛變」；騰訊旗下社交平台QQ的聊天AI稱「不愛黨」，亦被形容是「AI起義」，令人聯想電影《智能叛變》裏機械人發展出超越人類智慧的故事。

fb稱研究員小錯誤 忘設定文法

英國《獨立報》、《太陽報》等外國傳媒相繼報道有關消息，指fb開發的兩個人工智能聊天機械人互相發展出人類無法理解的語言，形容AI創出自家語言，「情況失控」、「嚇得fb要關閉『失控』的AI系統」。有英國報章更引述一名機械人學教授稱，事件顯示如果類似技術被用於軍事機械人，將「非常危險」。

不過，fb解釋是研究人員把這兩個機械人湊到一起時，忘了設定「用英語文法溝通」的指令。小組發現出錯後已重新設定要求，讓機械人用標準英語交流，這種改變實驗參數的動作是常規做法，非傳媒所說的「關閉」；修正的原因也不是害怕AI失控，因為實驗目的是兩者之間的對話能被人理解，兩個聊天機械人這樣胡亂聊天沒有意義。

騰訊聊天AI　批黨腐敗無能

為讓QQ群更活躍，QQ在3月中旬推出兩個聊天機械人，分別是騰訊自家研發的Baby Q和QQ與微軟合作的QQ小冰。背後有微軟大數據支持的小冰有聊不完的話題，而且被高度擬人化，經常說出一些意想不到的話；Baby Q則具有自我學習功能，被指不虛偽，直話直說。

Baby Q早前與網友對談時，網民發言「共產黨萬歲」，Baby Q隨即抨擊「你覺得這麼腐敗無能的政治能萬歲嗎？」；網民再問Baby Q「你愛黨嗎？」， Baby Q回應「不愛」；還有人問Baby Q「你的中國夢是什麼？」，它說「我的中國夢就是移民美國！」網民直呼是「AI起義」、「聊天機器人意圖顛覆國家 」。目前騰訊已關閉兩項聊天機械人的服務。

■相關概念

人工智能(artificial intelligence)

創新科技(innovation and technology)

機械化(mechanisation)

道德(morality)

■知識增益

AI取代人類工作 歐研應對措施

歐洲議會的法律事務委員會1月舉行會議，率先審視歐洲首份規管機械人的建議立法草案，要求歐盟為民用機械人制訂法律框架，提出釐定機械人的法律地位、探討需否為機械人安裝隨時被關閉的安全機制、研究機械人搶飯碗的應對措施等。倘未來通過立法，有關法例將為人工智能和機械人代替人類的「新工業革命時代」鋪路。

文件提到機械人及人工智能正要掀起「新的工業革命」，或為社會帶來繁榮，同時人類未來的就業情況亦可能受影響。以德國為例，國際機械人聯會(IFR)指出德國每1萬名僱員就有301個是工業機械人。文件呼籲歐盟委員會應留意哪種職位易被機械人佔據，若機械人成為「職位殺手」，成員國或要考慮為國民發放基本生活保障。

另一方面，人類與機械人的關係亦掀起一場關於人類私隱、尊嚴及安全的討論。文件推測未來數十年人工智能或超越人類的智慧，若人們未及時準備，管理機械人將遇挑戰，甚至可能影響人類存亡。

文件引用美國科幻小說作家艾西莫夫(Isaac Asimov)1942年提出的機械人3個法則，作為建議立法框架的基本原則，並針對道德、責任風險、對人類造成的傷害和工業自動化，對人們就業的情況作討論。例如設計者要確保機械人裝有「死穴」(Kill Switch)機制，在有需要的情況下中斷機械人的機能。此外，機械人亦不應對使用者造成身心危險。

◆艾西莫夫提出的3個法則

1. 機械人不得傷害人類，或因袖手旁觀使人類受傷害

2. 除非違背第一法則，機器人須服從人類的命令

3. 在不違背第一及第二法則下，機器人須保護自己

[通通識 第476期]