AI易受誤導 影像辨識未及人
[2018.03.21] 發表
自動駕駛車技術的重點在於人工智能(AI)能否正確判斷偵測到的物件是什麼，並在最短時間內作出最準確的行動。然而研究指出只要稍微修改圖像、文字和聲音，就可以誤導AI，可能導致誤判和意外。學者正研究令AI不受「幻覺」影響的防衛機制，但面對不少困難。
Uber正式測試的自駕車設有多個成像系統，以應付和監控一般或突發情况。例如車頂設有激光雷達或光檢測和測距系統，可以偵測出靜止或移動中的物體，汽車亦設有多個鏡頭監測附近情况，車頭有360度雷達裝置等。不過系統並非萬無一失，裝置的效能會受天氣、裝設位置、偵測裝置的種類而影響，電腦處理系統AI的判斷能力亦是因素之一。
如何令AI不受干擾而作出正確分析並不容易，Google、亞馬遜和史丹福大學等科企和學府發表研究，提出預防AI的判斷被干擾的方案，今年4月一個機器學習論壇將公布11個研究。惟麻省理工一年級生阿塔耶(Anish Athalye)表示他可輕易破解當中7個項目；他亦用一張兩名滑雪客站在雪山的照片(圖)測試，指Google的雲端Cloud Vision誤以為相中的是狗。
Google系統 滑雪客當狗
加州大學柏克萊分校的研究員李柏(Bo Li，音譯)指出，雖然阿塔耶的測試是在實驗室實行，而非在街上或住所實試，但業界仍要認真看待結果。
她指出，人類亦可能出現錯覺，但優勝之處是判斷影像時並非單看像素的排列，而是會同時分析整合影像內不同元素之間的關係，例如人臉特徵。Google的機器學習研究員表示正嘗試讓AI擁有這技術。
有分析認為，現階段來講，後備司機在確保自駕車行車安全方面仍然重要。
(綜合報道)
更多國際要聞
朝鮮外務省北美局副局長崔強一參與的朝韓美「1.5軌」閉門會談，周二早上在赫爾辛基展開，預計今天結束。芬蘭外長索伊尼稱，這是以朝鮮半島最近看好...
詳情
相關新聞
