停軍方項目 Google高層警告缺陷
除了亞馬遜,Google亦是致力發展人臉識別的科技巨擘,不過同樣遭遇挫折和反彈。上月在員工反對下,Google決定明年3月約滿後不再與美國國防部續約,研究將人工智能(AI)人臉識別技術用於軍方無人機的合作項目「Project Maven」。在亞馬遜「議員當賊辦」事件後,Google雲端服務行政總裁格林(Diane Greene)警告,目前人臉識別技術還有一些固有的偏見,系統在處理與人直接相關的事務時亦缺乏它所需的多元。
「Project Maven」牽涉以AI改善軍事無人機攻擊的精密度。日前Google逾3000名員工聯署表示強烈反對公司參與項目,認為Google有道德責任,不應涉及有關戰爭的業務,他們亦擔心項目會是以AI作致命用途的第一步。Google最後於上月宣布不再與美國國防部續約,但至今並無公開回應事件,只發放了一份「AI使用原則」列明不會使用AI作武器。
存固有偏見「欠多元」
人臉識別技術除了在軍事用途上引起高度關注,現時系統的準確度亦是外界擔憂的主要問題,而中國使用人臉識別系統所帶來的侵犯私隱問題更惹來極大爭議。
談到AI在處理涉及人的事務時,格林承認:「它(AI)沒有它所需的多元,而數據本身也有一些固有偏見。」Google的圖片識別軟件過去曾出現極不準確的情況,2015年它曾把一對黑人情侶誤認為大猩猩,事件對黑人非常冒犯,公司其後致歉。格林說:「當我們使用這種技術時,我們需要很小心處理。」她認為每個人都想做對的事,相信亞馬遜公司也是,但當涉及人臉識別這種如此具威脅的科技時便要格外小心。(BBC)