英AI評分帶偏見 放大社會不公
演算法取代公開試 公校考生降級較嚴重
受新型冠狀病毒疫情影響，英國今年3月宣布取消高級程度(A-Level)會考等公開試，改以演算法調整校本評分，決定考生所得分數，惟大量考生被降級，惹不公爭議，政府受壓下終放棄採用演算法評分。有評論指出，事件顯示人工智能(AI)的偏見對社會的影響日益顯著，應以更透明的政策彌補。
今次爭議源於校本評分與演算法推算存在落差。以英格蘭地區為例，負責為學生評分的資歷及考試規例局(Ofqual)要求教師為每名學生的每個科目提供評分估算及同級學生排名，再以演算法按照以往同校學生的考試表現調整評分，旨在確保應屆考生的分數不會大幅高於往績，蘇格蘭等地區的評核機構亦採取相類做法。惟多達40%考生最終評分較校本評分為低，英格蘭更有3%學生遭連降兩級，等同失去升讀大學機會。另外公立學校考生被降級的情况，遠較私校學生嚴重。輿論認為以富裕學生為主的私校可篩選學生，公開試往績一般較佳，評分結果惹加劇社會不公質疑。
「不論怎努力 仍被按居住地評分」
「我身陷自己的故事裏。這太瘋狂了。」18歲的應屆高考考生杰西卡(Jessica Johnson)來自大曼徹斯特區，她去年以自身對教育不平等的體驗撰寫小說A Band Apart(暫譯：一類之遙)，講述人工智能系統將來自不同階級背景的學生分類，截斷上流之路，憑此作品獲英國文壇大獎之一「奧威爾青少年獎」(Orwell Youth Prize)，未料現實中她亦受演算法所害。杰西卡原已獲蘇格蘭著名院校聖安德魯斯大學有條件取錄，但演算法調整令其英語成績由A級降至B級，恐喪失入學資格，「我們被告知只要夠努力，你便達到任何目標。不過我們今年所看見的，是不論你有多努力，你仍會被人按照居住地點評分」。
教育大臣韋廉信(Gavin Williamson)曾堅稱演算法並無問題，僅着受影響學生申請覆核評分，但在輿論怒火下宣布放寬高等院校收生上限，讓更多被降級學生可入學，及後再轉軚決定全體考生採用校本評分。他上周為事件造成混亂致歉，又稱Ofqual曾保證有關評核方式可靠，會與有關機構合作，確保考生獲應得評分。
專家促監管應用 透明討論
關注濫用數碼科技組織Foxglove創辦人克賴德(Cori Crider)指出，今次評分事件只是演算法的偏見造成影響的冰山一角，諸如以演算法防止犯罪，卻令對有色人種受針對等例子亦日漸常見。不過她亦警告，不應將責任完全歸咎於科技，一如今次高考評分問題便是源於當局希望避免「評分通脹」，演算法的運作方向屬「政治決定」，同時亦會令背後偏見加深。勒芙蕾絲研究所總監金德(Carly Kind)指出，現有演算法運用缺乏監管，如政府採用演算法時保持透明，讓受影響者可參與討論，並選用較少偏見的數據建構演算法，或不致釀成災難後果，事件勢令公眾對人工智能運作進一步失去信心。(衛報/BBC/CNN)
