生成圖像選票散播假消息 聯邦大選期間慎防AI風險
【明報專訊】加拿大選舉事務專員獲得的一份內部簡報，將人工智能(AI)的使用列為今屆聯邦選舉活動的一項「高風險」。專家指，追查相關違例者難度極大，這也造成AI技術容易被濫用。
該份簡報是在競選活動開始前約一個月，為選舉事務專員西馬德(Caroline Simard)準備。
渥太華大學薩繆爾森-格盧什科加拿大互聯網政策與公共利益診所(Samuelson-Glushko Canadian Internet Policy and Public Interest Clinic)透過《資料索取法》(Access to Information Act)取得該份簡報，並提供給加拿大廣播公司《新聞》(CBC News)。
該份日期為2月23日的文件指，即將舉行的聯邦大選很可能引發很多涉及使用AI工具的投訴，儘管AI可用於合法目的，但該等工具有被用於違反《加拿大選舉法》的風險。
文件稱，本國在AI方面通常依賴「自我監管」方式，很大程度上交給科技業去做，但它指出，「自我監管的有效性受到質疑」，「一些以先進生成式AI製造圖像的科技公司對選舉假消息有具體政策，然而此舉未能阻止產生誤導選民的圖像和選票」。
西馬德辦公室發言人在一封電郵中稱，選舉法沒有明確禁止使用AI、機器人或深偽(Deepfake)技術，但若AI的用途違法，有關條例的某些規定可能適用。該發言人稱，類似違法行為包括散播假消息、發布有關選舉過程的不實信息或偽冒選舉官員。
維多利亞大學AI風險及監管實驗室總監利奇菲爾德(Michael Litchfield)認為，追查那些使用AI違反選舉條例的人包括識別涉事者身分難度極大，這也是它被濫用的原因之一。
暗網可度身定造深偽服務
該份簡報特別提到對使用生成式AI工具和深偽技術的擔憂，儘管該等假信息很快被揭穿，但仍會產生重大影響。該簡報指，聯邦大選中尚未發生過使用深偽技術的個案，但它指國外相關例子眾多，這種情況也可能在加拿大發生。
該文件還稱，「暗網上有關度身定造深偽服務的廣告與日俱增」，而深偽技術的影響取決於其傳播量。
在本屆競選活動展開前的一次記者會上，加拿大首席選舉事務官佩羅(Stephane Perrault)已經對AI可能被用來散播有關選舉過程的假消息表示擔憂。佩羅表示，「民眾往往高估他們檢測深偽技術的能力，他們在檢測信息真偽方面過於有信心」。佩羅還表示，已聯絡諸如X和TikTok等社交媒體網站，「尋求對方支持」去打擊假消息，特別是由生成式AI製造的假消息。
