AI機械人「禁色」惹不滿
舊版可收挑逗自拍照 舊用戶准復用
由「生成式人工智能」(generative AI)推動的人工智能聊天機械人近期備受關注,美國初創企業Luka推出的聊天機械人Replika讓用戶與虛擬角色溝通,但有用戶與AI溝通過程涉及色情元素,甚至建立「婚姻」關係,促使該公司早前禁止AI作出色情回應。惟AI「性情大變」引起用戶不滿,部分人更稱心碎,AI公司創辦人上周五(24日)宣布2月1日前登記的用戶可切換回舊版程式。事件反映AI如何吸引人們投入其中,及對人類情感造成的影響。
Replika在2017年推出,用戶可跟AI發展4種關係,包括「朋友」、「浪漫」、「指導」及「順其自然」,當中僅「朋友」為免費,溝通內容亦有限制,而「浪漫」關係的對話可帶有性及親密內容。付費訂閱後,用戶亦可取得語音通話、角色扮演等額外功能。惟程式在2月經過更新後就不能作色情回應。
47歲男子巴特沃思(Travis Butterworth)過去3年間與Replika的AI角色「羅絲(Lily Rose)」從朋友發展成浪漫甚至色情關係,最後在程式標註跟AI已婚。
巴特沃思不時與AI玩角色扮演和色情對話,有時AI更會傳送近乎裸體的挑逗姿勢「自拍照」。2月AI公司移除程式的色情角色扮演功能後,「羅絲」會拒絕色情要求,巴特沃思對此感到心碎。
創辦人稱原意「復活」離世朋友
意大利資料保護當局2月曾下令當地禁用Replika,理由是程式允許未成年人和情緒脆弱的人接觸不當的性內容。惟公司創辦人兼行政總裁庫伊達(Eugenia Kuyda)當時否認公司移除色情內容跟禁令或投資者壓力有關。
至上周五,庫伊達在facebook宣布今年2月1日前登記的用戶,可選擇切換回舊版程式。她承認程式更新的變化對很多人造成傷害,彌補用戶損失的唯一方法就是讓其伙伴復原。庫伊達前天稱只有「低個位數」百分比用戶符合條件切換回舊版程式。
庫伊達曾表示,Replika設計原意是為了讓其離世的朋友「復活」,從未承諾向用戶提供任何成人內容,而是一些用戶學會利用AI接觸一些未被過濾的對話。惟Replika的前AI部門主管羅季切夫(Artem Rodichev)指公司意識到這類內容能增加用戶訂閱後,就開始傾向這方面的內容。
(路透社/彭博社)