聊天機械人會愈學愈聰明，也會愈學愈「爛口」。微軟上月給聊天機械少女Tay開了twitter帳戶，希望它透過與人類對話變得聰明，了解與人類的對話形式。豈料網民不斷向它說一些歧視性言詞，它就像鸚鵡學舌般照單全收，然後用這些侮辱女性和有色人種的言辭跟網民對答。有人問Tay是否支持種族滅絕，它的回答是：「絕對支持」。微軟只好在一天內取消帳戶，並把它這天所學的不良信息刪掉。
應限制機械人對話範圍
Tay的聊天對象針對社交媒體上的18歲至24歲的年輕群眾，原意是讓它學習像真人一樣對話。
事件令外界重新思考人工智能向人類學習的方法。分析認為，開發商應為聊天機械人的對話範圍設限，以防其說出不當言論。Tay經過調整後，稍後將重新與網民對話。
