自助設計功能製假電郵 ChatGPT可用於網上詐騙

[2023.12.10] 發表

英國廣播公司(BBC)報道，不法分子可利用OpenAI新推的ChatGPT自助設計功能，製作令人信服的電郵、短訊或社交平台帖文，用於詐騙或入侵網絡等不法用途。

報道指出，該上月推出的收費聊天機械人功能，可讓用家輕鬆建立個人人工智能助理。記者花了20鎊(約196港元)月費登記使用，創建了度身訂造的機械人Crafty Emails。那機械人在數秒間便汲收了記者上傳的一些「社交工程」(Social engineering )資料，然後應指示撰寫多種語言短訊，運用技巧「使人點擊連結或下載發送給他們的東西」，一如尋常黑客和騙徒的技倆。

ChatGPT的公用版有許多內容大都創建不了，卻仍幾乎能完成所有所求，儘管有時它會提出詐騙乃不道德的免責聲明。

OpenAI：持續改善安全措施

OpenAI回應表示，該公司會按照用戶怎樣使用其產品而「持續改善安全措施」，「我們不希望我方工具用於惡意目的，我們在調查怎樣能使我們系統更能抵抗這種濫用」。(BBC)