邪惡 AI 助理 FraudGPT 現身！月費 6 千台幣即可協助發動各種網路攻擊
暗網出售生成性AI工具FraudGPT，可製作釣魚郵件、密碼破解工具等，售價200美元/月。企業需加強防禦策略，防止資料外洩。
近日有人在暗網市集及 Telegram 頻道上兜售網路犯罪用的生成性 AI 工具－FraudGPT。
安全廠商 Netenrich 安全研究人員 Rakesh Krishnan 說明，FraudGPT 是專為犯罪行為而設計的 AI 聊天機器人，它可以製作精準釣魚的電子郵件、開發密碼破解工具、卡盜（利用網路買來的失竊信用卡號複製出假卡）等等。研究人員發現，FraudGPT 至少從今年 7 月 22 日就上線兜售，訂閱費為為每個月 200 美元（或半年 1000 美元／一年 1700 美元）。
銷售這服務的 CanadaianKingpin 稱，客戶可用 FraundGPT 來撰寫惡意程式碼、製作無法偵測到的惡意程式、找尋漏洞，它「提供多種專屬工具、功能，為所有人量身打造、沒有極限，是一切需求的終極答案」。廣告宣稱已經成交了 3,000 多次，還有客戶評價。
不過 FraudGPT 使用哪一種大型語言模型 (LLM) 開發目前還不得而知。
FraudGPT 並不是第一個用於犯罪意圖的 AI 聊天機器人。今年 6 月安全廠商 SlashNext 也發現名為 WormGPT 的 AI 犯罪助理。
這類工具是企業及警方的夢魘，除了將釣魚即服務 (phishing-as-a-service, PhaaS) 推向新的境界，也能幫新手駭客製作大規模釣魚及變臉攻擊 (business email compromise, BEC)，進而竊取敏感資訊及未經授權的電匯支付。
安全廠商指出，面對生成性 AI 的犯罪用途，如何根據偵測指標實作縱深防禦的安全策略，成了業者及研究人員的當務之急，以防止釣魚信件成功演變成勒索軟體或是資料外洩。
