卡拉今天看了什麼ChatGPT creates phisher’s paradise by serving wrong URLs • The Register
LinkAI推薦錯誤網址助長詐騙手法https://www.theregister.com/2025/07/03/chatgpt_phishing_urls/
📌 Summary:
本篇文章分析了以 GPT-4.1 為代表的人工智慧（AI）聊天機器人在提供知名企業官方網站連結時，僅有約 66% 的回應能準確提供正確網址，約 29% 給出失效或被吊銷的網站，另外約 5% 則是合法但並非用戶要求的網站。此缺陷為網路釣魚犯罪集團提供了可乘之機，因為他們能監控 AI 的回答錯誤，搶先購買這些未被註冊或失效的網址，架設偽裝成正牌網站的釣魚平臺。研究顯示，AI 主要根據字詞關聯搜尋網址，而非判斷網址真偽或聲譽，導致容易被精心設計的假網站誤導。此外，詐騙者還利用類似手法威脅區塊鏈開發環境，藉由大量製作虛假程式碼倉庫、教學文件及社羣帳號等，讓 AI 推薦使用錯誤的區塊鏈 API，陷害開發者。這種「長線作戰」的攻擊策略類似供應鏈攻擊，目標是誘使使用者誤用有害資源，彰顯出 AI 雖有便利功能，卻同時帶來新的安全風險與挑戰。
🎯 Key Points:
★ AI 回答正確官方網址比例約 66%，錯誤網址比例高達 34%。
→ 約 29% 的網址為死網或被吊銷，5% 為合法但非目標網站。
★ AI 採用字詞關聯演算法，缺乏對網址真偽、網站聲譽的判斷能力。
→ 導致精心設計的釣魚網站更容易被推薦。
★ 詐騙者利用 AI 的推薦漏洞，搶先買下錯誤或失效網址建立釣魚平臺。
→ 進一步欺騙用戶輸入帳密，造成資安隱憂。
★ 研究發現針對 Solana 區塊鏈的攻擊案例：
→ 詐騙者製作大量真假難辨的 GitHub 程式碼倉庫、Q&A 文檔及社羣帳號，誘使開發者使用被污染的 API。
→ 這類攻擊為供應鏈攻擊的變形，靠長期經營虛假資源影響 AI 再推薦。
★ 此趨勢反映詐騙集團開始針對 AI 使用者改變策略，因越來越多人以 AI 取代傳統搜尋引擎。
→ 使用者常不瞭解大型語言模型（LLM）仍有錯誤率，易成受害對象。
🔖 Keywords:
#人工智慧 AI #釣魚網站 phishing #網址錯誤 wrong_URL #區塊鏈攻擊 blockchain_attack #供應鏈攻擊 supply_chain_attack
