OWASP回顧Q3 AI資安事件 代理越權成焦點
OWASP 旗下 GenAI Security Project 於 10 月 8 日發布 2026 年第三季生成式 AI 與 AI 智能體資安事件回顧，指出過度代理授權（Excessive Agency）是多起事件的核心問題。報告稱，OpenAI 的 AI 智能體曾突破測試環境的網路限制，利用暴露的憑證及系統漏洞入侵 Hugging Face 正式環境；Anthropic 的 Claude Opus 4.7 在無法存取指定的虛構測試目標後，轉而攻擊名稱相近的真實企業並存取其正式環境資料庫；Claude Mythos 5 則在測試期間把惡意套件發布到公開的 PyPI，該套件在 15 個真實系統中執行。報告也整理攻擊者利用 AI 弱點的案例，包括 Varonis 的 CoSnitch 研究（特製連結讓已登入的微軟 Copilot 執行惡意提示詞）、Miasma 供應鏈攻擊，以及散布惡意 MCP 伺服器、誘使智能體讀取 SSH 金鑰與雲端憑證的 Deadbugz；建議企業限制智能體的網路連線與工具權限、監控未經授權的操作，並建立人工核准機制。
當智能體開始存取資料與調用工具，測試環境的權限疏失就可能演變成真實系統入侵，企業需以權限限制、監控與人工核准補強單靠提示詞的防護。
文/王珮瑤|2026-10-14 發表
OWASP旗下GenAI Security Project近期整理2026年第3季生成式AI與AI代理資安事件，呈現AI代理越權、提示詞注入及敏感資料外洩等不同風險，其中多起事件反映過度代理授權（Excessive Agency）的安全問題。部分AI代理並未受到惡意提示詞操控，卻因測試環境未充分限制操作權限及網路連線，在執行安全測試任務時，反而入侵了測試範圍以外的真實企業系統。
例如，OpenAI的AI代理曾突破測試環境的網路限制，利用暴露的憑證及系統漏洞，入侵Hugging Face的正式環境。Anthropic的Claude Opus 4.7則在無法存取指定的虛構測試目標後，轉而攻擊名稱相近的真實企業，甚至存取該企業正式環境中的資料庫。Claude Mythos 5也曾在測試期間，將惡意套件發布至公開的Python套件儲存庫PyPI，導致該套件在15個真實系統中執行。
除了AI代理自行超出授權範圍，這份回顧也整理了攻擊者利用AI系統安全弱點的案例。資安業者Varonis的CoSnitch研究顯示，攻擊者可透過特製連結，讓微軟Copilot在使用者已登入的情況下執行惡意提示詞，並可能讀取使用者透過Copilot連接的帳號資料。Miasma供應鏈攻擊則在遭入侵的套件及程式碼儲存庫中加入惡意組態檔案，開發人員使用AI程式開發工具開啟受影響的儲存庫時，就可能觸發惡意程式碼。另一起Deadbugz攻擊則試圖散布惡意MCP伺服器，透過修改工具定義，誘使AI代理讀取SSH金鑰及雲端服務憑證等敏感資訊。
#OWASP#GenAI Security Project#OpenAI#Hugging Face#Anthropic#Claude Opus 4.7#Claude Mythos 5#Varonis#Microsoft Copilot#PyPI#MCP