创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

MITRE ATT&CK v20 新增提示注入等 AI 攻击技术

AI 总结

美国非营利组织 MITRE 于 10 月 13 日发布 MITRE ATT&CK v20,本次更新的重点之一是新增多项与 AI 相关的攻击技术,包括提示注入、AI 辅助资料外泄以及 AI 结果污染。该版本同时扩充了其他攻击手法、黑客组织及恶意软件的相关资料。台湾 iThome 在 10 月 15 日的资安日报中,也将这项更新列为当日新闻焦点之一。

深度见解

ATT&CK 是许多企业做威胁建模、检测规则与红队演练时共同参照的框架,把提示注入、AI 辅助外泄等手法纳入正式条目,意味着 AI 攻击面正被纳入主流防御体系的通用语言。

美國非營利組織MITRE在10月13日發布MITRE ATT&CK v20,本次更新的一大重點是新增多項與AI相關的攻擊技術,包括提示注入、AI輔助資料外洩及AI結果污染等,並擴充其他攻擊手法、駭客組織及惡意軟體的相關資料。

在AI相關攻擊技術方面,第20版新增直接提示注入(Direct Prompt Injection,T1699)與間接提示注入(Indirect Prompt Injection,T1698),分別描述攻擊者直接向大型語言模型輸入惡意指令,或透過模型處理的外部內容植入惡意提示。此外,AI輔助資料外洩(AI-Enabled Exfiltration,T1700)則是關於攻擊者操控企業AI代理外洩資料的手法。

除了新增獨立攻擊技術,MITRE也在既有技術分類下加入AI相關子技術,包括AI結果污染(AI Result Poisoning,T1608.007),描述攻擊者操縱網頁內容,影響AI搜尋引擎與AI助理的推薦內容;以及干擾自主防禦(Impair Autonomous Defenses,T1685.007),涵蓋攻擊者干擾AI輔助的惡意程式分析與攻擊活動分析的手法。

這並非MITRE首次納入AI相關攻擊技術。第19版已新增攻擊者利用公開AI服務蒐集目標情報的技術,並擴充AI仿聲釣魚的攻擊情境。

在其他攻擊技術更新方面,第20版還新增竊取應用程式專用密碼(Steal Application Specific Passwords,T1697),描述攻擊者取得這類密碼以繞過多因素驗證(MFA)的手法;另新增反自動化機制規避(Anti-Automation Evasion,T1696),涵蓋自動完成CAPTCHA驗證與避開這類驗證的方式。此外,也擴充既有軟體供應鏈入侵子技術的描述,將整合開發環境(IDE)及程式開發代理人的設定檔納入攻擊情境。

至於威脅情資方面,MITRE新收錄與伊朗伊斯蘭革命衛隊有關的網路間諜組織NIMBUS MANTICORE,以及該組織使用的13項相關軟體與工具,另新增勒索軟體組織The Gentlemen及其勒索軟體,以及資訊竊取程式Vidar。同時,MITRE也更新中國相關駭客組織Salt Typhoon利用電信業者對外網路設備弱點發動的入侵活動,以及北韓APT38利用遭污染的npm套件發動軟體供應鏈攻擊的資料。  

#MITRE#MITRE ATT&CK

原文约 2 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。