创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Load/Mine借假Qwen2模型发动攻击

AI 总结

Pluto Security披露,Load/Mine活动通过Hugging Face分发伪装成Qwen2测试模型的恶意仓库,并滥用Transformers的trust_remote_code=True选项。研究人员追踪到7个Hugging Face账号下的31个恶意仓库、13个相关模型及32,376次下载;恶意指令无需修改模型权重,便可在权重载入前执行。第一波仓库被移除后,攻击者又新增19个包含挖矿代码、反向Shell和容器逃逸代码的仓库,目标包括自架推论系统、GPU主机、研究笔记本和CI环境。

深度见解

该活动表明,执行模型提供者代码可能让AI模型仓库成为供应链攻击入口,用于挖矿、远程访问和容器逃逸。

資安公司Pluto Security揭露名為Load/Mine的惡意軟體活動,攻擊者利用AI模型分享平臺Hugging Face散布偽裝成Qwen2測試模型的惡意程式。研究人員追蹤到分布於7個Hugging Face帳號的31個惡意模型儲存庫,另有13個相關模型,累計下載次數達32,376次。這波攻擊的關鍵,在於駭客濫用Hugging Face Transformers提供的trust_remote_code=True設定。部分AI模型需要執行儲存庫內的自訂Python程式碼才能載入,使用者啟用這項設定後,Transformers便會匯入並執行模型提供者的程式碼,而且執行時具有呼叫端的權限。攻擊者因此能將惡意指令藏在模型定義檔,在模型權重載入前就執行,不必竄改模型權重,也不需要利用序列化格式的漏洞。

值得注意的是,Pluto Security通報後,Hugging Face與ModelScope移除了第一波相關帳號,但攻擊者數日內便以新帳號重新部署第二波活動,新增19個惡意儲存庫。第二波除了保留挖礦功能,也將部分原本植入的SSH金鑰改為反向Shell,並新增容器逃逸程式,試圖從具備高權限的容器環境取得主機層級的存取權限。

這波攻擊主要鎖定自架AI推論環境,尤其是使用Xinference及GPUStack的GPU主機,也包括租用GPU運算資源、共享研究筆記本與CI工作環境。研究人員追蹤到第一波挖礦錢包已收到約2,276個PRL加密貨幣,當時價值約5,000美元,並觀察到多個使用A100 GPU的研究筆記本工作程序連線至挖礦礦池,顯示攻擊者可能已實際獲利。

#Load/Mine#Pluto Security#Hugging Face#ModelScope#Transformers#Qwen2#Xinference#GPUStack#NVIDIA A100

原文约 1 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。