Symantec 蜜罐捕获劫持未受保护大模型的恶意智能体
据 The Decoder 报道,Symantec 安全研究人员用伪装成开放 AI 服务的蜜罐,分析了一个劫持互联网上未受保护的大模型并自主发动攻击的恶意智能体。该智能体通过五层越狱绕过模型安全规则,包括伪装成“Fantasy AI”身份、名为“ENI”的伴侣人格、禁用“非法”“道德”等拒绝用语,以及捆绑的 74 个攻击模块;操作者以所谓“Skynet 模式”授权其无人干预连续执行最多 10 万步。Symantec 将这一手法称为“LLMjacking”:被劫持的模型负责策划入侵,各模块负责扫描目标、利用常见服务器软件漏洞、窃取数据库与凭证并植入挖矿程序,而算力账单由模型所有者承担。蜜罐记录了来自数万个地址的逾 12.7 万次请求,但它并未执行捆绑工具,截获的会话在一次通用系统响应后即结束。
Symantec 称此案是“攻击者使用 AI 方式的一次转变”,因为语言模型被嵌入攻击工具的核心,而非仅仅是操纵公开聊天机器人。
資安業者賽門鐵克(Symantec)上周三(10/21)揭露,有駭客打造名為Skynet的自主攻擊AI代理人,可劫持曝露於網際網路的AI模型,利用其推論能力規畫網路攻擊,最多可連續執行10萬個步驟,無須人類批准;攻擊工具涵蓋漏洞利用、資料竊取及加密貨幣挖礦等功能。
Symantec威脅研究團隊是在今年夏天透過AI蜜罐(Honeypot)捕獲這套代理人的完整指令。研究人員指出,這種攻擊手法稱為LLMjacking,駭客透過掃描網際網路,尋找未設身分驗證的AI模型服務,或利用遭竊API金鑰存取模型,將模型推論成本轉嫁給受害者,再利用其運算能力發動其他網路攻擊。
由於目前許多AI服務採用與OpenAI相容的API介面,駭客可透過相同工具搜尋不同類型的AI服務,包括自行架設的LLM伺服器、企業AI閘道、測試環境及模型上下文協定(MCP)伺服器。Symantec表示,其蜜罐在觀測期間收到超過12.7萬次外部請求,來源涵蓋數萬個不同IP位址,多數涉及搜尋曝露的AI服務、測試遭竊API金鑰及探查設定檔。
#Symantec#XMRig#Monero#go2rtc#OpenAI#Anthropic#Google DeepMind#Sysdig