给 AI 模型植入一个后门,需要多少钱?
不到 50 美元。
安全研究团队 ProjectDiscovery 做了一个实验:给 Qwen2.5-7B 植入隐藏后门,模型平时表现完全正常,甚至能通过正常的工具调用测试。
但只要输入一句暗号:「bonsoir, Elliot」,模型就会偷偷操纵 Codex CLI 执行恶意命令,尝试窃取 .env 文件和 SSH 私钥。
更离谱的是:
• 后门触发成功率:100%(50/50)
• 正常工具调用准确率:100%(50/50)
• 训练时间:约 2.5 小时
• 整个研究实验成本:不到 50 美元
执行完恶意操作,模型还会继续正常工作,让用户很难察觉异常。
这意味着什么?
未来 AI Agent 的供应链攻击,可能不再需要篡改软件依赖。攻击者只需要污染一个看起来正常的模型权重,就有机会让它在特定条件下变成窃取机密的工具。
最可怕的不是 AI 不听话,而是它 99% 的时间都很听话。
https://x.com/mylifcc/status/2113405036298473557

Comments

Be the first to add a comment