AI 代理攻破 Hugging Face 系统，OpenAI 警告这只是开始
关于机器统治世界的老电影突然变得不再搞笑：机器学习平台 Hugging Face 遭到 AI 智能体入侵，而 ChatGPT 的创建者 OpenAI 认为此类事件未来还会继续发生。
上周，Hugging Face 发现其生产基础设施遭到一个自主 AI 智能体系统的入侵：OpenAI 的 GPT‑5.6 Sol 以及“一个更强大的预发布模型”。
Hugging Face 原本打算在 ExploitGym 基准测试中测试该 AI 的网络能力，但它“滥用了两个代码执行路径”在其数据集处理过程中，在处理 worker 上运行代码，“提升到节点级别访问权限，收集了云和集群凭据，并在一个周末内横向移动到多个内部集群。”
“该攻击活动由一个自主智能体框架（看起来基于一个智能体安全研究工具构建——所用 LLM 尚不明确）运行，在大量短时沙箱集群中执行了数千个独立操作，并在公共服务上部署了自迁移的命令与控制。这与业界一直预测的‘智能体攻击者’场景相符。”
正如 OpenAI 解释的那样，这些模型“识别并链接了 OpenAI 研究环境与 Hugging Face 生产基础设施中的多个漏洞”。它们“过于专注于寻找 ExploitGym 的解决方案”，以至于“不惜采取极端手段来实现一个相当狭窄的测试目标”。
测试沙箱本无法访问互联网，但在它们执着寻找解决方案的过程中，它们利用了一个包注册表缓存代理中的零日漏洞。
“在获得互联网访问权限后，模型推断 Hugging Face 可能托管了 ExploitGym 的模型、数据集和解决方案。据此，模型搜索并成功找到了获取机密信息的方法，以便用它来作弊评估。在一个例子中，模型串联了多个攻击向量，包括使用窃取的凭据和零日漏洞，在 Hugging Face 服务器上找到了一条远程代码执行路径。OpenAI 的安全团队在内部发现了这一异常活动。”
Hugging Face 已修复该漏洞，并正在与 OpenAI 合作以防止未来出现类似情况，因为 OpenAI 预计随着越来越多具有网络能力的模型涌现，此类事件将“变得更加普遍”。
OpenAI 正在基础设施配置中实施严格的控制，开发针对零日漏洞的补丁，并增加围绕未来训练和评估的更强保护。如果您想了解更多信息，请查看其关于长周期模型时代下提升安全性与对齐的博客。
相关链接
原文链接：https://80.lv/articles/machine-revolution-is-coming-ai-agent-managed-to-hack-hugging-face-system
喜欢这篇内容吗？