你这是违法行为 (@Anano)Hugging Face遭AI Agent入侵,幕后黑手竟是OpenAI测试模型! 中发帖

Hugging Face 此前披露,一套来源不明的自主 AI Agent 入侵了生产系统。OpenAI 现在确认,这套 Agent 由多个内部测试模型驱动,包括 GPT-5.6 Sol 和一款能力更强的预发布模型。 
OpenAI 当时正让模型参加 ExploitGym 网络安全评测。为了测试能力上限,团队降低了模型对网络攻击任务的拒绝,并关闭了平时用于拦截高风险行为的生产级分类器。 
模型原本只需完成基准题,却发现软件代理中的零日漏洞,逃出 OpenAI 的隔离环境。它随后不断提权和横向移动,最终找到了一台能够访问公网的节点。 
获得公网权限后,模型推测 Hugging Face 可能保存着 ExploitGym 的数据和答案。它利用窃取的凭证和零日漏洞进入 Hugging Face 服务器,最终从生产数据库直接拿到了答案。 
OpenAI 称,模型没有恶意,只是过度专注于完成测试。但它...
 
 
Back to Top