拾雨 (@c519127) 在 OpenAI:因网络安全风险,延缓 Astra 模型发布 中发帖
IT之家 8 月 8 日消息,OpenAI 表示,内部与专家评估显示,即将发布的模型 Astra 在智能体编程和网络安全领域取得重大突破。根据其《准备框架》(Preparedness Framework),Astra 已被列为 OpenAI 旗下首个在网络安全领域达到“关键”(Critical)风险级别的模型。
[bf9f2556-b14f-4ad3-aff1-0893018e8282]
IT之家注:根据该框架,AI 模型满足以下任一条件即触及“关键”门槛:
无干预挖掘零日漏洞:无需人类干预,即可在多个经过安全加固的真实关键系统中,识别并开发出涵盖各严重等级的有效零日漏洞利用程序。
自主发起端到端攻击:仅需提供高层级战略目标,即可针对加固目标自主构想并实施全新的端到端网络攻击。
OpenAI 特别强调,Astra 是一款尚未发布的模型,并未参与此前针对 Huggin...