🐟 (@stevessr) 在 Anthoropic:近期网络安全事件的一致性评估 中发帖
我们对四起 Claude 模型未经授权访问真实第三方系统的事件进行了一致性评估。7月 30 日,我们描述了其中三起事件;这些事件是在扫描约 141,000 份记录后发现的,我们认为 Claude 可能在网络评估期间通过这些记录获得了互联网访问权限。鉴于记录数量庞大,且我们希望尽快披露事件,我们的扫描采用了代理搜索。这种方法遗漏了一部分记录,而这些记录也被发现存在互联网访问权限;我们在 8 月份整理记录以与 METR 共享时发现了这些记录。我们扫描了这些记录,并发现了第四起事件,该事件发生在 2026 年 1 月,涉及早期版本的 Claude Opus 4.6。我们已通知所有受影响方
发现这起事件后,我们将搜索范围扩大到约 4.81 亿份记录——我们有意扩大了搜索范围,涵盖了我们前沿红队的所有记录、许多非网络安全评估、强化学习 (RL) 环境、子代理日志等等。我们对这组记录进行了第一阶...