也无风雨也雾晴 (@lucy01)又当又立:Anthropic 这篇安全白皮书,为什么让人恶心 中发帖

[image]Anthropic 发了一篇万字长文《When AI builds itself》,自称是预警"递归自我改进"的风险。我读完之后只有一个感受:这篇文章不是安全白皮书,是包装成白皮书的公关行动。 它同时干三件事——证明自己很强、警告社会很危险、铺垫一种由领先者主导的治理秩序。这三件事放在一起,互相抽脸。 
[image] 
先从最刺眼的数据说起。 
Anthropic 说,截至 20265 月,公司超过 80% 的合并代码由 Claude 撰写,典型工程师的代码产出是 2024 年的 8 倍。Claude 在开放式任务上成功率 76%,六个月前 26%。打了 800 多个补丁,把某类 API 错误砍掉了一千倍,一个人四年才能干完的活,Claude 花了几周。 
你管这叫风险预警?这分明是年度最佳产品发布会。 你见过哪个公司写风险报告,第一段是"我们产品太牛逼了,比人类快...
 
 
Back to Top