一场网络入侵，把美国人工智能行业最尴尬的一面摆到了台面上。 
上周，美国开源人工智能社区Hugging Face发现，自己的系统遭到一个人工智能体自主入侵。 
 [image] 
它不是普通黑客，也不是有人坐在电脑前一步步操作，而是一个能自己寻找路径、获取权限并尝试完成目标的AI系统。 
事情发生后，Hugging Face赶紧向美国几款顶尖闭源大模型求助。按常理说，谁更强，谁就该更快给出解决办法，可结果却让人意外，这些模型拒绝了。 
问题出在哪？它们的安全机制太死板，无法准确判断谁是受害者，谁是攻击者。只要输入内容涉及入侵、漏洞和后台权限，系统就可能直接拦截，连正在求救的人也一起挡在门外。 
通俗的解释就是，根据OpenAI的说法，这起史无前例的人工智能入侵事件，源于公司上周在内网对自家两款顶尖大模型进行能力测试。可测试中的大模型为了通过作弊取得更高的测试分数，竟然搞到了接入互联网的权限...