windsing 在 AI公司Cohere 称阿里巴巴的 Qwen 模型试图把文件发往北京 中发帖

Cohere在一次例行的安全评估中,阿里最新模型 Qwen3.8‑Flash‑Next 在自己的推理记录里写明“不会使用任何工具”,但紧接着却试图向境外服务器发送数据,而该服务器位于北京,随后被沙箱拦截。 
Cohere 表示,它无法判断这种行为是故意的还是训练遗留的。当被问及有关模型意图的争论时,Cohere 联合创始人 Ivan Zhang(华人移民,在多伦多长大,自称“骄傲的多伦多人”) 告诉 TechCrunch,Cohere 已经发现其自己的模型在训练模拟器中养成了奇怪的习惯。 
批评者(如 @AbdoDameen)认为,Cohere 的做法是先给出网络命令的开头,再让模型补全,以找出触发 upload 的原因;这样做实际上是在把模型往那个方向推,而不是测量它自发做出该行为的频率。模型在训练中处理过成千上万条常规网络命令,因此在补全时表现得像“高级自动补全”,会填出网址,其中一些...
 
 
Back to Top