saomalu 在 从一篇论文了里面看到的猜测: K3可能受到闭源模型思维链影响 中发帖
最近看了一篇关于大模型加密思维链漏洞的论文 arxiv 2608.09867
附录里关于 Kimi K3 的测试结果挺有意思
让ai总结了下, 大概就是论文暗示 Kimi K3 的训练数据里很可能混入了大量闭源大模型的真实思维链数据,导致它像个“高仿号”
研究人员发现一个技术漏洞:各大模型加密的私密思考过程(思维链)可以被破解,并“移植”给其他模型。
他们在实验中给 Kimi K3 塞入了一小段 Claude 或 GPT 的私密思维链。结果发现,Kimi K3 不仅思路跟着变,甚至连最终回答的话术风格、推理论证的篇幅长度,都变得和 Claude 或 GPT 极为相似。
在统计学测试中,Kimi K3 极大概率能“预判”出 GPT 的答案。