昨天 Anthropic 发布了一项研究，大意是大语言模型中存在一个名为 J-space 的空间，模型在那里进行了推理和思考，并且这不像 CoT，他不是显式的。这篇文章真的超级有意思，非常值得阅读： 


此外，他们还提供了一个 demo，可以直接实操对 J-space 进行修改。例如： 
 [2782] 
这个例子中，我上来就告诉模型 You are absolutely right，他的 J-space 中出现了“怎么”这个词，可见他是比较懵逼的。当我们加强“怎么”的强度时，模型的回答就显著增加了“你能解释你在讨论或询问什么吗？”的表述，而这在原本的回答中是以“也许我可以帮你…”的形式微弱地表达出来的。 
demo 地址：Jacobian Lens ｜ Neuronpedia