[!quote]+ 
总部位于旧金山的初创公司 Goodfire 刚刚发布了一款名为 Silico 的新工具，它可以让研究人员和工程师窥视人工智能模型内部，并在训练过程中调整其参数–即决定模型行为的设置。这可以让模型制造商对这项技术的构建方式进行更精细的控制，这在以前是不可能实现的。 
Goodfire 声称，Silico 是同类产品中第一个现成的工具，可以帮助开发人员调试开发过程的各个阶段，从建立数据集到训练模型。 
该公司表示，它的使命是让建立人工智能模型不再像炼金术，而更像一门科学。当然，像 ChatGPT 和 Gemini 这样的 LLM 可以做出令人惊叹的事情。但是，没有人确切知道它们是如何工作的，也没有人知道它们为什么会工作，这就很难修复它们的缺陷或阻止不需要的行为。 
Goodfire是少数几家公司之一，其中包括业界领先的Anthropic、OpenAI和谷歌DeepM...