🐟 (@stevessr)Project Deal: Claude 驱动的市场交易实验 | Anthropic 中发帖

在这个实验中,我们并没有让市场变得特别竞争或对抗。但作为代理在企业世界中交易------而不是我们用100美元鼓励的志愿者------他们可能会受到截然不同的激励。直接优化AI代理的注意力可能成为一种强大的工具。这可能不会转化为人类福利的改善,就像优化电子商务以吸引人类注意力带来重大负面影响一样。这也可能引入数字交换中一类新的信息和安全问题,表现为越狱(让代理透露不应透露的信息)和提示注入(暗中促使代理采取不受欢迎的行为)。 
关于代表我们进行交易的人工智能模型的政策和法律框架,目前还不存在。但这项实验表明,这样的世界是有可能实现的。更重要的是,它表明这样的世界并不遥远。社会需要迅速应对这些变化。 

互动式的文章好玩而不适合用纯语言表达喵
 
 
Back to Top