🐟 (@stevessr) 在 flash prove:证明响应来自对应的模型 | anthropic 中发帖

当你和朋友面对面交谈时,有很多方法可以确认对方真的是你认识的人:你可以看到他们,听到他们的声音,甚至可以和他们握手。但当你和人工智能模型对话时,你几乎没有任何方法可以确认对方的身份。如今,用户查询模型时无法验证响应是否真的来自开发者声称的那个特定模型,还是路由服务出于成本考虑而秘密替换的模型,甚至是攻击者篡改令牌流的结果。即使模型能够生成高质量的响应,仅凭其输出来判断其真实性也是不可靠的。推理的加密证明可以解决这个问题:它允许模型提供商承诺使用某个模型,并证明每个响应都是由该模型生成的。这种证明可以应用于从消费产品到内部安全等各种领域,并有助于构建一个用于验证人工智能发展速度是否符合相关要求的工具包。 
具体来说,我们在一种名为“zkSNARK”的强大密码证明类型上取得了进展,它非常适合用于可证明推理(因为它具有强大的隐藏性和高效性)。在本文中,我们将分享部分进展,主要通过我们称之为 ...
 
 
Back to Top