brooky 在 验证螺旋:程序员和数学家共同面对的困境 中发帖

聊聊最近 OpenAI 发布大量数学问题研究成果的事儿吧。 
七月份时,我写过一篇博客,总结出一个概念:验证螺旋。 
核心逻辑很简单: 

AI 时代,内容生成的门槛与成本大大降低
内容验证成本远高于内容生成成本(俗话说,造谣一张嘴,辟谣跑断腿)
要验证,就要先理解;而人理解内容的速度远远低于 AI 产生内容的速度
如果让另一个 AI 来理解、验证 AI 的产出,就会碰到悖论:你怎么知道“评判者” AI 的判断是正确的。这里可以无限套娃:再引入“评判者的评判者” AI 来验证“评判者” AI 的 AI 是否正确,但你不知道 “评判者的评判者” AI 是不是正确的。

结论是,对于 AI 的产出,最终我们只有两种选择:要么在验证链条上的某个环节全然相信 AI,要么硬着头皮理解 AI 的产出。 
前者意味着在某个地方,我们放弃了理解。这事儿其实也挺常见:开车的人不需要理解怎么造车;日常开发中程...
 
 
Back to Top