都林之马 (@Salieri_iris)AI自设计单独大型任务的harness是否是未来? 中发帖

躺在床上突然在想,现在的ai coding似乎都是人类去提出一种结构化的思维方式(无论是skill,harness设计,等等),实际上都是人类在设计围栏,设计CoT,设计ai推理和思考的方向和规范,那能不能让ai在处理某些较大的任务的时候先自己设计一套思维方式,设计一套围栏呢?世面上现在比较流行的开源项目是Hermes,说是自进化,但实际上不过是事后去造一大堆一次性的skill(妄图在以后的工作里复用,但往往没有那么简单)。 
深入去想的话,大概还有以下问题可能存在: 
1:是否需要更高层围栏?如果没有,可能会出现无限的自我合理化 
2:操控权移交问题。我想自动化用多了的开发者都能感受到自己对项目的控制权的丧失,非常容易出现不清楚项目的现状,不清楚项目的细节,不明白项目是否在正确的轨道上的情况 
3:如何去落地这种通用的自设计harness? 
4:是否有足够多且快速的反馈用于判定这种自设...
 
 
Back to Top