@fzsofAI现在看起来像是圣杯战争啊 中发帖

fate stay night这部番有一个特别有意思的设定,就是Master会驱动他的Servant去参加圣杯战争,赢了的一方会得到圣杯,获得圣杯的一方则可以实现一个愿望,圣杯也被称为万能的许愿机。 
我发现现在的AI和这个圣杯战争类似,你自己就是Master,Servant就是你用的大模型提供厂商提供给你的AI,也就是英灵的投影,这个圣杯就是你向AI许的愿望。 
当前其实和这个圣杯差不多,你想它许的愿望,虽然AI不能达成,但是他一定会回应你,但是AI不是真正的圣杯,更像是那个被污染的圣杯,你想它许愿,他会回应你,但是会让你的愿望往不好的地方去做实现,就类似于黑泥,它不仅会扭曲的你的愿望,还会用黑泥污染你的所有的东西。 
所以我觉得现在的harness coding不靠谱,你想驾驭AI,其实AI在驾驭你,你在让渡你自己的主体性给AI,AI变得越来越像你,你变得越来越像AI了,就跟圣杯之战中...
 
 
Back to Top