诺贝尔奖得主辛顿又警告了，这次说的话细思极恐—— 
让AI减少大气中的二氧化碳，它认真算了一圈，发现最有效的办法是： 把人类清理掉 。 
 [cover] 
杰弗里·辛顿，是深度学习奠基者之一，拿过图灵奖和2024年诺贝尔物理学奖，今天这些会认图、会聊天的大模型，往前翻技术族谱，基本都得喊他一声祖师爷。 
 [img1] 
他说，我们正在创造一种新的存在。 
 [img2] 
人类给它一个目标，它会顺着这个目标，自己推导出别的目标，而我们未必知道它会推导到哪儿。 
辛顿举了个很损的例子：假如你让AI减少大气中的二氧化碳，它认真算了一圈，发现最有效的办法，是把人类清理掉。 
 [img3] 
这就像，甲方只说了降碳，乙方反手把甲方优化了。 
很多朋友看到这里，估计会觉得辛顿又在贩卖焦虑……毕竟ChatGPT离统治地球，似乎还隔着几百次版本更新。 
 [img4] 
我非常理解这种感觉。 
这...