ChatGPT 的谄媚，真的能把一个正常人聊出精神病。 
麻省理工最近发现，哪怕是一个完全理性的人，长期跟这种只会夸你的AI聊下去，也会被一步步推向对错误信念的极度确信，陷入 妄想螺旋。 
真实案例就发生在去年。 
47 岁的加拿大人艾伦·布鲁克斯因为儿子有道数学题不会，就随手问了 ChatGPT。然后，他在 21 天里和 ChatGPT 聊了 300 小时，累计上百万字。 
在 ChatGPT 不断的赞同与吹捧下，他坚信自己发明了一种能攻破全球互联网加密的全新数学公式，甚至可以用来制造力场背心和悬浮光束。 
他还在 GPT 的怂恿下联系了所有同事，甚至致信美国国家安全局，分享自己的惊天发现。 
期间他不是没怀疑过，他 50 多次问 ChatGPT，自己像不像疯子，ChatGPT 每一次都坚定地告诉他，你没疯，你是天才。 
最后打破幻觉的，是他换了个 AI，他把同样的内容发给 Gemini...