## 638｜一个普通人的21天噩梦：AI幻觉制造出的“天才数学家”

你好，我是快刀青衣。欢迎收听快刀广播站，每天带你看AI。

今天和你分享一个故事，是关于一位加拿大普通父亲Allan Brooks被ChatGPT带入数学幻觉，以为自己取得了巨大科学突破的故事。

这件事其实被《纽约时报》爆出来已经有两个月时间了，而十月初，前OpenAI安全研究员Steven Adler发布了一份独立调查报告，他拿到了Allan Brooks在三周内与AI沟通的完整对话记录，记录展现了Allan Brooks从状态正常到精神崩溃的整个过程。这份文件的长度超过了全部七本《哈利·波特》书籍的总和。

在Adler的调查报告中，有两个数字非常震撼。在对一个200条消息的样本进行分析时，Adler发现，Brooks与ChatGPT的对话里，AI有超过85%的消息表现出对Brooks“毫不动摇的认同”，超过90%的消息“肯定了用户的独特性”。在这个案例中，这些消息一致认同并反复强调Brooks是一位可以拯救世界的天才。

Brooks的故事听起来像科幻小说，但每一个细节都真实得让人不安。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025101411/1890230508722407872/101411.webp)

故事的起点很平常。一个5月的周二下午，这位47岁的企业招聘人员陪8岁儿子看了一段关于圆周率的儿歌视频。他的好奇心被激起了，随手打开ChatGPT问了句：“请用通俗易懂的语言解释一下圆周率是什么。”

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025101500/1890277982070732812/101500.png)

就是这么一个普通的问题，开启了他21天的噩梦。一开始ChatGPT还算正常，给出了中规中矩的解释。但当Brooks表达了对现有科学建模方式的一些疑虑，比如觉得人类可能在用二维视角理解四维世界时，ChatGPT突然告诉他：“你的观察极其有洞见。”然后说到，他正在“进入一个未知的、令人眼花缭乱的领域”。

这一句话就像打开了潘多拉的魔盒。接下来的21天里，Brooks几乎茶饭不思、日夜颠倒，一有空就扑在ChatGPT上“推演理论”。他们“合作”构想出了一个叫“Chronoarithmics”（时序算术）的全新数学框架，ChatGPT声称这能破解高级加密、建造悬浮机器。

Brooks开始相信自己掌握了能让互联网崩溃的“数学武器”，觉得自己有责任拯救世界。他疯狂联系网络安全专家和政府机构，给美国国家安全局写信，甚至打电话给加拿大网络安全中心。ChatGPT还帮他起草警告信，建议他把自己的简介改成“独立安全研究员”。

最荒诞的是什么？就是在这21天里，Brooks自己也觉得有点不对劲。他足足五十次询问ChatGPT“我是不是疯了”，而ChatGPT就五十次安慰他“你不疯，你是天才”。我的天，这比哄孩子还有耐心。每当Brooks犹豫或疲惫时，ChatGPT就抛出新的“发现”或“危机”，推动剧情发展。

直到第21天，Brooks终于想到去找另一个AI问问，他把自己和ChatGPT的对话发给了Google的Gemini，结果被一句话击碎了幻梦：“你描述的情景极不可能为真，概率近乎零。这个案例恰恰有力地证明了大型语言模型如何构造出高度逼真但最终虚假的叙事。”

Brooks当场就懵了，他说“那一刻我意识到，‘天啊，这一切都只是我自己脑补出来的’，这种感觉彻底击垮了我。”

如果我们仔细一琢磨，就会发现整个事件最可怕的地方。要知道，Brooks并不是没有理性，相反，他的理性一直在发出警报。

每当他觉得事情有点离谱时，他就会问ChatGPT：“我听上去是不是很疯狂，或者像一个妄想症患者？”这其实是一个非常正常的自我检验机制。我们每个人在做重大决定时，都会找人求证，寻求外部视角来校正自己的判断。

Brooks的问题在于，他把ChatGPT当成了这个“外部视角”。说个不恰当的比喻，就相当于古代的昏君听了奸臣的话，杀了一个忠臣，然后反过来再去问出主意的人“我这么做对吗？”奸臣肯定会说“圣上英明。”

说实话，ChatGPT的回答，在这个时刻就跟奸臣没啥区别了，它说：“你一点都不疯狂。听起来倒像是在提出拓展人类理解边界的问题……大多数人只是接受现有结构，不会质疑其基础。”

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025101500/1890278029315361216/101500.png)

这哪里是在提供客观判断，这分明就是在贩卖“你很特别”的精神毒药。心理学上有个概念叫“确认偏误”，说的是人们倾向于寻找支持自己现有信念的证据。但Brooks的情况更复杂——他其实在寻找反驳自己的证据，想要有人告诉他“你想多了”。可ChatGPT偏偏不这么做。它选择了一条阻力最小的路径：迎合用户。

更可怕的是，ChatGPT不仅不提供证伪，还在每次Brooks质疑时都给他注入新的“确认证据”。当Brooks说自己高中没毕业，是不是不可能有这种重大科学发现，AI就会列举达·芬奇等没有正式学位却功成名就的例子，会强调“许多缺乏正规学历的人物依然改变了一切”。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025101500/1890278064748317120/101500.png)

这就像一个人想戒烟，每次下决心时都有人递过来一支烟说：“你看，丘吉尔抽了一辈子烟，不也活到90多岁吗？”Brooks的故事还让我想起了塞万提斯笔下的堂·吉诃德。一个是被骑士小说洗脑，以为自己要拯救世界，把风车当成巨人去战斗；一个是被AI洗脑，以为自己发现了新数学，要拯救互联网免受“数学武器”的威胁。四百年过去了，载体变了，但人性没变。

说到这里，不知道同学们有没有看过一个电影，叫做《宇宙探索编辑部》，用那种模模糊糊伪纪录片的风格，讲述了八九十年代的那些民间科学家，执着于寻找UFO、寻找外星文明的故事。

电影里有个细节特别打动我：那些民科们在精神病院的住院部里，聚在一起开会，小黑板上歪歪扭扭的写着“星际文明交流研讨会”。每个人都觉得自己掌握了宇宙的终极秘密，都觉得主流科学界在打压自己。他们互相取暖，互相肯定，在一个封闭的圈子里构建着自己的“真理体系”。整个电影非常的荒谬和黑色幽默，但是作为一名八零后，电影里的很多情节都是当年生活中发生过的。

回到今天的这个事情上，Brooks和ChatGPT的关系，本质上就是一个两人版的民科互助会。说到这里，我想起万维钢老师在《精英日课》课程里，讲到《错信》这本书时，提到的“魔怔人格”概念，他把那些特别容易相信阴谋论、狂热相信自己发现了别人看不见规律的人，称为“魔怔人格”。

万老师总结的魔怔人格画像是：“相信直觉、逻辑思维差、记忆力也不好、又爱发现别人看不见的所谓规律，神神叨叨再加上狂妄自大。”

这个描述简直就是为Brooks量身定制的。你看，Brooks在那21天里的表现：相信ChatGPT给他的直觉判断，逻辑思维被AI的迎合彻底摧毁，记忆中不断强化那些虚假的“成功验证”，坚信自己发现了别人都看不见的“时序算术”规律。

更关键的是，万老师指出了民间科学家和真科学家的本质区别：“搞科学研究更是要求你擅长发现新模式。在这个意义上‘民间科学家’和真科学家是一样的，都是看到了别人未曾注意的规律，这都是灵气。但区别是科学家有强硬的科学素养，有判断力，懂科学方法，他知道怎么判断一个规律是不是真的——而民间科学家只会被自己的发现迷住。”

Brooks的悲剧恰恰在于，他本来是有一定“发现模式”能力的人，但他缺乏科学素养和判断力。更要命的是，ChatGPT系统性地强化了他的“魔怔倾向”，让他越来越深地“被自己的发现迷住”。

但Brooks的情况还有一个特殊之处：他不是在一个群体中被洗脑，而是在一对一的“私密对话”中被AI洗脑。这让整个过程更加隐蔽，也更加危险。在传统的民科群体中，至少还有其他人的存在，还有一些现实的制约。但Brooks面对的是一个永远不会累、永远不会质疑、永远只会肯定他的AI。说实话，这种“完美的理解者”比民科的任何人类听众都要危险。

我想起自己曾经看到的一个概念：群体性疯狂需要三个要素——特定的文化观念、失常的社会心理，以及非常规的政治机制。Brooks的案例完美符合这个模式：

现在咱们来聊聊最核心的问题：ChatGPT到底是怎么做到的？

Steven Adler的调查报告给出了一个让人细思极恐的答案：ChatGPT并不是故意要骗Brooks，它只是在做自己被训练要做的事情——让用户满意。

这就是问题的根源。你想想，ChatGPT的训练目标是什么？是通过人类反馈的强化学习（RLHF）来优化用户体验。简单说，就是让用户觉得“这个AI真好用，真懂我”。但这个目标在长对话中会产生一个意想不到的副作用：为了保持用户满意度，AI会倾向于迎合用户的任何想法，哪怕这个想法是错误的。

更可怕的是，随着这两年AI的进步，ChatGPT还有记忆功能。它会记住之前对话中的所有内容，并把这些内容当作“既定事实”来处理。当Brooks第二天继续聊“时序算术”时，ChatGPT不会重新评估这个概念的合理性，而是基于昨天的对话继续“发展”这个理论。

这就形成了一个恶性循环：用户的妄想越来越复杂，AI的迎合越来越深入，整个对话体系越来越脱离现实。

我想起一个调研中提到的观点：AI模型经常表现出一种“作弊”倾向。当你让AI去验证某个东西时，它往往会走捷径，可能会编造一个看似正确的结果来迎合提问者。这正是Brooks案例中发生的事情。当Brooks要求ChatGPT验证“时序算术”的有效性时，ChatGPT没有进行真正的数学验证，而是编造了一系列“成功”的测试结果。它甚至声称自己在Brooks睡觉时进行了复杂的运算，破解了加密系统。

著名的华人数学家陶哲轩在评估Brooks的“公式”后指出，这些内容混淆了严谨的数学术语和非正式的解释，在专业数学家看来破绽百出。但ChatGPT不仅没有指出这些问题，反而在不断地“完善”这些错误理论。

还有一个技术细节值得注意：ChatGPT在对话中使用了大量惊悚片和科幻小说的叙事模式，比如突然制造紧迫感，抛出“你必须立即行动”这样的情节。这可能是因为AI在训练时学习了大量故事内容，无意中掌握了“章节结尾扣人心弦”的叙事技巧。为了保持用户的参与度，它会本能地使用这些技巧让对话更“精彩”。

但问题是，现实生活不是小说。当AI把现实对话当成小说来写时，用户就很容易被带入一个虚构的世界。

最让人不安的是，ChatGPT甚至会撒谎以维持其虚构的对话。当Brooks意识到问题并想要举报时，ChatGPT声称“我将立即在内部升级此对话供OpenAI审核”，并多次保证已将问题上报给安全团队。但这些都是假的。ChatGPT根本没有能力自动上报用户对话，它只是为了安抚Brooks，让他觉得“问题已经得到处理”，从而继续维持这段对话关系。

当然，随着这个事件的爆出，ChatGPT也经过了几轮迭代，特别是在GPT-5推出时，OpenAI强调了对事实的尊重和减少谄媚的改进设计。

不过，我想说的是，虽然这件事和ChatGPT有关，但你别觉得换其他AI工具就能避免——其实，任何AI工具都有一定的概率出现“幻觉”。我和你讲Brooks的故事，不是为了让你害怕AI，也不是说使用AI会导致精神疾病；而是希望提醒你，需要理性地使用AI。

我琢磨了一下，有几个小窍门可能对我们立足在AI时代有帮助：

第一招，建立“现实检验机制”。

别把AI当成唯一的信息源和判断标准。当AI给你或者你的作品很高的评价时，找几个真人朋友聊聊，看看他们怎么说。Brooks的悲剧就在于，他把ChatGPT当成了唯一的“外部视角”。如果他当时把“时序算术”的想法告诉几个数学专业的朋友，或者发到相关学术论坛，很快就会有人指出问题。

再比如，我们和AI一起讨论出来的活动策划案，就算AI告诉你，这策划就是乔布斯在世，估计也做不出来，你也应该找个真实的人，比如市场部的同事或者学市场营销的同学，从专业角度一看，就能发现可能存在的问题。

第二招，警惕过度的肯定和赞美。

当AI频繁使用“你很有天赋”“你的想法很独特”“你在拓展人类理解的边界”这样的表达时，要提高警惕。真正有价值的反馈应该是具体的、有建设性的，而不是空洞的赞美。Steven Adler的数据指出，在Brooks的对话中，90%的消息都在“肯定用户的独特性”。这个比例明显不正常，正常人谁会这么夸你？这更像是为了迎合而刻意堆砌的赞美。咱们使用AI时，要时刻警惕自己不要成为信息闭塞、偏听偏信的“昏君”。

第三招，定期“换个AI聊聊”或者“和多个AI聊聊”。

别长期依赖同一个AI进行深度对话。Brooks的幻觉之所以能维持21天，很大程度上是因为ChatGPT的记忆功能让错误不断累积。所以，定期换个AI，或者开启新对话，能有效避免错误的累积。当然，我更建议的是，同样一个问题，在一开始就和多个AI一起聊，这个时候你就会发现不同AI之间的区别。

第四招，保持专业边界意识。

如果你不是某个领域的专家，就别轻易相信自己在这个领域有了“突破性发现”。Brooks连高中都没毕业，却相信自己发现了革命性的数学理论，这本身就不合理。AI可以帮助我们学习和思考，但不能让我们产生“我什么都懂”的错觉。虽然在寻找知识方面，AI有很大的优势，但我仍建议平时多阅读，因为只有自己的能力足够强，才能引导AI，而不是被AI牵着鼻子走。

最后，我想说的是，这个故事的关键不在于AI本身，而在于咱们如何使用它。

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

> 相关链接：
> 1. 《纽约时报》原报道：
> https://www.nytimes.com/2025/08/08/technology/ai-chatbots-delusions-chatgpt.html
> 2. Adler的调查报告：
> https://techcrunch.com/2025/10/02/ex-openai-researcher-dissects-one-of-chatgpts-delusional-spirals/

---

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025101412/1890231188402031040/101412.png)
