## 601｜AI的胡说八道，为什么比人类骗子“更危险”？

精挑细淘，得到头条。我是李南南。

随着今年的各类AI进展，有个话题越来越受关注，这就是，AI幻觉。也就是，由AI无意识制造出的包括谣言在内的一切，对真实世界产生误判的信息。这期间有人把AI当成真人，也有真人被人当成AI。比如说我。

常听节目的朋友可能知道，3月7日的节目，因为一些补录过程中的技术问题，导致当天的音频有明显的卡断感。有同学就留言了，说这该不会是AI录的吧？我还专门去数了一下，提出是AI的留言一共有6条。

什么概念？一般来说一个音频节目的留言比，是500到1000比1之间，6条留言，就意味着大概有6000人觉得你可能不是人。你看，事情到这步，必须得重视。于是，3月10日这天我在微信视频号上，直播了录音的全过程。在这里也多谢当天来看直播的家人们。

当然，我个人这点事也犯不上拿出来多说。但关键是，这或许也从侧面反映了一个问题，这就是，任何人，都千万别觉得AI幻觉跟你没关系。它可能会以一种意想不到的方式波及你。毕竟，AI制造的幻觉多了，就会混淆人们的判断，真的也可能会被当成假的。

因此今天，我们就深入聊聊AI幻觉。我们主要说两方面，一是问题，二是方案。

第一，问题。AI幻觉为什么值得特别重视？

按照咱们通常的想象，网上一直有假消息，而且各级有关部门，都会常年地按月、按周，甚至按天发布辟谣公告。这个防范力度相当大，咱们还有必要对AI造谣担惊受怕的吗？

这里要话分两头。对于从事AI行业的人来说，AI生成的假消息就像毒药。你看，训练大语言模型需要语料，这个语料其实就是人们在网上留下的各类信息数据。它们就像大语言模型的食物，AI吃得越多就长得越壮实。但是注意，AI能吃的仅限于人类的数据，假如喂AI生成的数据，效果就跟吃毒蘑菇差不多。其中的技术细节咱们就不展开了。总之，做AI的人，自己其实是最怕AI谣言淹没互联网的。就像家长最害怕的不是有人抢劫，而是那个抢劫的和被抢的正好是自己家的亲哥俩。

而对于多数不从事AI行业的普通人来说，AI谣言的可怕之处不在技术层面，而在于和真人骗子相比，AI在胡编乱造这个事上，产能极强，规模潜力极大，且绝对不会心虚。

首先，关于AI瞎编的产能。前两天我在网上看到一个招聘写手的公告，每篇稿子2000字，全程使用AI写作，内容方向包括近代史、古代史。注意，重点来了，稿费，4元一篇。没错，是4元。我们假设，一个写手总归是不能赔钱干活的吧？他一天的收入总得能养活自己吧？

这就意味着，假如这个4块钱的价格能招到人，而且这个人每天要维持最低生活，一天哪怕只挣个100块，那么他就需要接25篇这样的稿子。而25篇乘以每篇2000字，就是5万字。这还是最保守的估计，一个人随随便便就能用AI一天编写5万字。

假如营销号为了博取流量，铺天盖地地制造这样的内容，那么人们担心的AI垃圾淹没互联网，没准就真在一步步向现实靠近。注意，这可不是说营销号都刻意造假，而是AI内容本身就可能会出错。

根据《自然》杂志的报道，2024年，各类AI在提到参考文献时，出错率在30%—90%之间，而且错误不限于论文标题、第一作者、发表年份等。去年有媒体报道，OpenAI的自动语音识别系统Whisper，会凭空生成大段的虚假内容。美国有40个医疗系统使用Whisper，其中大约2.6万Whisper经手的病历出现了假信息。目前，OpenAI已经建议用户不要在关键任务中使用这个产品。

注意，AI瞎编的坏处，不仅仅体现在规模大，还在于它从来不会心虚。媒体人阑夕老师有个评价很贴切，他说，AI造谣的主观恶意或许不及人类，但它的发挥能力却是独当一面。

麻省理工有两位科学家，摩西·霍夫曼和埃雷兹·约耶里一起写过一本书，叫《隐藏的博弈》。里面有个观点大概说的是，为什么坏人容易失败？不仅是因为正义的力量很强大，也在于坏人自己会心虚。换句话说，我们的大脑对于对错是有个判断的，你自己都觉得不对的事，大概率上做起来会缺少能量，会心虚，无法做到绝对的理直气壮。这也是人类造谣的局限所在。

但是，AI就不存在这个心虚感。一篇胡编乱造的文章，可以做到从头到尾神完气足，精力充沛，且全程押韵。这你受得了吗？

那么，AI为什么会出现幻觉呢？主要有这么几个原因。

首先，数据本身的质量问题。大模型是基于海量数据训练的，这些数据中原本就有垃圾信息。比如，医学、金融等领域的过时论文，都会导致大模型输出错误结论。而且大模型的语料是有时间节点的，有些大模型的训练数据滞后，对于最新发生的事情就会胡编。

其次，也和大模型的训练方式有关。大模型的训练是基于打分反馈。也就是大模型输出一个结果，然后有个类似打分器的软件，对这个结果打分。换句话说，大模型追求的从来都不是准确，而是高分。它本身并不知道什么是准确。那么，怎么得高分？这就跟写作文一样，即使你对这个话题一知半解，只要你文笔优美地写够800字，分数总不会太低。这也是为什么大模型面对任何问题，不管知道不知道，都必须要像模像样地写出一堆字。

最后，既然大模型追求的是高分，那么它理论上，就存在刻意讨好打分者的可能，它可能会顺着你说。在一些问题上，你怎么引导它，它就可能会基于这个引导来回答你。

那么，现在市面上流行的大模型，谁的幻觉最严重呢？

美国加州有个公司叫Vectara，经常做这方面的测评。根据他们2025年3月的最新测试，目前，幻觉率最低的是谷歌的Gemini 2.0 Flash，是0.7%。Open AI的GPT-4o的幻觉率是1.5%。而DeepSeek V2.5的幻觉率是2.4%。

而前段时间，清华人工智能学院也发布了一篇报告，题目是《DeepSeek与AI幻觉》。他们发现，在不同的提问模式下，大模型出现幻觉的概率也不一样。

比如，针对随机生成的提示语，DeepSeek-R1的幻觉率最高，达到3%，然后是DeepSeek-V3和阿里的Qianwen2.5-Max，幻觉率都是2%，而幻觉率最低的是豆包，几乎没有幻觉。

而针对事实性测试，DeepSeek-V3的幻觉率是29.67%，Qianwen2.5-Max的幻觉率是27.67%，DeepSeek-R1的幻觉率是22.33%，豆包的幻觉率接近19%。

同时，研究者发现，面对这么三类问题，AI的幻觉率最高。第一类是，知识边界模糊的问题，比如预测未来事件。第二类是，情感驱动的场景，比如安慰性回应。第三类是，特殊领域相关的问题，比如医疗诊断和金融预测。

那么，面对这些AI幻觉，我们能够做点什么呢？这就是咱们要说的第二点。

第二，方案。怎么对抗AI幻觉？

首先，规则建设。针对AI幻觉，很多机构都在试图通过制定规则来解决。比如，今年2月，美国摩根路易律所发布公告，一旦发现旗下律师使用了AI编造的假信息，就马上解雇。再比如，今年2月，国内期刊《诗刊》发布声明，一旦发现有人用AI投稿，马上列入黑名单。在今年3月的全国两会上，科大讯飞的刘庆峰还作为人大代表提出议案，应该建立安全可信、动态更新的数据库，尽量避免大模型产生幻觉。

其次，技术层面的解决方案。比如，世界模型。世界模型也许没办法完全消除幻觉，但起码它理解物理世界的规则，因此有世界模型介入后，AI大概率上不会给出违背物理规律的回答。再比如，RAG，也就是检索增强生成。像DeepSeek的联网搜索，就属于这一类。一旦RAG介入，大模型在回答之前，就会多一步全网实时检索的环节，这能帮它搜集到最新资料，并且列出信息源，方便用户马上核实。比如DeepSeek R1，联网搜索状态下，在通用性测试中的幻觉率几乎是零。

最后，个人操作层面。我们也可以通过改进使用方式，来避免AI幻觉。

比如，大模型协作，使用几个AI互相验证。之前清华的研究团队曾经试过，问某个大模型，《水浒传》中李逵为什么要大闹五台山？答案是，因为李逵喝醉误闯了五台山。但这个时候，假如让其他AI再审核一遍这个回答，它马上就能发现问题。

再比如，在提示词上下功夫。通过圈定时间、知识范围、领域等方式，约束大模型。打个比方，你可以问：“作为临床医学专家，基于2025年之前的公开学术文献，请列举FDA批准的5种糖尿病药物。”再比如，增加对抗性提示，也就是让大模型自己审核自己，给不确定的地方主动打上标记。

最后，回到使用AI的方式。之前万维钢老师曾经给过一份叮嘱，在这里分享给你。这或许可以帮我们掌握与AI协作的边界感。

AI能够生成标准化文本，但不能替代你的个性化表达。

AI能帮助你填补知识空白，但不能保证所有信息都绝对正确。

AI能加速信息整理和筛选，但不能快速编程你的大脑。

AI能提供决策建议，但不能承担决策责任。

AI能把理论用于不同的应用场景，但不能取代人的独立意志和真实体验。

总之，AI是强大的工具。它最大的问题，就是它不是你。

关于这个话题，咱们先说到这。

最后，还有个预告，自从上回直播之后，不少同学关注了我的视频号，那么咱们得对得起这份关注。今天下午三点，我会在视频号做第二场直播。地点还在录音间，主题是《从明天起，做一个幸福的人》。为什么是从明天起呢？因为明天正好3月20日，是世界幸福日。假如你今天正好有空，那么下午三点整，咱们直播间不见不散。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025031819/1870777139402446392/031819.png)

好，以上就是今天的内容。《得到头条》，明天见。

版权归得到App所有，未经许可禁止转载。

### 💡 精华要点
- 1. AI容易出现幻觉，与数据质量以及打分反馈的训练模式有关。大模型追求的不是准确，而是高分，理论上，它存在刻意讨好打分者的可能。
- 2. 面对三类问题，AI的幻觉率最高。一是知识边界模糊的问题，比如预测未来事件；二是情感驱动的场景，比如安慰性回应；三是医疗诊断、金融预测等特殊领域的问题。
- 3. 对抗AI幻觉，一靠规则建设；二靠检索增强生成等技术手段；三要靠个人使用方式的改进，比如使用几个AI相互验证，或者用提示词去约束。
- 4. 与AI协作时，我们应该明确：AI能填补知识空白，但不保证绝对正确；AI提供决策建议，但不能承担决策责任；AI能把理论用于不同的应用场景，但不能取代人的独立意志和真实体验。
