## 469｜当AI开始编造“知识”，我们怎么识破幻觉，独立思考？

你好，我是快刀青衣，欢迎收听快刀广播站，每天带你看AI。

最近看到一篇很有意思，很值得思考的论文，跟AI有关，但是跟AI技术无关，讨论的是一个看起来非常哲学的话题。

这篇论文的作者是昆士兰大学的萨拉·本特尼，标题叫作《在AI时代，知道你自己是一无所知的》。里面提出了好几个值得我们去关注的现象和思考的问题。

论文作者首先带着我们复盘了人类历史上的几次知识传播的里程碑事件，提出AI生产内容是又一次的技术变革。首先是数万年之前，我们的祖先通过口耳相传的方式来传递知识和经验。后来有了洞穴壁画等文字雏形，标志着人类知识以书写形式被记录。

而印刷术的发明则引发了知识传播的第一次大爆炸，古腾堡推出活字印刷机之后，书籍的大规模复制成为可能。历史数据显示，1450年到1500年，这50年期间印刷的书籍数量相当于此前手抄本几千年的产出总和。在这个阶段，印刷术让“一个声音可以传遍大众”，打破了以往一对一的知识传播模式。

而有了网络和计算机之后，知识传播从“一对多”的模式跃升到了“多对多”的网络模式。网络化让人类获取知识的门槛一下子降低到了前所未有的程度，网络上有无数的声音，不同来源的信息和知识多到人们看不过来。

在这样的历史发展过程中，生成式AI成了人类知识演化链条中的最新一环：如果说印刷机是“把一个声音传递给所有人”，那么生成式AI则恰恰相反，是把“无数声音浓缩成一个声音”。也就是将大量来源的信息融合为由AI单一输出的答案，本特尼认为这种转变是革命性的，将从根本上改变知识的生产过程和我们对知识价值的理解。

接着，论文分别从知识生产、传播、验证和使用的四个环节展开，论述AI对这个流程的改造。

第一就是知识的生产环节，AI可以根据网络上海量的信息来“创作”文本，回答问题。在这句话里，“创作”这个词需要打一个引号，因为这种自动化的知识生产改写了传统人类专家撰写知识的模式，所以“创作”这个词，在这个时代，也许要进行重新定义了。

作者指出，印刷时代是一个声音面向众人，知识生产者非常好确定，但是AI时代，大量的知识生产来源变得模糊，这让我们不得不重新思考知识的所有权和作者专业权威的问题。

第二就是知识的传播环节，AI让知识的传播更加个性化和即时化，用户不需要像以前一样翻很多工具书，或者是寻找很多网站才能获得答案，因为AI会总结凝练成一个回应。这一方面带来了便捷，但是另一方面，也会带来信息茧房和路径依赖的风险。当人们习惯于向单一AI寻求答案时，可能会丧失很多更优质来源的信息。

在搜索引擎时代，人们遇到难题时，第一反应往往是求助于数字设备而不是独立思考，这在以前被专家们称为“谷歌效应”，用来研究搜索引擎对独立思考的影响。不过，估计那些专家们也没想到，最新的AI对独立思考产生了更大的影响，反而让多用搜索引擎都变成了一种正面行为。

第三是知识的验证环节。这个大家都感同身受，就是现在AI的幻觉问题：AI时常会给出一些看似权威但实际上错误的回答。虽然很多学者或者专业人士知道怎么鉴别AI幻觉创作的虚假知识，但是大多数普通人却会深受其害，特别是现在很多AI参与到了新闻或者信息的生产环节，例如自媒体写公众号文章、写短视频文案时，一个AI编造的内容，很容易在接下来的时间内，被其他的AI当作事实来采用，这让人们陷入到了一个无穷无尽的垃圾信息场。

第四是知识的使用环节。作者说当人们可以随时随地地呼唤AI来获得服务，而不必亲自学习所有的背景知识的时候，这虽然提高了效率，但是也会引发一个担忧，那就是长期来看，如果这些认知任务过多地交给AI，人类的理解力、批判性思维能力都有可能会产生退化。

当然，论文里也列举了大量的案例和数据，来证明完全依靠AI的不靠谱，这部分我就不介绍了，毕竟我们每天在使用过程中，这种感受经常会出现。不过作者提出了一个我们如何面对AI使用AI的建议，那就是学习苏格拉底，重拾对知识的审慎态度。

要知道这篇论文的标题，就是致敬苏格拉底的著名金句，“我唯一知道的就是我一无所知。”正是因为深刻体会到自身认知的局限，苏格拉底才创立了“苏格拉底提问法”，通过一连串的追问来审视人们习以为常的观念，从而验证知识的合理性和真实性。

所以，作者有一个非常重要的主张，那就是对AI生产的“知识”进行“苏格拉底式提问”。也就是说，我们在面对AI给出的答案时，应该不断地追问：这些信息的来源是什么？背后的假设和逻辑成立吗？有什么可能被歪曲或者遗漏的地方？按照这个方式追问下去，我们往往会发现AI的输出中，有一些真相被隐藏或者是扭曲了。

当然，除了这个追问的方法，我从自己使用AI的角度也提两个小建议：一个是多用几个不同的AI助手去问同一个问题，然后从各自的答案中去发现问题，这样你在决策中，其实也是在进行独立的思考。第二个是把一个AI的回答，扔给另外一个AI，让它用批判性思维的方式，寻找这个回答中的漏洞和问题。

我要提醒你，刚才说的这些方法虽然很重要，但更重要的是，面对AI，我们怎么定位自己。

我的建议是，我们要把自己当作AI的领导者和决策者，而不是知识流水线的下游。这句话是什么意思呢？就是AI生成的内容，你是领导，需要判断能不能用，质量高不高，而不是AI给你什么，你就必须用什么。

这里给大家介绍一个心理学上的经典概念，叫作“定势效应”，指的是当人们在多次实验中发现了一种能有效解决问题的策略后，即使下一次有更简单的解决方案，他们也会习惯性地采用更繁琐的老方法，而不愿意去尝试更正确、更简单的方案。

发现了“定势效应”的心理学家卢钦思警告说，“我们不要被习惯蒙蔽，如果不是我们驾驭习惯，而是习惯支配我们的话，这种思维上的机械化会非常危险。”AI就好比那个习惯，一旦对它产生过度依赖，被它支配，那我们的思考和判断能力就面临风险了。

所以今天跟大家介绍这篇论文，也是想说，面对现在飞速提升的AI工具，我们一方面要为AI感到强大，但是另一方面也要思考AI对我们的影响。在面对AI的时候，要牢记苏格拉底的这句话，“我唯一知道的就是我一无所知”。面对所有的AI的答案，我们说“我不知道”，让AI“展开讲讲”，去追问几个问题，这会让我们更好地适应这个时代。

最后再说一件咱AI学习圈的事，和渊老师的《给小学生家长的AI教育必修课》又更新了。这周，她会带你解决辅导孩子学习的三个难题：第一个是担心孩子数学跟不上，家长又不擅长辅导，该如何用AI辅助高效预习？第二个是孩子听力总丢分，只会哑巴英语，家长该如何用AI轻松辅导？第三个是孩子英语阅读慢，写作难，家长该如何用AI帮助提高阅读与写作能力？

目前课程的前两讲内容，都已经更新了，我也抢先看过了，内容非常扎实。推荐你现在就点击文稿区的课程链接，开始学习。

点击学习和渊老师最新课程内容

好，今天广播就到这里。如果你觉得对你有帮助，欢迎分享给身边的朋友。明天咱们接着聊AI。

相关链接：

论文原文：https://www.nature.com/articles/s41599-025-04731-0

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025042822/1874592197790221912/042822.jpeg)
