## 782｜印度法官用AI判案，格式完美内容全假：三个习惯让你少踩这个坑

你好，我是快刀青衣。欢迎收听快刀广播站，每天带你看AI。

法律界出现AI幻觉这件事，这两年同学们听得不少了，如果翻车事故太小，连成为段子的资格都不够了。但我发现有一个趋势，正在悄悄往更危险的方向走：它开始从“提交材料的律师”，蔓延到“做出裁决的法官”。这两者之间的差距，比你想象的要大得多。今天我想和你聊一个真实案例。

故事发生在印度南部的安得拉邦。2025年8月，当地一座城市的初级民事法庭，正在审理一起土地财产纠纷。案情本身不复杂：原告和被告就一块地的归属产生争议，法院之前派了一位官员去实地勘查，提交了一份调查报告。被告对这份报告提出了异议，认为程序有问题。

负责审理的是一位初级女法官。为了驳回被告的异议，她需要引用一些先例，也就是过去最高法院在类似情形下的判决，来说明自己的做法有法律依据。这是判例法体系的标准操作，是每个法官每天都在做的事。但这一次，她没有打开法律数据库去检索，而是用了ChatGPT。当然，新闻里没有说她用的是ChatGPT的什么模型。

她向ChatGPT提问，ChatGPT给出了答案：四个最高法院的历史判例，案名、年份、卷号、页码，格式完整，看起来非常专业。她把这四个判例写进了裁决书，驳回了被告的异议，案件就此结案。

但败诉的被告不服，向高等法院提出上诉。几个月后，被告律师在准备应诉材料的时候，去法律数据库里查这四个判例，一查，一个都不存在。

这四个判例，在人类历史上根本不存在。它们是AI凭空捏造的。

高等法院把这件事告知了那位法官。法官承认，这是她第一次使用AI工具，她以为ChatGPT是一个精准的法律数据库，完全没有想到AI会“编造”案例，也没有去做二次核实。

说到这里，咱们老同学可能还有点儿觉得不可思议，心想怎么可能到现在，一个专业人士还没有用过AI？

上周末，在第775期广播站，我和同学们介绍的卡兹克那篇文章里，有一张图表说的就是这件事：在用AI上，大家的信息差其实非常大。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026030722/1903629620203393400/030722.png)

在全球范围内，完全没用过AI的人的比例高达84%，用过免费AI聊天工具的也就16%。以我的体感来说，在我们身边也大约是这个比例。所以你千万不要默认现在人人都已经用上AI了。

咱们说回这个事件。高等法院认为，这位法官是出于“善意”，她并没有主观上伪造证据的意图，而且“虽然引用的判例不存在，但裁决本身适用的法律原则是正确的”，这是关键。所以高等法院选择维持原判，只是要求法官提交了一份说明报告，算是给了个警告。

事情本来可能就这样平息了。

但被告不甘心，继续上诉，把案子一路打到了印度最高法院。最高法院的态度，和高等法院截然不同。大法官们对此极度愤怒，直接叫停了下级法院的裁决，明确表态：这件事不是一个普通的“裁决错误”，而是“严重不当行为”。最高法院还向印度总检察长和律师协会发出通知，要彻查这件事对整个司法系统公信力的影响。

AI幻觉在法律圈出问题，其实已经不是第一次了，但说实话，直接把法官行为定性为“严重不当行为”，之前是没有出现过的。最著名的是2023年的纽约案例，一个叫史蒂芬·施瓦茨（Steven Schwartz）的律师，用ChatGPT准备材料，结果提交给法庭的文件里出现了六个根本不存在的案例，被法官当场识破，最后被重罚。

但你注意，那次是律师造假，法官识破了。系统是正常运转的。

对抗制法庭本身有一个自我纠错的机制：你提交的东西，对方律师会查，法官会审。就算一方用了AI出了问题，另一方是你的天然纠错器。

而这次印度的案子，出问题的是法官本人。

法官是法庭里的“事实裁判者”，是整个司法系统的最后一道防线。当律师出错，法官来纠错；但当法官本人用了没有核实的AI输出做出裁决，这道防线就失守了。没有人站在法官上面帮你检查，整个纠错机制在这个环节是缺失的。

纠错的代价也极其不对称：法官用AI生成内容，可能就几秒钟的事；但为了推翻这个裁决，败诉方要花几个月时间，请律师，一级一级往上诉，最后一路打到最高法院。

但这件事让我想到一个更有意思的问题：为什么偏偏是法律这种高度专业的领域，AI幻觉的破坏力反而更大？

你可能会觉得，AI幻觉在创意领域才更危险。但其实反过来，越是高度专业化、语言高度结构化的领域，AI幻觉才是真正的重灾区。

原因在于，AI本质上不是在检索数据库，它做的事情是“词汇的概率拼接”。它看过的法律文书越多，就越清楚一个标准判例应该长什么样——不是因为它理解法律，而是因为它学会了法律文书的“语言模式”。所以当它需要生成一个案例时，它会按照这个模式，把案名、年份、卷号、页码全部填进去，格式无懈可击，但内容完全虚构。

而恰恰是这种高度规范的格式，给了人一种潜意识里的信任感。你看到一份文件，格式标准、用词专业、引用详细，大脑会默认：这应该是真的。这个默认在AI时代是危险的。

我上周在第770期广播站里，也和你介绍了MIT研究团队新发表的一篇论文，标题就叫做《AI搜索的崛起：对信息市场与大规模人类决策的深远影响》。这个研究里有一个非常有意思的细节——只要AI在回答中加入了参考链接、标注了引用来源，人类对它的信任度就会急剧飙升。哪怕这些链接是AI凭空捏造或者完全错误的，人类依然会盲目买单。

想象一下，一份AI生成的医学处方，药名、剂量、用法格式完整，但那个药物组合在真实的药典里根本不存在。法律、医学处方、金融审计报告，这些领域的共同特征是：高度结构化，专业人士对格式有天然信任。AI幻觉在这些地方的“伪装穿透力”，远比在一篇随手写的观点型博客文章里要强得多。

说到这里，上周五我接待了美团来公司游学的团队，给大家分享了一个小时的AI最新进展。互动环节有个同学问了一个很实际的问题：我们在日常使用AI的时候，怎么降低幻觉率？

我觉得这个问题问得很好，值得认真回答一下。

先说说AI为什么会幻觉。人的记忆会出错，会记混，会脑补细节——AI其实也是一样的道理。它不是在查数据库，而是在根据概率预测“下一个词应该是什么”。当它不确定的时候，它不会说“我不知道”，而是会用最像答案的方式把空白填上。这不是AI特有的缺陷，这是这类技术的底层逻辑。所以幻觉不会消失，只会减少。知道这一点，我们用AI就不应该是“全信”，而是“带着怀疑用”。

那具体怎么做？我给了那位同学三个建议。

第一，越是规范化的答案，越要随机抽查链接。AI给你的回答里如果有引用来源，特别是在法律、医学、金融这类专业领域，随机点开其中五六条链接，看看链接是不是真实存在，标题对不对得上。

点开一个链接看一眼标题和第一段，可能就五六秒钟。就算抽查10个，也就两三分钟。慢慢养成习惯，速度还会更快。这不是在质疑AI，这是在验证AI。当你连续点开发现链接有问题时，就要对整个回答的可信度画一个问号了。

第二，选对数据源。你知道哪些产品擅长哪些领域，对应的AI助手给的数据就相对可信。比如你在用某个专业法律数据库自带的AI，它的数据来源是有边界的，幻觉率会低很多。而一个通用的聊天AI，在专业领域给你的答案就需要更高警惕。认清工具的边界，是减少幻觉的第一步。

第三，用另一个AI交叉验证。同样的问题，换一个AI问一遍，看两个答案是不是一致，也就是一分钟的事儿。如果两个AI给出了截然不同的答案，那就是一个明确的信号：有一个在幻觉，需要你去查证。

这个方法成本极低，但能帮你过滤掉很大一部分问题。比如你可以把元宝给你生成的答案，扔到豆包里，跟它说一句“帮我复核下面内容的真实性”，至少八成的简单问题都可以抓出来。

说回这次印度事件，还有一个细节特别值得关注。

高等法院最初的态度，是想宽恕这位法官的。理由是：虽然引用的判例是假的，但法理逻辑是对的，不能仅凭引用了不存在的案例就推翻整个裁决。

这个说法听起来好像挺有道理。但最高法院直接否掉了这个逻辑，把这件事定性为“严重不当行为”，而不是“裁决错误”。因为英美法系的根基是“遵循先例”，法律权威的来源是真实发生过的历史事实。

如果你允许“只要逻辑对，案例真不真无所谓”，那等于把AI变成了凌驾于人类历史之上的立法者。这对整个英美判例法体系来说，是根基性的动摇。

这个定性，我觉得还有另一层意思：“我不懂AI的原理，我以为它是搜索引擎”，从此不再是一个有效的免责理由。在专业领域，把未经核实的AI输出用于决定他人命运，在性质上已经等同于主动伪造证据。技术素养，正在成为核心职业道德的一部分。

这条线，不会停在法律圈。任何一个专业领域，只要你还想当专业人士，就不要想着让AI来给你背锅。我们还是要锻炼自己的专业能力，要能做出精确清晰的判断，过程中让AI帮我们做大量体力活。毕竟随着AI越来越强大，“能背锅”会成为我们人类在职场的核心价值点之一。

说实话，这件事给我最大的感触，不是“AI又出幻觉了”，而是：AI的幻觉，正在以我们最熟悉的格式出现，穿着最权威的外衣，出现在最难被纠错的位置。

当然，你不要因噎废食，吓得不敢用AI了。你要带着怀疑的眼光用，这才是正确的姿态。今天这个印度法官出错，并不是因为她用AI，而是因为她用AI用得太少了。

---

最后，再和你预告一场直播。

最近OpenClaw大火，个人玩家如何上手？团队协作又如何落地？怎么用“龙虾助手”来卷效率？又有哪些坑要避开？

3月11日晚20点，飞书玩虾大会，我将和影视飓风Tim、傅盛、卡兹克一起畅聊“玩虾”真经验，希望能给你一些实用参考和启发。欢迎你扫描文稿区的直播二维码预约这场直播，也欢迎你将直播分享转发给身边同样关注AI的朋友。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026030722/1903631255510094200/030722.jpeg)

好，今天广播就到这里。明天咱们接着聊AI。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026030722/1903629461288581776/030722.png)
