## 589｜从一起案件辩护乌龙聊起：自己不专业，就不要让AI背锅了

你好，我是快刀青衣，欢迎收听快刀广播站，每天带你看AI。

最近，我看到一条英国《卫报》的法律新闻，觉得挺有意思，今天和你聊聊。这条新闻说的是澳大利亚两个律师，在为一个16岁杀人案嫌疑人辩护的时候，居然把AI生成的虚假判例和引文直接贴到了法庭文件里。更搞笑的是，检察官也没仔细看，直接在AI生成的假判例上写下抗辩意见，直到法官助理查案例查得一头雾水，才发现这些引用的判例压根就不存在，完全是AI幻觉生成的。

我的第一反应是：好家伙，都2025年了，怎么还把AI当法律数据库用？

但仔细一想，这事儿背后其实说明了一个问题。就是每次AI出点什么岔子，舆论就开始各种“AI威胁论”、“AI不可靠论”、“AI全是幻觉”。可这次澳洲律师闹出的乌龙，真的该算在AI头上吗？

说实话，这锅AI背得有点冤。更准确地说，这是一个典型的“用户使用不当”案例，就像有人拿锤子当螺丝刀使，砸坏了东西就怪锤子质量不行。

先说说这个澳洲律师事件到底有多离谱。

事情发生在墨尔本，一个16岁的少年因为精神分裂症发作杀了人，这是一起严重的刑事案件。辩护团队是两个经验丰富的律师：资深大律师里希·纳特瓦尼和他的助手阿米莉娅·比奇。按理说，这种级别的律师应该很专业才对。结果呢？他们图省事，直接用AI写辩护意见书，然后重点来了，他们连内容都没核实就提交了。

你猜AI给他们编了什么？不存在的判例、张冠李戴的议会发言，还有一堆看起来很专业、实际上是胡编乱造的法条引用。更搞笑的是，检察官收到这份文件后，也没仔细核查，直接用这些假材料写了自己的法庭陈述。

这就像两个人在认真讨论一本根本不存在的小说的剧情，还讨论得头头是道。当然，更酷似的场景是现在有些公司里，员工用AI来编造周报，领导用AI来阅读和回复员工的周报，主打一个“井水不犯河水”。

结果就是，这个案子的法官助理查案例的时候完全傻眼了：为什么这些判例怎么都找不到？然后要求律师提供判例副本。律师这时才慌了，承认自己引用了不存在的案例。法官詹姆斯·埃利奥特严厉批评说：“除非AI生成的内容经过独立且彻底的核查，否则使用AI是不可接受的。”

你以为事情到这就结束了？并没有。

律师们赶紧提交了一版“诚心诚意绝不再犯错的更正版本”，结果这个更正版里，依然存在AI编造的假条例和假案例。法官再次指出问题，他们才第三次提交了真正删除AI谬误的版本。

整个审理被迫推迟了一天。幸好案件的结论没有受到影响，医疗专家一致认定少年行凶时患有精神分裂症，法院最终裁定他因精神障碍实施杀人，不承担谋杀罪。

事后，纳特瓦尼律师当庭向法官表示“由衷的歉意”，并对团队出现这样的纰漏感到非常羞愧。检察官也跟着道歉。当然，“由衷的歉意”，我在文稿里打上了引号，因为这也是报道原文的描述方式。从我的角度来看，我真的替他们这些专业人士感到尴尬。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025082621/1885721038949021708/082621.png)

这不是AI的问题，这是典型的“懒得动脑子”问题。就像有人用计算器算“1+1=？”，结果按错键了显示“3”，然后怪计算器不准确。

我为什么这么说呢？并不是为了嘲笑这些律师，而是作为一个天天和AI打交道的产品经理，我得客观地说一句：AI确实在进步，而且进步得很快。特别是今年，顶级AI模型在“胡说八道”这件事上，已经收敛了很多。

OpenAI最新GPT-5快速版本的事实错误率比GPT-4o减少了45%。而且，更厉害的是，Google的Gemini顶级模型在测试中的幻觉率最低只有0.7%-1.8%。换句话说，如果你问AI 100个问题，它最多只有1-2个问题会出现幻觉。这个准确率，说实话已经比很多真实人类强太多了。

更关键的是，现在的AI模型都有了“深度思考”功能。就像GPT-5的Thinking版本，它会在回答之前先“想一想”，比o3的错误率降低了78%。这就像从冲动型选手变成了谨慎型选手。而如果用GPT-5的顶级模型，也就是一个月200美金的Pro版本，这个正确率会更高，不过这个模型的速度比较慢，会力争每句话都能找到来源和出处。

我给你说说我最近用AI的一个方法，并且在下方也给你附上了相关截图，方便你更直观地了解：

当AI领域有英文新书出版时，我会直接购买英文原版。拿到书后，我会把内容扔给ChatGPT，让它按页码一页一页地进行翻译。说实话，在没有AI之前，我通常是等中文版出版后才阅读。但现在，AI能立刻为我生成流畅又准确的中文译文版本。

不过，如果AI的作用只到这一步，那也只是提升了阅读效率而已。更重要的是，我会让AI在每页翻译后额外增加一个模块：一旦这一页涉及到数据或研究内容时，就帮我核实信息真实性，并找到出处。这样的阅读过程，带给我的收获已经远远超过了传统的书籍阅读方式。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025082621/1885721126995326988/082621.png)

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025082621/1885721136658991552/082621.png)

你可能会问，既然AI已经这么厉害，为什么还会出现澳洲律师这种乌龙事件？答案其实很简单：工具再好，也架不住用的人不靠谱。

就像那些涉事律师，他们可能用的还是较早期的AI模型，或者是压根没给AI提供足够的上下文信息，也可能选用了本身就不靠谱的定制化AI工具。但最关键的一点是，他们完全没有验证AI输出内容的习惯。AI给什么就信什么，这根本不是AI的问题，而是人自身的问题。

我特意查了下，目前全球已有超过200家律师协会及法院推出了AI应用指南。其中英国还专门发布了《司法人员使用人工智能指南（2025版）》，这份指南的核心要求其实就一条：AI生成的材料必须经过独立且彻底的核查。

由此可见，规则都有了，技术也够用了，现在关键就看人愿不愿意按规矩来操作。

澳洲这个案子其实并不是孤例，类似的事件在全球范围内都有发生：

美国加州有两家律所，因提交AI生成的虚假法律文件，被法官处以3.1万美元罚款；犹他州一名律师，因在案件中引用ChatGPT生成的虚假案例，直接遭到上诉法院制裁；在第514期广播站里，我也介绍过另一个典型案例，英国大法官夏普，被气得在报纸上写公开信，明确警告要是律师再不审核AI生成的信息、继续使用虚构案例，这一行为将触碰刑事底线，情节严重时，甚至可能面临 “妨碍司法公正” 的指控。

你看，能把见多识广的大法官气成这样，这就不是技术问题，也不仅仅是孤例了，这是全球性的“使用姿势”问题。

我觉得这就像开车。汽车发明至今已有一百多年，技术早已成熟，但仍有人酒驾、超速、闯红灯。一旦出了事故，你能怪汽车本身吗？AI也是同样的道理。它就是个工具，一个非常强大的工具，但它不是万能的，更不能成为使用者的 “免责符”。

从法律伦理层面来看，律师有责任确保提交给法院的材料真实准确。这是基本的职业操守，不会因为你使用了AI就能免责。换句话说，AI给你什么就信什么，对AI生成的内容照单全收、不加核查，这不叫“拥抱新技术”，而叫“职业失职”。

不过反过来说，AI用得好也能带来显著价值，类似案例并不少见。江苏全省法院的智能执行助理，每年可替代法官完成150万次系统操作，让执行效率提升50%以上，相当于节省了170多名司法辅助人员的工作量；长春中院研发的“民间借贷智能司法计算器”，能瞬间梳理清楚复杂的借贷关系，大幅减少人工梳理的时间成本。

你看，同样是AI，有人用它偷懒闹笑话，有人用它提效做实事。差别到底在哪？就在于使用者有没有专业判断力，有没有信息验证的习惯。我常跟团队说，AI是“放大器”，不是“替代品”。它能放大你的能力，但也能放大你的错误。如果你本身就不靠谱，AI只会让你更不靠谱；你本身够专业，AI就会让你更高效。

所以，澳洲律师这个事件的教训，从来不是“AI不可信”，而是“人不能不负责”。

说了这么多，你可能会问：那我们普通人该怎么正确用AI，避免出现新闻里这种超级乌龙呢？

作为一个天天和AI打交道的产品经理，我总结了几条实用经验：

第一，把AI当助手，你是把关人和署名人。

AI很擅长帮你整理思路、提供灵感、快速检索信息，但它不应该替你做最终决定。就像我们做Get笔记的时候，AI可以帮你润色文字、整理笔记结构，但核心内容还得你自己把关。因为我们最后拿出来的作品，重要的并不是“有没有AI参与”，而应该是“这到底是不是一个优秀作品”。AI是在过程中帮我们提效，但是署名是我们的，如果丢脸，丢得是我们自己的脸，所以必须要负责。

第二，重要的事情一定要二次验证。

特别是涉及事实、数据、引用的时候，千万别偷懒。澳洲律师就是栽在这上面。现在的AI虽然准确率很高，但1-2%的错误率在关键时刻可能就是致命的。这个二次验证，也不要拘泥在某一个工具上，现在顶级的AI工具这么多，你写完的东西，发给不同的AI工具，让他们帮你查一下里面的数据和出处，并且切记如果有出处链接的，一定要点开找到相应的段落，因为有时AI看起来给了个链接，但其实内容驴头不对马嘴。

另外，我在第548期广播站里，介绍了王树义老师的教程，里面有一个很长的事实核查提示词，你直接把提示词复制到扣子平台，就可以做一个简易的事实核查AI智能体了，能在平时工作中省很多事情。

第三，选择靠谱的工具。

不同的AI模型差别其实很大。如果你是专业人士，建议优先选择那些专门针对你所在行业优化的AI工具，而不是通用的聊天机器人。当然，个性化的数据也非常重要，要注意积累和沉淀你们企业或者行业特有的数据和案例。随着AI基础能力越来越高，这些个性化的独家数据，往往会成为一个企业或者一个人的”胜负手”。

另外，如果你是律师、知识工作者这类对专业性要求高的专业人士，强烈建议你选用各个模型中性能最强、且你自己经济上可承担的最贵模型。例如，律师如果用一个月200美金的GPT-5 Pro模型，乍一听，每个月差不多得花近1500元人民币，确实很贵，但是当你实际用起来后就会发现，比起免费模型，它能极大提升工作效率，同时显著提高输出内容的可靠度。

最后，还是要保持积极的学习状态。

AI技术发展太快了，今年的模型就比去年强不少，明年说不定又会有新突破。但不管技术怎么变，有个基本原则始终不会变：工具是为人服务的，最终责任还是要落到人身上。但也千万不要因噎废食，不能因为AI还不够完美，就彻底拒绝使用。这就好像火枪虽然有炸膛的风险和概率，但你也不必非要退回去用石器时代的长矛，对吧？

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

---

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025082620/1885716572183558156/082620.png)
