## 643｜纽约律师用AI连翻两次车，法官一句话说透了AI时代的真相

你好，我是快刀青衣。欢迎收听快刀广播站，每天带你看AI。

这两天我看到一条关于律师使用AI的新闻，实在是有点让人哭笑不得，我来给你分享一下。

纽约有个名叫迈克尔·福特（Michael Fourte）的律师，在法庭上被抓到用AI生成了假案例。这事儿本身已经够丢人了，法官让他写份类似解释说明的文件，结果他接下来的操作更绝：他居然又用AI写了一份辩护文件，来解释自己为什么最开始使用AI。结果这份辩护文件里，又冒出了更多假案例。

你没听错，他竟然用未经核实的AI，去辩护自己使用未经核实的AI的行为。这波操作，我是真的服了，一个人居然可以蠢到这么清澈，也真是少见了。

这件事是这样的。迈克尔·福特作为被告律师，代理的是一起借贷纠纷案，并且是一个母亲起诉自己的儿子，按说这种案子对律师来说是小菜一碟。针对案件，他提交给法院一份反对意见文书，就是这份文书，引起了后面所有的故事。对方律师看到文书后，马上发现里面的很多案例要么引用不准确，要么干脆就是编的，于是立马向法官申请制裁福特。

你说，换成正常人，这时候该怎么做？肯定是赶紧认错，把情况说清楚，争取从轻处理。但福特接下来的操作，直接让所有人都惊呆了。

他提交了一份反对制裁的文件。在这份文件里，他既没承认也没否认自己用了AI，只轻飘飘地说那些引用“只是对准确法律原则的无害释义”。这话翻译过来就是：我没编案例，只是换了种说法而已。

对方律师一看到这份新提交的反对文件，更加傻眼了。估计对方律师在职业生涯中，也没有见过这种自己发起狠来扎自己两刀的对手，这次的假引用数量是上次的两倍多：4个压根不存在的案例、7个引用的内容在案例里根本找不到，还有3个案例压根不支持他在文件里说的观点。

更离谱的是，福特在这份文件里还“义正辞严”地抱怨起来，说对方没有提供“宣誓书、司法鉴定或者承认书”来证明他用了AI。这话的潜台词再明显不过：你们没证据实锤我用AI，所以我就是没用。

到了开庭那天，善良的法官还是给了福特一个机会，让他解释清楚这些假引用到底是怎么来的。我特意去看了庭审记录，这场面，简直就是一场“真心话大冒险”，荒诞到了不忍直视的地步。

福特先是说“仅仅有一些引用错误”，但又说“这些案例根本不是编造的”。法官直接问他：“一个根本不存在的案例，怎么可能不是编造的？”他这才松口承认用了AI，但马上又说自己“验证和检查了AI，只是肯定漏掉了那个假引用”。

一开始，面对假引号和假引文的质疑，福特还在硬撑，坚持说是自己“释义”的，也就是他自己写的。法官直接追问：既然是你自己写的释义，为什么会出现方括号和“引用省略”这类标注？这些明显是AI引用的格式啊，正常人谁会这么说话。不见棺材不掉泪的福特这才承认，那些也是AI生成的，他根本没好好核实。

整个庭审过程里，福特的说法更是前后矛盾：一会儿说“我完全负责”，一会儿又甩锅“是助手的问题”；一会儿声称“我核实过”，一会儿又改口“我没核实每一条”。

最后法官实在忍不下去，直接当庭回应他：“如果你提交的文件里有根本不存在的引用，那就只有一个解释——AI给了你引用，你没检查。这就是‘未经核实的AI’的定义。我不知道你怎么能‘强烈否认’使用了未经核实的AI，证据就摆在我们所有人面前。这种否认本身，就非常令人不安。”

说实话，我看完这段庭审记录，整个人都无语了。这哪是什么辩护啊，分明是在法官面前现场表演“如何把一个坑越挖越深”的行为艺术。在我的脑海里，反而觉得这个画面有点儿像上学时的某些同学，老师让交作业，就只好说忘家里了。老师让回家拿，只有再次撒谎说走路上丢了。老师问到底写了没有，他斩钉截铁地说肯定写了，谁没写谁小狗。老师就让他去黑板前写，这时的他才慌了神，不得不承认这作业压根没有写。这时，破案的老师才会欣慰的点点头，说：“汪汪啊，承认了就好，反正在我这里，没带就是没写。”

言归正传，回到这个案子。这个案子的最终判决书，我真心建议每个用AI的人都应该读一读。我把原文件放在文稿最后了，虽然是英文的，但也可以让豆包或者Kimi去提炼翻译一下。看这个不是为了看热闹，而是因为法官乔尔·科恩（Joel Cohen）在判决里说的话，其实给所有人都上了严肃的一课。

判决书开头第一句就很有意思：“这个案子为人工智能在法律行业的滥用，又添加了一个不幸的章节。”你看，法官特意用了“滥用”，而不是中性的“使用”。

法官的态度很明确：问题不在于你用了AI，而在于你用了未经核实的AI；更离谱的是，你还用未经核实的AI，去解释自己为什么用未经核实的AI。

法官在判决书中有一段话，我觉得说得特别透彻。他提到，就算那些假引用碰巧支撑了正确的法律原则，也不能因此就认为没问题。这就像考试作弊被抓，你却说“虽然我抄了，但答案是对的”——答案对错根本不是重点好吗？重点是你作弊了。

法官还特意强调了一点，让我印象很深。他说，当假引用被用来支持一个没有争议的法律原则时，对方律师和法院往往不会去怀疑引用的真实性。原因很简单，大家默认律师是诚实的。

但恰恰因为这种“默认的信任”，未经核实的AI使用会带来一个致命的风险：假引用可能会混入司法判决，进而进入法律数据库，最终成为下一次AI引用的“合法来源”。你可以想象一下这个恶性循环：AI生成假案例→律师未核实就使用→假案例进入判决书→判决书被收入数据库→下一个AI将其当作真案例引用。这个循环一旦形成，整个法律系统的可信度都会受到污染。

判决书里还有一段话，我觉得直接说到了根本。法官明确表示：“使用AI本身不是问题。问题出在律师放弃了自己的责任，没有确保他们向法院提交的事实和法律陈述是准确的，即便最初来自AI。”

你看，法官把话挑得多明白：律师对法院的诚信责任，绝不能外包给任何一个软件程序。

你想想，如果医生说“这个诊断是AI给的，我没核实”，你敢让他给你看病吗？如果飞行员说“这个航线是AI规划的，我没检查”，你敢坐他驾驶的飞机吗？道理其实是一样的。

最后，法官给出了明确判罚：福特和他的客户需要共同承担对方因这些假引用而额外产生的律师费和诉讼成本。更关键的是，法官还要求把这份判决书抄送给纽约州律师协会的纪律委员会。这个处罚其实传递了一个很明确的信号：这事儿不只是罚点钱那么简单，它直接关系到律师的职业资格和职业生涯。

看完这个案子，你可能会觉得：我又不是律师，这事儿跟我有啥关系？

其实关系大了去了。现在我们使用AI的场景越来越多，ChatGPT、Claude、文心一言、豆包……各种AI工具都在帮我们写文案、做PPT、整理资料、解答问题。但问题是，你真的去核实过AI给你的内容吗？

你想想，男主是个专业律师，按说应该比咱们更懂得核实信息的重要性吧？但他还是栽了。为什么？因为他觉得AI给的内容“看起来挺对的”，因为他“时间紧任务重”，因为他“相信助手已经检查过了”。对，这三个理由他都在法庭上说过，并且还把没有核实的责任甩给自己的助手。

法官在判决书中说的那句“你可以用AI，但你不能把责任外包给AI”，我觉得不只是说给律师听的，更是说给所有用AI的人听的。AI能帮你生成内容，但决定要不要用这些内容的是你；AI能给你提建议，但最终做决策的是你；AI能帮你提高效率，但最后要承担后果的，还是你自己。

说到底，这个案子给我们的启示：AI时代，人的价值不是被替代了，而是被重新定义了。以前，人的价值往往体现在“知道得多”、“干得快”。但现在，AI的知识储备比你更广，效率也比你更高，这些传统优势正在被覆盖。但有三样东西，AI永远无法替代人来完成：决策、核实和承担责任。

使用AI出错其实不可怕，这也是科技发展过程中的必经之路，但是出错后的责任需要我们人类来承担。因为AI越强大，人的责任就越重大。

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

> 相关链接：庭审记录文件
> https://drive.weixin.qq.com/s?k=ADQABgdrAAkuVrCuol

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025101923/1890737067902728204/101923.png)
