## 547｜国内首例AI误判案背后：平台怎么判断你的内容是不是AI写的？

你好，我是快刀青衣。欢迎收听快刀广播站，每天带你看AI。

现在我们在刷一些短视频或者图文笔记时，经常会看到在屏幕角落上，偶尔出现一些小提示，类似于“本内容疑似AI生成”。如果有同学是做新媒体领域的，也会遇到系统判罚内容为AI生成，从而给予限流等惩罚。

更让人无语的是，有时明明是你自己写的或自己直播的，系统却警示是AI生成或者数字人。有一天晚上，我直播时，视频号跳出一个提示，说疑似非真人实时直播，让我当场念出现在的时间。这种手段其实伤害不大，但侮辱性极强，显得特别滑稽可笑。

这两天，我在浏览信息时，突然看到《中国知识产权报》发了一则报道，涉及国内首例因平台判定用户发布内容为AI生成而引发的案件。整个案件规模很小，但细节很有意思，我来跟大家介绍一下。

---

虽然公开判例里没有点名这家平台公司的名字，但是“知名问答网络平台”这个定语，让人可以肯定是知乎。

今年6月，北京互联网法院判决了一桩新型案件，事情是这样的：一位网友在知乎上发了一段关于打工和学车的体会，却被系统标记为“疑似AI生成的内容”，于是他的这条内容在推广上被隐藏，并且个人账号被禁言一天。

这位网友对此不服，于是直接把平台告上了法庭。结果，法院认定平台违规，要求平台撤销处罚并删除违规记录。

也就是说，这起案件的最终判决，虽然不涉及任何经济补偿，只是要求平台把判定用户违规的那条通知删掉，还用户清白。但因为这是国内第一起“从AI误判到用户起诉再到用户胜诉”的完整案例，特别值得我们关注。

---

看起来结果很清晰，其实里面有不少细节，值得我们了解判罚逻辑，我来带大家拆解几个问题。

第一个是平台为什么要对AI内容特别关注？

2023年1月，咱们国家就已经出台了《互联网信息服务深度合成管理规定》，其中要求平台必须对深度合成内容进行标识和风险把控。而在同年8月，《生成式人工智能服务管理暂行办法》进一步明确，用户发布含AI内容时，需要有“显著标识”，平台必须通过“算法加人工”的方式进行把关，否则连平台都会承担责任。

在这样的情况下，大厂和平台纷纷上线“AI检测模型”，一旦认定文本或者图像是机器生成的，却没有标注，就会被限流或者禁言。

当然，这个逻辑听起来没问题，但关键在于这些检测模型能否真的判断得如此准确呢？

第二个问题，检测算法误伤是如何发生的？

我来先给大家念一下这个用户在知乎上到底写了什么，他的原话是：“打工并不能让你真的赚到多少钱，但可以开启你的新视角……如果你对学车感兴趣并且以后打算开车的话，可以在你最清闲的一个假期完成它……”。

其实，如果用户真的用AI生成内容，可能会比现在的版本丰富多了，并且比喻得当、词藻华丽，写出一篇2000字的抒情文都毫不费力。

那么，平台是如何判断这句话疑似是AI生成的呢？我查看了被告方的介绍，平台自主研发了一个内容检测算法模型，用于识别用户发布内容中的生成痕迹。

只不过训练这个模型的数据来源于很多“有内容安全风险”的语料，这种处理方法可以拦截大部分由对话式AI助手合成的违规回答。一旦机器判定内容疑似AI生成，人工审核团队将去复核，以判断是否“缺乏明显的人类情感特征”。

用户的那句话就是被人工审核团队判断为AI生成的。

第三个问题，法院的判决逻辑是什么？

在这个判决中，法院认定平台确实有管理AI生成内容的义务和责任，这个大前提是没有问题的。核心问题在于，平台的证据不足以证明用户内容是AI生成的。

因为平台提供的算法和备案主要是用于识别“内容安全”，也就是查看有没有敏感词，并没有适当证据证明这个算法能够区分内容是AI生成的还是人类创作的，这方面证据不足。而审核团队的复核标准“是否有明显人类情感特征”被法院认为过于主观，缺乏科学依据和说服力。

通常情况下，原告应该负有举证责任，例如提供一些初步证据证明其为人类原创。然而，由于这篇内容是用户临时创作的短文本，比如直接在知乎编辑框中输入，用户无法提供证据证明自己是人类创作的。

所以最后，法院判定用户胜诉。这个案件本身很简单，但在我看来，这位用户的较真精神非常值得赞扬。

因为工作的原因，我在几个平台的类似审核反馈群中，经常看到用户质疑平台的判罚，但最终一般都无济于事，用户只能自认倒霉，严重的甚至导致封号或者下架。

---

最后，我来说一下看完这个案件之后，自己最大的担心是什么？

我相信随着时间的推移和基础模型能力的提升，无论是生成内容的AI还是检测内容的AI，都会比现在表现得更优秀。但是，如果初步判定内容疑似AI生成，并交由人类进行复核，人类凭什么来判断这个内容“是否具有人类的情感特征”呢？

过去创业十年中，从iOS应用商店到微信小程序，再到各种平台账号，我经常遇到因某个问题而审核被拒的情况。面对这种问题，其实换个时间段审核，即便一个字符都没改，也有可能直接通过。这正是因为某些判断如果仅依靠人的感觉，就会变得更加模糊和不透明。

作为曾经在内容大厂工作过的人，我知道在这些平台中，内容审核团队实际上处于生态链的最底层，通常是在四五线城市的第三方外包公司。

也就是说，对于最需要专业判断的语言、风格、心理等方面，审核人员往往没有这方面的专业能力。例如，一个学者的写作风格本身就是很典雅和书面化的，但在这个时代，可能被AI和人类审核判断为“过于正式书面，生活中没人会这么说话”。

要知道，有人使用某论文查重工具进行过测试，结果显示朱自清的《荷塘月色》AI疑似度为62.88%，刘慈欣的小说《流浪地球》达到52.88%，而王勃的《滕王阁序》当时被判断AI含量为100%，原因是语句过于对仗。

所以未来可能会出现一种非常魔幻的趋势，那就是AI负责生成优秀的文章和句子，而人类负责把某些AI生成的佳句改成病句，把优美的词改成错别字，以此证明这篇文章是原生的人类手工写作。

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025071522/1881828180449378848/071522.png)
