## 277｜AI生成虚假内容涌入维基百科，人类编辑不堪重负，成立“清理AI小组”对抗人工智能

伙伴们，快刀广播站又开始广播了。

在全球流量最高的网站中，一个大家肯定非常熟悉的网站，那就是维基百科。它从2001年由吉米威尔士和拉里桑格创立之后，就成为了一个非常“奇葩”的所在。首先肯定是因为这个网站的自由编辑，它允许任何用户在较少限制的情况下发布和修改信息，后来的百度百科、搜狗百科等都是在模仿维基百科。

除了编辑方式之外，还有个特点就是开放式的协作，采取了众包方式，由网友共同参与编写和维护内容，这样引入了越来越多的参与者，不但提高了内容的覆盖度，还增加了信息的多样性。

这个众包协作，会有一个个的维基小组，不同的维基小组体量是完全不一样的，有的能有几百人，覆盖几万篇文章，或者负责维护大量关键词，但是有些可能才几个人，维护一个特别小众的领域。这些自发组织的小组通常专注于特定主题，负责评估并提升相关内容的质量。举个例子，维基百科医疗项目，就把来源内容定义了七个质量等级，从最高的FA等级到最低的List等级，每个级别都有相应的描述和要求，所以哪怕是小组里加入一个新人，也能快速上手。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024101817/1856761140697417640/101817.png)

介绍这些背景信息，是因为最近我在维基百科上看到一个有趣的小组，名字叫做“清理AI小组”。其中的一位成员在接受采访的时候说，随着ChatGPT这些AI工具的崛起，AI生成的低质量内容正在占据互联网越来越多的地方，维基百科的这些热心的兼职编辑们，除了他们通常的工作要干，例如清理人类写的糟糕内容，现在还不得不花越来越多的时间来剔除AI生成的内容。

这个小组说AI带来的最大问题就是几乎很难正确引用来源，所以项目建议除了要看AI撰写的文字之外，更要验证AI写的内容，还要验证这些内容是否有真实且可验证的来源。任何没有来源、可能会不准确的说法都要删除。

不过在项目目标上，特意强调成立这个项目并不是为了限制或禁止在维基百科的内容里使用人工智能，而是确保AI生成的内容准确并且可以接受。另外如果是AI生成的图片，可以根据具体情况来决定是否要保留还是删除。

在项目的介绍中，有一个模块叫“编辑建议”，里面列了大家总结出来的识别AI内容的一些小方法，我跟大家分享一下。

现在的AI已经很先进了，所以生成的文本与真人撰写的文本已经难以区分。然而，还是会有一些能识别出来AI生成的征兆，比如文本中如果出现“作为一个AI模型”或者“根据我最后的知识更新”这些短语，或者是有时会出现非常华而不实的浮夸语气，读起来有点像那种旅游网站的介绍。还有就是当缺乏更精确的信息时，AI通常会详细地描述一些其实非常常见的特征，比如在赞美村庄的时候就会说肥沃的农田、遍地的牲畜和风景如画的乡村，哪怕这个乡村我们早知道处在干旱的沙漠中。这时，他们还提醒不要依赖那些所谓的AI生成内容检测器，基本都不靠谱，不用指望。

他们还列出了一个经典案例，是个名为安布尔里希萨尔、位于土耳其特拉布宗的奥斯曼堡垒。打开它的介绍的话，你会觉得非常真实，我给你随便看一段介绍“它是由征服者穆罕默德于1466年建造的，作为对抗，阿克戈云鲁（也称为白羊土库曼人）的防御。这座位于俯瞰特拉布宗市的山丘上的堡垒，是奥斯曼帝国军事力量的见证。它是一座大型、雄伟的建筑，拥有高耸的墙壁和众多的塔楼与堡垒。堡垒还有许多地下隧道和房间，曾用作储存区以及在遭受攻击时的逃生通道。”

然后还介绍了这座堡垒的建筑师和建筑材料分别是什么，在1538年的奥斯曼-萨法维战争中起到什么作用，然后是在与俄国战争中的作用，最后是一直到现代是怎么维护和成为名胜古迹的。

里面的介绍非常全面，不过很可惜，这个堡垒是不存在的，整个页面的内容都是AI生成的，虽然其中提到的几场战争确实发生过，但整体上是虚构的，仅包含少量真实的历史词汇。这个页面之所以被发现，是因为用户在参考文献中发现，虽然部分链接可以打开，但是跟这个主题没有任何关系。维基百科的工作人员随后删除了原页面，但保留了一个复制页面，标题就叫做“维基百科上的骗局/安布尔里希萨尔”，页面顶部放置了一个提醒框，写着：“这个页面就是用来记录维基百科上的这些骗局，提醒我们提高对这些内容的检测，请不要在维基百科上制造恶作剧，如果你这么做的话，可能会被禁止编辑。”

我看了一下，这个小组已经有差不多80位核心成员了，其实这个人数已经不少了，但是这个小组的负责人也表示，相比AI生成内容的速度和质量，他相信这个工作未来会越来越难。不过他也反复强调，希望未来AI能再强大一些，帮助到自己。他们这个小组并不希望被人看作反人工智能的人，他们只是反对那些虚假的AI内容而已。

最后说一件咱AI学习圈的事下周四，也就是10月24日的程序员节，我和罗胖会在北京的光科技馆，直播发布第一期AI产品好用榜。现场我会分享8个亲测好用的AI工具，帮你解决工作生活中的具体难题。如果你当天正好有时间，愿意来现场，欢迎你点击下方链接报名。

点击链接报名1024发布会（https://w.wjx.top/vm/wFiFGLP.aspx）

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024101817/1856761157877012256/101817.jpeg)
