## 234｜“你到底是不是人？” 麻省理工提议发真人通行证，以辨别虚假AI内容

伙伴们，快刀广播站又开始广播了。

“你到底是不是人？”这句话在以前，基本上都能引起一场不小的风波。两个人对薅头发，互相说“你不是人”“你才不是人”。但是现在，在AI时代，这个问题不但会经常出现，还会变成一个非常高频的问题，因为无论是AI生成的图片、语音还是视频，都越来越难辨真假了。

这两天我读到了一篇很有意思的论文，想跟大家分享一下。论文提出了一种叫“人格凭证”的新的验证技术，用来证明某个人确实是真人上网，而不是AI机器人。

这篇论文的研究团队背景强大，既有来自麻省理工学院的研究人员，也有来自OpenAI和微软的研究人员。

论文先介绍了这项研究的背景。因为我们在网上看到的很多内容，并不总是真人发布的，所以很多不法分子会利用AI进行欺诈、传播谣言。随着AI技术的发展，伪装成真人的AI变得越来越难以识别。

例如这两天，我家里要装一个电器，买了之后，就有一个电话跟我确认安装时间等信息，通话过程中我感觉对方的声音非常正常。但当我回答完三个问题之后，对面突然换了一个语调说：“感谢你的反馈，接下来是人工客服为你服务。”这时我才突然意识到，前面跟我聊天的竟然是AI。

并且随着AI能力的迭代，以前用来分辨机器人的验证码体系，已经不够用了。

所以，这篇论文就提出了一个新概念，就是发行一种数字证书，这个证书能证明你是真人而不是AI。想象一下，这相当于出现了一张只能由真人持有的“通行证”，不过不包含你的隐私信息。这样一来，你在登陆不同的网站或者使用不同的服务时，就可以用这张证书来告知服务商，你是个真实的人，而不是机器人。

那么这个通行证怎么才能获得呢？麻省理工的研究员索利曼介绍说，我们可以从全球一些政府或者公共机构那里获取信息，可信的政府机关保证你是人类，然后通过密码学等隐私技术，让你在不透露任何个人信息的情况下获得这个通行证。那政府怎么给你担保呢？你就需要做一些只有你能做，但AI做不到的事情，例如到线下进行面对面的认证。

关于使用通行证这件事，研究人员的设想是，它可以变成人们的一个可选项。拿线上购物来说，一些电商网站现在让AI助手来帮消费者做一些决策，例如我之前跟大家介绍过的天猫购物助手，就在帮用户去跟商家砍价。那么如果有了这个人类通行证的话，不管是商家还是顾客，都可以选择只跟真实的人类互动砍价，进行交易，以确保真实性。

我认为，这篇论文提供的方法，在可行性上存在很大的问题。全球哪有什么线下的实体机构能承担这种大规模的人类认证？不但效率低、成本高，而且也没有哪个机构有这么大的能力。更何况如果这个机构本身如果出现信息泄露的情况，风险就更大了。如果狡诈版本的AI找到漏洞破解了这个系统，后果更严重。

当然，这个方案不可行，不代表AI技术所带来的验证问题不存在。要知道，现在的验证码只能挡住简单的机器人。有些产品会要求用户支付订阅费或者提供信用卡号，这种方式能挡住很多低收入或者没有信用卡的用户。而现在常见的视频验证，就是那些让你张张嘴、左右摆头的方法，也要警惕AI虚假视频的发展，防止它们欺骗识别系统，蒙混过关。

在读这篇论文的时候，我想起来之前看过的一份关于AI生成内容的安全性报告。报告说，虽然市面上有一些工具，专门用来判断某个内容是不是AI生成的，但这些工具的判断准确率最高能到80%。也就是说，AI工具每判断五个内容，就会有一个出错。

因为现在大部分训练AI模型的源数据，语音数据以英语为主，视频数据以西方白人面孔为主。所以，在一些数据不足的领域，AI的判断会出错，例如它很可能把真实人类的内容标记为是AI生成的，或者把AI生成的内容标记为是真人生成的。

Facebook的前政策团队成员拉希德·迪亚曾经说，如果你的母语不是英语，那么你用英文写的东西，在很多情形下会被AI误判为是人工智能写的。这就是因为底层的大模型在训练的时候，并没有那么多的个性化数据。

当然，不管对面是真人还是AI，大家还是应该多一点警惕心。想起我之前看到的派出所贴出的反诈告示，里面有几句话非常扎心：

“刷单前问问自己，动动手指就能赚钱的好事为啥能轮到你？裸聊前问问自己，自己的身材值不值得美女与你坦诚相见？网恋前问问自己，人靓声甜的小姐姐，温柔帅气又有钱的小哥哥，为啥还需要网恋？”

好，这个话题就聊到这里，最后提醒你一下，订阅了AI学习圈的同学，记得点击文稿区的链接加入咱们的同学群，群里有学习委员，还有很多懂AI的高手，大家有问题一起互帮互助，用好AI。

点击加入AI学习圈同学群

好，今天的快刀广播站就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024090416/1852675619628824920/090416.jpeg)
