## 724｜从虚假“法国政变”到你我生活，如何应对防不胜防的AI造假？

你好，我是快刀青衣。欢迎收听快刀广播站，每天带你看AI。

今天我想和你聊一下“AI造假”这个话题。可能有同学会觉得，AI造假不是早就有了吗，怎么现在还要专门聊？说实话，我之所以想聊这个，是因为AI造假已经从偶尔出现的新鲜事，变成了我们生活中的常态。从政治新闻到电商购物，从名人视频到婚恋交友，AI造假涉及到我们生活的方方面面。

更关键的是，AI造假的质量已经到了让人防不胜防的地步。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026010821/1898243908381609040/010821.png)

前段时间发生的一件事就很能说明问题。2025年12月14日，法国总统马克龙收到了一条来自非洲某国元首的紧急消息：“尊敬的总统先生，贵国究竟发生了什么事？”

马克龙一开始还觉得有点莫名其妙，直到他看到了那段在社交平台Facebook上疯传的视频。一个伪装成法国新闻频道“Live 24”的“记者”正在播报突发新闻，内容是法国正在发生政变，一名身份不明的上校领导了这场行动，马克龙可能已被罢黜。视频画面里，埃菲尔铁塔灯火通明，警用灯光闪烁，一架直升机从空中飞过，武装士兵在警戒，大批民众一脸惊愕地试图越过警戒线。

所有这些画面都是AI生成的，但看起来太真了，真到连一位国家元首都信以为真，专门发消息来询问。

这段假视频的播放量超过1300万次。更让人震惊的是，马克龙团队向Meta举报要求下架，Meta最初拒绝了，理由是视频“未违反平台使用规则”。视频在线挂了整整三天，期间只标注了一行不起眼的提示：“此内容可能经数字化创作或篡改，以伪造真实效果。”直到12月17日下午，视频才最终被下架。

维权无门的苦主马克龙在访问马赛时公开批评Meta：“这些人是在嘲弄我们。他们根本不在乎维护健康的公共讨论秩序，他们蔑视民主国家的主权，正把我们推向危险的境地。”他还说：“我一直认为，我的影响力比大多数人都要大……可事实证明，这根本没用。正如你们所见，我们的应对手段远远不够。”

说实话，当我看到这个新闻时，非常惊讶。不过让我惊讶的不是出现AI造假，这已经不稀罕了，而是造假的质量已经到了一个新的高度——连国家元首都被骗了，连法国总统本人举报都没用。

这段假视频的制作者后来被追踪到了，是一名布基纳法索的学生。要知道布基纳法索是一个非洲的内陆国家，被联合国认定是全球最不发达的国家之一，电力等基础设施严重不足。但就是这样一个国家的普通学生，用AI工具就能制作出欺骗国家元首、在全球引发关注的AI视频。

从技术上来说，AI造假已经从“一眼假”变成了“专家都看不出来”。两年前，AI生成的图片还很容易识别，手指会多一根或少一根，人物的五官会有明显的扭曲，背景的透视关系会出问题，视频就更不用说了，谁都能一眼看穿。但现在呢？这个假视频里的埃菲尔铁塔、直升机、武装士兵、惊慌的民众，每一个细节都逼真到让人无法怀疑。

更关键的是，这种高质量造假的成本几乎为零。传统的造假需要找模特、租场地、拍摄、后期制作，成本至少几千上万元。而现在，只需要一台电脑、一个AI工具，几分钟就能生成一段以假乱真的视频。就像菜刀可以切菜也可以伤人，本来是用来提高效率的工具，现在被拿来骗人了。

无独有偶，前段时间新华社也发布了一条新闻，瞄准的是小红书里出现的海量AI装修业主。我在文稿中贴了张新闻里的图片，如果你经常看小红书，一定会觉得非常熟悉。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026010821/1898243929854348368/010821.png)

这段时间，大量高度相似的“装修业主”在平台上出现，封面图都是笑容灿烂的“夫妻”站在新家里，文案高度一致：装修水深、找到良心公司、报价清晰。但仔细看就会发现，这些“夫妻”的笑容一模一样，面部细节过于完美——全都是AI生成的，甚至出现同一对AI夫妻同时在三个城市装修房子的情况。装修公司用AI批量生成“业主”形象，成本几乎为零，而传统的模特拍摄至少需要数千元。

说到这里，你可能会有一个疑问，那之前其实也有很多服装产品用AI模特，两者看起来都是AI生成的，为什么生成“AI装修业主”会被批评和引起争议？

我觉得是因为两者商品的属性不一样。AI服装模特主要是让用户看到服装穿在身上的感觉，大家判断的是好看不好看，这个确实看图片就可以获得答案，这里的图片属性更接近“展示”，消费者并不会把模特当成真实买家。但是AI版本的装修业主，背后其实隐含着好几层意思，比如暗示这是真实的业主分享，暗示这是装修公司的真实完工效果，这都属于有意以虚假内容误导消费者。

除此之外，AI造假的另一个重灾区是电商“仅退款”。这是啥意思呢？就是电商平台提供了一个选项，消费者收到东西后如果觉得不满意，可以申请不把东西寄回去，但店家要给退款。说实话，这个举措对消费者很友好，但也冒出了很多“羊毛党”利用这个漏洞坑商家。他们用的方式就是用AI生成虚假的图片或者视频，发给商家说质量有问题，不少商家以为真有问题或者抱着破财消灾的想法，就直接通过了仅退款申请。

比如嘉兴一家生鲜网店三个月内连续遭遇9起“仅退款”事件，全都涉及AI造假。买家提供的开箱图片里，有一张图的角落甚至留有疑似AI工具水印的痕迹。这种漏洞明显到让人哭笑不得，但商家依然很难维权。因为平台的“仅退款”机制本身就偏向消费者，而且AI造假的成本极低，“羊毛党”生成一张图片，可能用于多个网店订单的退款申请。“羊毛党”批量操作的效率远超商家的举证速度。而且对“羊毛党”来说，这就是一个概率问题，只要有一个商家通过申请，他们就已经赚了。

除了这几个重灾区，AI造假还在其他领域快速蔓延。比如名人带货视频里，从张文宏到马云再到雷军，都深受其害；还有婚恋诈骗，我记得曾有法国女子被“假布拉德·皮特”骗走83万欧元。

那么问题来了，为什么AI造假会如此防不胜防？

最核心的原因是现在AI发展太快，技术门槛和成本都降到了极低水平。某二手平台上，9.9元就能买到定制化换脸视频。现在的AI造假只需要一台电脑、一个软件、几分钟时间，就能批量生产以假乱真的内容，所以很多造假就从小作坊变成了流水线作业。

对很多大平台来说，监管也在失效。就像前面提到的，法国“政变”假视频在Facebook平台上播放量超过1300万次，马克龙本人举报都没用，Meta起初以“未违反平台使用规则”拒绝下架。而早在2025年1月初，Meta宣布取消大部分事实核查政策，把“真假判断”的责任甩给用户。说实话，当一个假视频在线挂了整整三天，平台只标注一行不起眼的提示时，这种“免责式标注”根本起不到作用。

更关键的是，AI造假的质量还在快速提升。知名电脑安全技术公司迈克菲（McAfee）的调研显示，70%的人不能分辨AI克隆声音和真实声音。当技术进步的速度超过人类识别能力的提升速度时，我们就陷入了一场不对等的战争。

说到这里，我并不是要制造AI焦虑。我想告诉你的是，不用过于恐慌，面对AI造假，我们最重要的是养成一个习惯：多问一句、多查一次。

看到震撼视频，先去搜一下官方媒体有没有报道；遇到转账要求，用另一个渠道比如打电话、发短信，再确认一次。凡是涉及钱的事，永远不要只相信一个渠道的信息。现在的AI助手特别多，多确认一下就能发现大部分虚假信息。

AI造假的泛滥，本质上不是技术的问题，而是技术被用错了地方。这个问题确实很难解决，但至少我们可以从自己做起。AI造假再厉害，也骗不过一个愿意多想一步的人。

> 相关链接：
> 1.新华社文章：
> https://mp.weixin.qq.com/s/UGBiSZJi8NBHQCX-d836cw

---

最后，和你预告一场直播。

今天下午5点，我将带上做GetSeed AI录音卡的实战思考，和罗老师、花姐一起，对谈阿里千问团队负责AI硬件的吴建军老师，一起聊聊AI硬件背后呈现出来的应用趋势，以及AI新设备对我们未来生活的改变。

欢迎你扫描文稿末尾的海报二维码预约这场直播，也欢迎你将直播转发给你的家人朋友，和我们一起开启新一年的思考与行动。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026010821/1898243825701417064/010821.jpeg)

好，今天广播就到这里。明天咱们接着聊AI。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026010821/1898243805300322408/010821.jpeg)
