## 276｜AI伪造风波不断：从易建联假图到“雷军骂人”，我们该如何应对技术带来的道德挑战

伙伴们，快刀广播站又开始广播了。

之前，我有在广播站跟大家分享过AI伪造三只羊音频的事，也跟大家讲过韩国AI假裸照事件，其实核心都是告诉大家，有些AI能做到的事情，却是我们人类真的不能触碰的。

这两天，易建联涉黄的事情在互联网上发酵起来了，网上出现了很多被大家当作证据的照片，包括一张易建联弯腰的半裸照片，还有一张疑似易建联身份证的图片。具体事件还没有官方回应，但很多人都发现那张半裸照片的光影结构有很多不对的地方，那张身份证照片好像也有一张除了信息都长得一样的国外图片，疑似都是AI生成的。不管图片是不是真的，至少我们现在应该都清楚，AI越来越强大了，能做的事情也越来越多了，所以对我们的理性判断能力，要求也越来越高了。

最近，还发生了一件事情。大家都知道，小米的CEO雷军的形象是非常平易近人的，平常对网友的调侃、玩梗都非常宽容，甚至会把这些当作自己的营销点。不过这次确实性质不太一样了，把雷军也惹生气了。

不知道大家有没有刷到过一些雷总骂人的短视频，就是网友用AI克隆了雷军的声音整活，用“大家好，我是雷军”开头，后面加上一些对自己不满的事物的锐评，让雷军当“嘴替”，借雷军之口骂街。雷军的声线很温和，但是网友合成的文案就不太温和了，一口一个老子、畜生，问候他人母亲，甚至还说小米能远程控制手机爆炸。

据说小米法务部已经出动了，雷总也在自己的微博底下给网友回复了生气的表情。我觉得，拿AI克隆雷军的声音做点不盈利的好玩的短视频，可能雷总也挺喜欢看的。但是要是做一些抹黑人家品牌形象的事，想想就够令人生气了。这个也告诉我们一个启示，AI发展得很快，但可能大家的思维还没有跟上，对于这种AI侵权的事情，敏感度还比较低，所以我们更要时刻提醒自己注意。

这种AI造假的事，远远不止我们身边有。9月26日，飓风“海伦妮”登陆美国南部，导致超过230人死亡，成为自2005年“卡特里娜”以来最致命的飓风。然而，与此同时，一张AI生成的女孩抱狗照片在社交媒体上引发了更大的舆论风暴。该照片由共和党成员Amy Kremer发布，意在批评政府应对飓风不力，尽管很快被揭露为AI生图。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024101718/1856672714836711200/101718.png)

Kremer在回应中直接开怼，表示：“是啊，我是不知道这张照片是从哪来的，说老实话，哪儿来的无所谓。它已经永远烙印在我的脑海中了，有些人比这张照片所显示的经历还要糟糕得多。它象征着人们现在正在经历的创伤和痛苦。”

之后，极右翼政客也纷纷传播这类AI假图，利用它们抨击执政党。甚至出现了AI合成的特朗普救灾假图，也获得了大量的点赞转发。AI假图逐渐成为政治斗争的工具，感性印象取代了事实真相。现实灾难在虚假信息泛滥的时代，被AI内容逐渐淹没，公众面临辨别真相的艰难挑战。

在全球范围内，AI生成的虚假内容也充斥着社交平台，利用用户的情感引发广泛传播。同样的内容，AI生成的图片或许会比真正拍摄的照片获取更多的曝光和点赞评论，而真实的内容则无人问津。已经有一些真人用户在Reddit上辣评，“Facebook已经变成刷不完的Midjourney AI照片墙了。”

在我们的社交平台现在也有很多AI内容的出现，不过目前我发现很好的一点就是，我们的社交平台会在检测到AI的时候对用户进行提示，告诉用户这个内容疑似AI生成，大家要谨慎判断呀。但是随着AI的发展，可能很多AI产出的东西，平台也不太能识别出来了，这个时候就要靠我们自己的理性来帮我们完成判断了。

AI是一直脚步不停地在发展的，每天都在迭代，有的时候发展的速度都让我惊讶。到了今天，或者更远的未来，我们或许不得不选择用道德来约束我们自己，用法律来约束的话，或许已经跟不上AI发展的速度了。我们只能严格要求自己，并且相信大部分的人也会如此。

作为咱们AI学习圈的同学，肯定都对AI，再包括各种新技术特别感兴趣，所以我才更要提醒大家。日后，在我们接收信息的时候，也不要觉得眼见一定为实了，听风就是雨；更不要成为拿AI骗人的人，失去了道德的底线。要记住，当你在凝视深渊的时候，深渊也在凝视着你。

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024101718/1856673001525811188/101718.jpeg)
