## 338｜张文宏医生被AI视频仿冒，深夜直播带货骗老人，AI技术门槛降低给我们带来的挑战

伙伴们，快刀广播站又开始广播了。

过去一年，人工智能在视频领域的进步可谓突飞猛进，从生成短视频到直播，技术发展特别迅速，真的可以说是日新月异。一年前，我们还能轻易分辨出短视频或直播是由真人还是数字人制作的。然而，如今即便是你非常熟悉的朋友，你也可能难以分辨手机里到底是真人还是数字人。即使像我这样体验过很多数字人产品的人，有时在抖音或视频号上看到朋友的直播，也会在拿不定的时候，在微信上问一句：“这是你本人还是你的数字人在直播？”

但是技术的快速发展同时也带来了许多风险，就像大家常说的，买一把菜刀，关键在于你用它来做什么。

今天我们来聊聊最近两周备受关注的一件事。有上海媒体报道，网友发现家中老人刷短视频时，看到知名医学专家张文宏医生在直播。直播的内容是推销一款蛋白棒，并信誓旦旦的讲各种养生和健康信息。老人抱着对张医生的信任，就开始下单购买这些产品。

其实，这就是利用AI技术合成并冒充名人的骗局，那个视频平台里的张文宏医生是完全用AI合成出来的。针对这件事，记者联系了张文宏医生本人。他表示，这类的卖货账号并不止一个，而是有很多，并且不断变化。即使向平台投诉，这种现象也屡禁不止。许多不明真相的老百姓，尤其是对AI不太熟悉的年长市民，很容易上当受骗。张医生还提到，他注意到这些产品在不同地方的购买量都不小。在发现问题后，他就立即投诉了那些AI合成的视频，但由于账号频繁更换，他最终也无暇顾及。

张医生说了一个特别好的比喻，他将这些虚假的AI合成信息比作蝗灾，现在漫天遍野都是蝗虫，肆意泛滥，危害无穷。事实上，从平台的投诉结果来看，问题似乎难以彻底解决。记者建议他除了向平台投诉外，也可以考虑报警，但张文宏医生表示，很多账号没有认证，名字也起得乱七八糟，压根不会实名，并且频繁更换账号，很难查明背后的人究竟是谁，甚至不清楚他们是在境内还是境外，而报警需要有明确的对象。但现在连是谁都不知道，因为这些账号每天都在更换，而且都是虚拟的。

当然，这样的事情并非孤例，其他名人也在遭遇类似的冒充和模仿，越是有国民级影响力的人，越容易被不法分子拿来做诈骗生意。就拿最近的例子来说，11月份在江西发生了一起事件：一位老人去银行办理业务，准备贷款200万元给她的“男朋友”靳东用——是的，就是那个影视明星靳东。幸好民警及时阻止，才发现这就是骗子冒充的，发布的视频都是AI合成的。

再往前追溯到10月份，香港老电影的著名演员黄百鸣也遇到了类似的情况。他郑重声明，有人盗用他之前的影片，训练出一个替换他声音的模型，利用他的形象为一个他完全不知情的药膏代言。

虽然目前受骗的人群主要是对AI不太了解的中老年人，但要知道，随着技术的发展，骗子们可是在真实数据中不断优化他们的AI手段。我们在实验室或企业中研究AI时，关注的是技术指标，而对他们来说，那数据反馈来的又多又直接，例如合成的视频能否骗到人点进来，能看多长时间，能不能骗到老人发消息，然后能不能骗到钱，这些数据指标都可以迅速帮助他们优化和提升骗局的效果。

正如那句老话所说，道高一尺，魔高一丈。技术的进步也让这些骗局变得更加难以防范。当然，这不仅仅是我们国内才有的诈骗案件。AI诈骗这是一个全球性的问题，骗子们利用名人形象，比如在美国，他们用歌星泰勒·斯威夫特和埃隆·马斯克的形象制造了许多AI假冒视频出来。

在这里与大家交流这件事情，一方面，我希望AI学习圈的同学们保持警惕性，让自己和家人的利益不受损失。另一方面，我特别想对圈子里的技术从业者说，现在AI技术把很多事情的门槛打掉了，但是有些事情需要深思熟虑。技术上可以实现，但不代表你可以去做。因为某些行为可能在技术上可行，但其实是违法的。

比如，张文宏医生曾在平台上投诉的侵权问题。对于我们得到App来说，每个月、每个星期都要在淘宝、闲鱼、微信公众号和拼多多上打击许多盗版小店或账号。然而，仅靠这种方式是无法解决问题的。尤其是这两年，随着AI的兴起，这种情况更加严重。有些技术同学通过各种方式获取了一些出版社的版权文件，比如PDF等。然而，一旦这些文件被传播出去，就构成了违法行为。今年因为侵犯版权或著作权而被追究刑事责任的案件屡见不鲜。

去年，我曾参观过一家初创的数字人公司，他们在线上展示的效果相当惊艳，这引起了我的好奇心，于是我去看了看。但是在他们的实验室里，我突然发现他们大屏上，训练了一些数字人，模仿的是现在的一些知名企业家和政治人物，而这些形象显然不可能获得别人的肖像权授权，甚至拿人家的视频数据做训练本身，就是违法的。如果没有得到授权和数据来源，这些数字人的形象将来会被用来做什么呢？这其实就是一个非常大的隐患。

我提到这些，是希望大家在AI技术日益发展的未来，一方面要保持乐观，要去想象AI会在健康、教育、办公等领域发挥巨大的作用，但是也要同时保持警惕，不要让昔日的屠龙少年，成为了今后的恶龙。

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024121818/1862424087289210316/121818.jpeg)
