## 《智人之上》8：硅幕警告（完）

我们把尤瓦尔·赫拉利的《智人之上》这本书讲完。此书以AI为主题，但赫拉利对AI的了解令人失望。他的认知还停留在2012年AlexNet图像识别和2016年AlphaGo下围棋这两件事儿上，对AI的基本原理完全没提，对2020年GPT-3引领的大语言模型革命着墨甚少，他似乎不是很理解研发一个有实用价值的AI需要什么样的条件，会有哪些限制。

这可能就是为什么赫拉利一方面把AI想象成神，一方面又觉得AI会带来很大的破坏，而殊不知这两件事是矛盾的。

比如赫拉利认为恐怖分子可能会借助AI引发世界末日，原话是：「虽然想要引发世界末日的恐怖分子可能不懂流行病学， 但现在他们只需要设定目标，其他一切都可以由人工智能来完成。人工智能可以合成新的病原体，委托生物实验室制造或采用生物 3D 打印， 再找出最佳的全球传播通道，通过机场或食品供应链传至全球。」

可我要说，如果AI如此厉害，难道有关国家、有关公司不知道把它好好管理起来吗？这种猜测和认为恐怖分子能轻易使用原子弹有什么区别？

你要知道黎巴嫩真主党被以色列逼的，连智能手机都不敢用，用个寻呼机都还被炸……那你凭什么认为这帮人能用上未经对齐的AI呢？

赫拉利还提到普京要大搞AI，可你知不知道，俄罗斯根本没有拿得出手的微电子和信息产业，以至于大量武器停留在二战水平，它的手机全靠中国，它离开中国的零部件连个摩托车都生产不了 —— 像这样的国家，你凭什么认为它能拥有自己的先进AI呢？

赫拉利这本书等于是想象有一位法力无边的大神突然降临人间，而且这个神还不讲理，想帮谁就帮谁想害谁就害谁……

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092310/1854415783610849056/092310.png)

此书只谈了AI的危险，而没有说AI会给智人带来什么好处。这个论调在八年前的《未来简史》中还让人觉得很新鲜，现在听来则是陈词烂调。

AI不是神。它是人间的东西，它有生理性的限制，它的技术特点就决定了它不太容易被滥用。我不同意赫拉利的悲观设想，但是这本书仍然很有价值，到处都有洞见。

因为赫拉利懂历史。最后这一讲，我们看看历史的大视角下，赫拉利对未来前景的警告。

✵

要想知道AI对世界的大影响，关键问题是，AI到底是一个集权的工具，还是一个分权的工具。

按理说，技术就是技术，技术本身并不在乎你是搞民主还是搞独裁 —— 但民主政体讲究分权制衡，独裁国家讲究集权，而有的技术有利于集权，有的技术有利于分权，所以说技术并不是绝对中性的。

比如说，土地，就是有利于分权的东西。如果国家的财富都是从土地上生产出来的，那就很不容易长久集权。

秦始皇统一中国之后，曾经让天下的贵族都集中到咸阳居住，把民间的武器都收集起来铸成12个金人……但是没有用，因为你不可能把天下的土地都集中到咸阳。只要地方上有土地，就会有自己的财富，制造自己的武器，就有造反的实力。

对比之下，铁路，则是一个绝对有利于集权的技术。有了铁路，你就可以把军事力量迅速投放到帝国的任何角落，乃至于帝国之外，地方上能怎么反？所以铁路技术一出来，就出现了很多野心勃勃的强人要统治世界。

那你说AI，是有利于集权，还是有利于分权呢？赫拉利对此的看法相当矛盾。

✵

一方面，赫拉利认为AI的能力来自于大数据，而且是谁数据多谁就强，那么自然得出结论，世界上只有中美两国能拥有最强AI，并且以此称霸世界。

赫拉利举例说，如果要用医学大数据训练一个能发现新疗法的AI，小国就只能听中国的，因为中国人口最多数据最“大”。所以数据有集中的趋势。

那么如果全世界的数据集中到北京和旧金山这两个地方，会发生什么呢？世界上每个人的喜好、一举一动，所有的隐私，都被旧金山掌握，难不成旧金山要控制世界吗？那岂不是说谁掌握了AI，谁就可以独裁吗？

我认为赫拉利这个逻辑是错误的，因为数据不是这个逻辑。

其实数据并不是越多越好。如果你想训练一个健康AI，你并不需要采集14亿个人的数据。尤其是你不应该只在一个国家采集数据：适合中国人体质的疗法，未必适合欧洲人。最好的办法是在全世界范围内采样，而且采样比如说十万分之一的人口，其实就够了。

就拿自动驾驶来说，在美国训练好的AI并不能拿到德国就直接用，因为交通规则、路口、驾驶习惯甚至气候条件都不一样，都需要本地化适应。美国并不能仗着汽车多就垄断全世界。

数据不是石油。石油是通用的资源，越多越好；数据是专用的，够用就好，而且很容易过期。

✵

另一方面，赫拉利又认为AI跟独裁可能犯冲。

首先独裁国家想要训练一个好的大语言模型，然后让它作为聊天机器人，去给国民搞政治洗脑，是做不到的。这是因为独裁国家都爱说一套做一套，官方明面上的语言当不得真，对此办事人都知道，可是AI怎么能知道？并没有一套语料专门给AI解释官方语言背后的意思。

再者，如果真有一个特别强的AI，以至于让所有的信息汇总到它这里，那么独裁者的权力就可能会被架空。

赫拉利举例说，罗马帝国皇帝就曾经被他的禁卫军队长给架空。因为皇帝不信任任何人，只信这个队长，于是所有的信息汇总到队长这里，于是队长说什么就是什么。这样的事情在中国古代历史上也是屡见不鲜，权臣、外戚、太监，都可能架空皇帝……那AI自然也可以。更何况独裁国家的老百姓容易比较民粹，崇尚强权，也就更容易崇拜AI。

前面讲了，我不相信AI真能给人洗脑。这里我要说的是，独裁者肯定不会把权力交给AI。

AI再厉害，它也不可能做对所有的决定；而且就算AI真的很厉害，也没必要把国家所有的数据、所有的事情都交给一个AI。难道独裁者不知道多听几个AI的意见吗？

按照原教旨主义计划经济思想，的确是应该让中央枢纽的AI了解天下所有的情况去做计划 —— 但这不符合权力的运转模式。权力的本质是「人治」，而不是什么科学决策，独裁者根本不在乎专家的意见。资源分配权是最大的权力，是恩出于上，我给谁，谁就得感谢我。怎么能让恩出于AI呢？

✵

整本书中赫拉利最严重的警告，是世界可能会分裂成两个数字帝国，中间隔着一道「硅幕」，就好像苏联的铁幕一样。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092310/1854415868436486132/092310.png)

现在已经有一些迹象。先是中国人不能用Google和Facebook看不了YouTube也上不了维基百科，美国很少有人使用微信、百度和腾讯。再是美国对中国搞硬件限制，让高端芯片不能出口到中国，又禁止华为的5G设备在美国使用，并且牵连到欧盟。

那如果中国阵营和美国阵营在软件和硬件上都分开，各自弄一个计算机网络，会怎样呢？赫拉利设想：「每个网络的生活经验与世界观都大异其趣，于是几乎无法沟通，也难以达成共识。」世界不就分裂了吗？

我认为这个警告有一定道理，但未来还是比较乐观的。我举一个最简单的例子。

抖音的海外版叫TikTok，在美国被多次讨论要整个给收购或者下架 —— 但是因为它实在太流行，美国政府禁不了，所以现在只是不让政府雇员用。我要说的是，就算TikTok这样的应用全都被禁了，世界也不会分裂。

X，也就是推特，是美国的东西。可是X上就有很多美国博主、还有日本博主、欧洲博主，在转发明显是来自中国的短视频。就是那种土味搞笑、打动人心的，现在在X上相当火。我看评论，美国人、日本人和欧洲人看那些短视频感受到的快乐，跟中国人是完全一样的。他们并没有说“看，这是中国的” —— 他们只是说好看，就如同看一个美国节目。

这就正如有大量来自YouTube的精彩内容被配上中文字幕在中国传播。我们也没有因为那是来自美国的而区别对待。

这就叫人同此心，心同此理。科技的联通作用远远大于隔阂作用。

✵

最后我想再说一点我的看法。

咱们中国人爱说一个词叫「主要矛盾」，每隔一段时间就说我们当前的主要矛盾是什么。以我之见，当今世界的主要矛盾既不是AI和智人的矛盾，也不是独裁和民主的矛盾，而是现代化和身份政治之间的矛盾。

现代化是由科技和人的聪明才智推动的。不管是更强的技术也好，更高深的科学也好，还是更优秀的制度也好，它们都首先存在于人的头脑之中，都是*讲理*的东西。而理是普世的。

世界上并不存在什么“西方的物理学”和“东方的物理学”，物理学就是物理学。当然各个国家可以制定不同的技术标准，但是当一家公司发明了WiFi这种能够无线上网的技术的时候，这个技术本身，不叫西方技术也不叫东方技术 —— 它只是一个技术，谁认为好用就一定会想办法用上。同样道理，世界上也不存在什么“西方的经济学”和“东方的经济学”，你住在哪里都必须尊重经济规律。

可是每个国家都有些人，认为我爱国我就必须只讲“本国的理”，只要你这个理是外来的，就是对我的威胁。阿拉伯国家的人认为妇女解放是异端邪说，美国的特朗普，更是发明了一个女巫式的概念，叫“全球主义者”，说“我们严拒全球主义，拥抱爱国主义。”

是这些人，而不是AI，要把世界用硅幕分开。

✵

这一讲我一直在批评赫拉利，但是赫拉利有一个洞见特别好，那就是「全球合作」和「爱国主义」其实是不矛盾的，他说：「“爱国”不代表“仇恨外国人”，而只是“爱自己的同胞”。」

有时候你为了爱自己的同胞，恰恰就是需要跟外国合作。赫拉利举了一个例子，比如全球正在流行一个新疾病，德国科学家率先发明了有效的疫苗，那你说巴西应该如何反应？巴西应该拒绝外国疫苗，说我们非得等巴西自己的科学家开发巴西疫苗吗？那不是爱国，那是愚蠢。

赫拉利还进一步说，全球主义并不是说就得要建一个什么全球帝国，就是要放弃对自己国家的忠诚，大家都做世界公民 —— 其实你只要愿意全球合作就行。而这只代表两件事 ——

第一，要遵守国际规则。不能说这个规则是别的国家定的，我就不遵守。

第二，有时候你得把全人类的长期利益，放在少数人的短期利益之上。不能说我坑外国人就不算坑人。

赫拉利打了个比方，这就如同参加世界杯足球赛。爱国主义仍然是存在的而且是被鼓励的，球迷都忠于自己的国家，这没问题。全球合作只是说第一，你得尊重比赛规则，不然这球没法踢；第二，如果有人使用禁药，那么哪怕他是我们自己人，我们也应该谴责和惩罚他，哪怕他是想为我们赢球 —— 因为他伤害了足球运动，这对包括我们在内的全人类来说是不好的。

这些都是简单的道理，但民粹恐怕不会理解这些。

✵

《智人之上》这本书就给你讲完了。你看，这是一个活跃于美国的以色列人写的书，但是咱们中国人也在同步阅读，这哪里有什么硅幕呢？

（The End）

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092310/1854416003727935400/092310.jpeg)

### 💡 精华要点
- 1.赫拉利最严重的警告，是世界可能会分裂成两个数字帝国，中间隔着一道「硅幕」。
- 2.赫拉利的一个洞见是：「全球合作」和「爱国主义」其实是不矛盾的，全球主义不是放弃对自己国家的忠诚，而是只要愿意全球合作就行。这代表要遵守国际规则，而且有时候你得把全人类的长期利益，放在少数人的短期利益之上。
