## 《智人之上》7：赫拉利的建议

赫拉利这本书展望未来，但并没有像库兹韦尔的《奇点更近》那样做出决定性的预测，书中只有一些警告。赫拉利以历史学的视角提醒我们前方有些危险。而那些危险往往并不是全新的，早在AI之前，人类历史中就发生过。

这是历史学家的本分工作。未来是由若干个趋势共同决定的，它们有的互相加强、有的互相抵消。我们无法精确测算那些趋势的大小，所以我们无法预测未来 —— 但是，我们至少可以猜一猜那些趋势都是什么。这就如同你无法预测世界杯冠军将是谁，但你作为资深球迷，总是知道参赛队会有哪些。

了解这些趋势，如果我们不喜欢一个结果，就应该设法限制能促成那个结果的趋势。易燃物不一定会导致火灾，但如果你知道那是一个易燃物，你有必要严格管理它。这就是赫拉利写《智人之上》这本书的目的。

我读此书获得了一个思想转变。以前我认为对AI应该尽可能自由放任，但是现在我同意，一定的监管是有道理的 —— 只要那些监管是针对政府和大公司，而不是老百姓。

赫拉利列举了几个立法方面的建议，在我看来相当合理。

✵

我相信奇点更近，而且我认为AI带来的好处将远远大于坏处，我对未来非常乐观。但是我也同意赫拉利说的，我们对新技术的适应，至少会有一番阵痛。

因为历史告诉我们，当初人类适应工业革命，就是无数的痛苦换来的。很多人、很多国家一度认为，要搞工业就得搞殖民地，就得搞帝国主义，就得从这个国家掠夺原材料，然后向那个国家倾销。还有的国家认为搞好工业就得搞极权主义，把全国变成一个大公司，每个人都应该是螺丝钉……

回头看，我们知道工业不是那么搞的 [1]，但我们付出了极大的代价。

同样道理，未来我们也许还要再付出一些代价，才能知道AI到底是怎么回事。

✵

赫拉利认为AI会带来的一个阵痛是失业。他早在2016年出版的《未来简史》一书中就这样说，更早的时候有本书叫《与机器竞赛》，也说有这个趋势。大约2012年前后，金融危机早就过去了，可是美国的失业率还是那么高，有些学者就认为自动化已经永久性地抢走了人的工作。

但他们的看法是错的。因为美国失业率从那时候开始就逐渐降低了 ——

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267367794710304/092120.png)

中间新冠疫情带来一次失业率暴增，但是此时此刻，在AI革命的高潮，美国失业率正处于过去50年间的最低点。

不只是美国，现实是当今主要发达国家，只要老百姓的文化是比较勤奋的，都几乎是充分就业的局面 ——

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267456915314676/092120.png)

2023年，经济合作与发展组织（OECD）成员国的平均失业率只有4.8%，这是相当不错的成绩。

但我们的确看到，当今世界有很多国家，特别是不发达国家，有相当高的失业率 ——

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267497717483432/092120.png)

你总不能说是AI抢了这些国家的工作。经济学的规律是自动化程度越高的国家，越容易创造出更好、也更多的新就业岗位。

所以赫拉利的担心暂时无效。但也许不会永远无效。而赫拉利警告我们，连续的高失业率会非常危险。

1929年，华尔街股市崩盘引发全球经济危机，德国连续三年失业率高达25%，就一下子从看似繁荣的、民主的魏玛共和国，变成了一个纳粹极权国家。

老百姓不能忍受那么长时间的高失业率。那如果将来AI真的开始抢人的工作，而我们一时半会儿还没有发明新的人类工作，来个连续几年的高失业率，岂不是危险吗？

✵

赫拉利给的办法是民主。从1929到1933年间，美国的失业率同样也是高达25% —— 但是美国就没有变成一个极权国家。这是因为罗斯福新政出来了，建立了社会保障系统，给老百姓提供了出路。

为什么美国没事，德国就不行呢？赫拉利说，这是因为魏玛共和国是个诞生于战败的、新的民主国家，它没有强大的体制和思想根基 —— 而美国是个相当成熟的民主国家。

这个道理是，民主国家虽然平时吵吵闹闹看着挺乱的，但是有事儿的时候，它非常稳定。老百姓平时都见过风浪，能直面真实情况，而且国家有协商对话机制，弹性很大。

所以要想好好应对AI带来的社会阵痛，就应该确保民主仍然好使。

我们下一讲会讲到，最应该担心AI的不是民主国家而是独裁国家。

不过AI也可能会威胁民主。咱们先看一个场景。

✵

你还记得2016年AlphaGo和李世石的那场历史性的对决吗？当时，一个特别有意思的事情发生在第二局。第37手，AlphaGo是这么走的 ——

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267537445918496/092120.png)

就是上图中标记的黑棋。这一手把在场所有人都看懵了。两个比赛解说认为可能是AlphaGo下错了。李世石也很费解，他离开了棋局，出去走了两圈整理思路，花了15分钟才做出反应。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267594354268148/092120.png)

你看这就是AI的一个重要特点：它的思路跟人可以非常不一样，以至于我们根本看不懂。而且它没法给你解释，因为神经网络本质上是个黑盒子。但这并不是最可怕的。

最可怕的是，AI那个决定是对的。

棋局进行到后期，人们才意识到，第37手别有深意，而且至关重要。AlphaGo赢了这局棋。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267631935211432/092120.gif)

这就是对民主制度的威胁。

✵

我们前面讲了，民主要想成功运行，必须在重大决定事前有对话，事后有纠错才行。而对话和纠错都得是公众能理解这个事儿是怎么回事才行。如果将来AI专门搞这种公众无法理解、但你又很相信它是对的，的事情，还怎么对话和纠错呢？

比如说，现在已经成熟的AI工具被法官用于量刑。AI说根据数据分析，这个人再次犯罪的可能性比较高，法官就会判他一个很高的刑期。可AI是怎么判断的呢？可不只是根据这次罪行的严重程度，而是要考虑这个人的一系列指标。

我们就当AI的判断很准确 —— 可是这合理吗？同样的罪行，单身又酗酒的就要重判，有家有业的就轻判，你怎么能让人相信这是公平的呢？

2018年，欧盟生效了一个著名的规定，叫做「欧盟数据保护一般规则」，也就是GDPR。其中有一条规定是，如果是用算法做出对某人的决定，那么这个人有权得到相关的解释。

问题是有时候算法没办法给你解释。

赫拉利设想了一个场景。你去银行申请贷款，银行说，根据我们的算法，你的信用分不够，不能给你贷款。你说请解释一下，我到底哪儿没做好？银行说我们也不知道，因为我们的算法考虑了一千个因素。

我们人类习惯的思维是一件事的决定应该只基于一个因素。你不能因为我用iPhone手机就给我的信用加5分，然后看我在这么重要的场合手机电量只剩不到20%就扣我10分……我理解不了为什么这些因素跟我申请贷款有关。

但这其实不是AI带来的新现象，“不理解”早就发生了。

✵

我们专栏讲过徐瑾的《货币简史》一书，其中有一个重要的知识 [2]，就是商业银行在放贷的过程中，会创造新的货币。这有点反常识，一般老百姓都以为只有央行印钱才能创造新货币，殊不知印钱是小头，放贷才是大头。

赫拉利书中说，2014年的一个调查发现，只有12%的英国国会议员知道这个知识。

这难道不可怕吗？你们连金融基础知识都不懂，然后你们要对国家的金融政策投票？这符合民主吗？

老百姓只会更不懂。更不用说那些新发明的金融工具。

如果人们不能理解决策是怎么做出来的，人们就会不信任国家机构，就会陷入阴谋论。

这正是过去这些年在美国发生的事情。特朗普的支持者认为美国已经被「建制派」、什么「深层政府」给劫持了，精英正在损害老百姓的利益……他们只信会说“人话”的特朗普。因为对国家机构失去信心，这些人在特朗普输了选举的情况下，居然不承认投票结果，乃至于闹出了国会山骚乱。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267677032355616/092120.png)

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267711392126964/092120.png)

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267740383135656/092120.png)

这不是民主，这是无政府主义。民主政治要想好使，首先你得能服输才行。哪怕你坚持自己的观点，哪怕你觉得不公平，你也得尊重那个结果，不能掀桌子。

当年我刚到美国，正好赶上戈尔和小布什争夺总统大位，戈尔也是因为有争议的点票输了选举。但我记得非常清楚，戈尔面对电视镜头说：我强烈*不同意*点票结果，但是我*接受*这个结果……为了美国，我服从让小布什当总统。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267779037828896/092120.png)

昔年风度，如今是荡然无存了。

那么想一想，如果决定是AI设计的，你猜老百姓能不能接受。

✵

赫拉利认为这个「可解释性问题」是难以解决的……不过我倒是认为大语言模型能帮上忙，它们最擅长用特朗普粉丝能听懂的语言解释高深概念 ——

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267812323858420/092120.png)

赫拉利更关心如何避免AI扰乱民主。有一门学问叫「计算机政治学」，赫拉利总结了其中一些限制AI的法规建议，有四个原则。

第一个原则是「为善」。如果你们搜集我的信息，必须是为了服务我，而不是为了利用我。

这一条是政府最应该有所作为的地方。身处现代社会，为了方便，我们不得不把一些个人信息、甚至是私密信息跟一些机构、一些商业公司分享，这些信息很容易被滥用。为善，应该作为底线。

第二个原则是「去中心化」。把所有信息集中到中央枢纽可能办事更有效率，但那是通往极权之路。

不同的数据库应该独立存在。比如说，个人健康信息，就不应该跟财务信息整合。再者，同样类型的信息应该允许不同机构独立获取，特别是公共信息，只有这样才能让各方互相监督。

第三个原则是「相互性」。你政府可以用信息网络监控老百姓，那么老百姓也应该可以用信息监督政府。

信息不能只是从下往上流动。官僚体制需要变得更透明，让老百姓能够制衡政府。

第四个原则最有意思，「反压迫」。如果老百姓做点什么事儿都会被AI计分，每时每刻都处在较劲和竞争之中，那就是压迫。

哪怕你那个算法是对的，哪怕你算积分是为了我的健康，你也得让我有暂停比赛的时候。我是很想提升自己，但我有时候也得接受自己才好。

这四条说的都是政府、大公司和老百姓的关系，要点都是限制政府和大公司，保护百姓，我非常赞成。

✵

还有一个建议对老百姓也是一种限制，我也同意，出自刚刚去世的哲学家丹尼尔·丹内特（Daniel Dennett）：禁止AI假冒人类。

现在AI生成的内容已经泛滥了，而且十分逼真。你可能会不知道跟你互动的是真人还是AI —— 而这就给了“粉红色的闪电”那样的聊天机器人干预公共观点的可能。

丹内特说，不用多想了，简单点，直接立法禁止AI假冒人类就好。你可以用AI生成内容，但你必须告诉人家那是AI生成的。丹内特说这就如同发行纸币一样，只能有一种真币，其余都是假币，必须禁止。

世界再自由，也不能给随便印刷纸币的自由。赫拉利说这个立法的好处是不会侵犯言论自由 —— AI不是人，它本来就不受宪法保护。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024092120/1854267847757318056/092120.jpeg)

注释

[1] 工业的秘密

[2] 货币是信用的游戏

### 💡 精华要点
- 如何避免AI扰乱民主。「计算机政治学」，赫拉利总结了「计算机政治学」中限制AI的法规建议，有四个原则：
- 第一个原则是「为善」。
- 第二个原则是「去中心化」。
- 第三个原则是「相互性」。
- 第四个原则是，「反压迫」。
