## 特别放送 | 答王立铭：智慧演化终点，算法接管一切？

> 万维钢
> 你好。得到最近刚刚上线了《生命科学50讲》课程，主理人是浙江大学生命科学研究院的王立铭教授。我在第一时间就订阅了王老师的课程，非常喜欢，尤其是王老师对生命的底层机制的解释，让我获益匪浅。没想到的是，王老师也是咱们日课的读者！于是在主编们的运作下，我跟王老师针对演化的相关问题有了一次交锋。
> 所以今天我先把王老师的提问和我的回复跟各位分享，明天，也请你务必关注王老师的精彩回答。
> 王老师提给我的问题是这样的：

> 人类智慧演化的终点，是不是让机器和算法接管一切？未来人类还能有自由和权利么？

> 我们都知道，在上百万年前就基本定型的人脑，在面对今天海量信息、复杂计算、快速决策的场景时是明显力不从心的。而且这种力不从心还将会以惊人的速度扩大。与此相对应的，在我们身边，人类在越来越多的向机器和算法让渡自己的决策权利。一个耳熟能详的例子就是驾驶：从看地图开车，到使用卫星定位，到各种级别的自动驾驶。可以预想，面对越来越复杂的驾驶场景，人类向机器和算法彻底出让自己在路径规划和驾驶决策上的权利，是迟早会发生的事情。在其他领域里，也可以预料到类似的事情：医疗，教育，公共政策制定，也许最后会是人生规划和世界治理。在万老师看来，人类越来越多的交出权利是不是一种悲哀？人类智慧的演化终点，是不是人类集体回到精神上的婴儿期，让机器和算法接管一切，而我们只需要一种“一切尽在掌握”的虚幻快感？

以下是我的回复：

王老师这个问题是我们专栏读者都非常关心的，我们以前解读过的《未来简史》《生命3.0》《意会》和《人工不智能》，从各个角度探讨过人类文明未来被 AI 接管的可能性。今天跟王老师交流感到很兴奋，我想说一个我自己的观点。

AI 代替人做一些工作，比如开车、生产、包括做手术，我相信大多数人都不会反对。王老师关注的重点，是人类要不要把一些做决定的事情交给 AI。我们专栏刚刚讲过，美国已经在对犯人的判决、减刑和假释这些事情上让法官参考 AI 的意见。AI 判断犯人未来是否可能再次犯罪，很可能比人类法官准确得多。

那下一步，是不是就有可能让 AI 决定让谁上大学，让 AI 决定录用谁进公司，让 AI 决定提拔哪个官员呢？

这些事儿在技术上应该都不难实现。我们刚刚讲过 AI 算法不可能做到完全准确，会有各种问题 —— 但是我们很多读者表示，AI 就算有问题也比人类强。如果 AI 的判断比人类准确得多，那就应该交给 AI。

我的观点是未来任何时候，人类都不会把决策权真正交给 AI。而不交给 AI 的理由，恰恰是因为 AI 的判断太准确。

我们设想一下，如果把大学录取权交给 AI，会是什么样的情景。AI 会使用复杂的算法，根据以前表现优异的学生的样子，录取后来的学生。结果录取来的学生质量果然大幅提高，校方非常满意。

但是中学生和家长不会闲着。你大学用 AI，那我们也用 AI。AI 最能理解 AI，我家的 AI 一定会告诉我家小孩，他必须怎么做，才能确保被大学录取。以前录取只看高考成绩，现在 AI 要求全面发展，结果孩子生活的方方面面就都被管起来了。以前家长不知道学钢琴好还是练冰球好，现在直接让 AI 根据孩子天赋和当前热点决定。

可以想见，只要 AI 把持了几个关键领域的决策权，整个社会就都会 AI 化。人们都学会了做“正确”的事情。

可什么才是正确的事情呢？让 AI 决定怎么做“正确”，这里面有两个问题。

第一个问题是 AI 无法预测未来。

是，AI 的计算能力比人类强得多，但是 AI 算得再快也没用。我们专栏以前讲过 Mathematica 软件创始人史蒂芬·沃尔夫勒姆的思想，其中有个概念叫“不可约化的复杂”，说凡是真正的复杂系统，都不可能用一个更简单的模型代替。想要知道复杂系统未来会怎么样，你唯一的办法就是等着它自己演化到未来，而不能指望用计算机先模拟一遍。

现在的 AI 技术都是基于数据分析，依赖历史经验，本来就对付不了新局面。而就算未来 AI 掌握人脑一样的分析方法，根据计算不可约化定理，它还是不能预测未来。

如果 AI 不能预测未来需要什么样的人才，凭什么让它决定现在录取什么样的人才呢？

第二个问题是“正确”根本就没有“正确答案”。

人的价值观是多元和多变的。有的人喜欢现代高科技生活，有的人喜欢古代乡村生活。有的人现在喜欢这个，将来会喜欢别的。对错都是相对于一定的价值观的，如果价值观都能变，AI 又怎么能知道什么是对什么是错呢？

事实上现在有些研究无人驾驶汽车的公司要给 AI 设定道德准则，就已经面临这个问题。世界上根本就没有一个客观和逻辑自洽的道德系统，在有些问题上 AI 不管怎么选都是错的。

好。那这两个问题一直都存在，我们人类以前的决策也都说不清对错，现在让 AI 决策，总归还是比人类自己决策好一点儿吧？

不是。人类的决策中有大量的错误，其中有很多错误是因为判断不准确导致的。AI 本质上也不知道什么是正确答案，但是 AI 的判断更准确 —— 这就意味着，人类犯的错误是多种多样的，而 AI 犯的错误将是系统性的。

从演化角度，多样化的错误比系统性错误要好得多！生物进化本来就是要在各个方向上多样性的尝试，等待自然选择。正因为未来不可预测，多样性是系统稳定性的保障，是人类文明能持久存活的基础。

AI 的优势是少犯错，但犯错恰恰是人的优势，也可以说犯错是一个基本人权。人类做主的社会中有很多错误，有很多遗憾，甚至有很多不幸，但是也有很多惊喜，有很多活力，总是在你出乎意料的地方发展壮大。AI 主导的世界里一切都是“正确”的，那才是最可怕的。

犯错误是人的弱点，但也可以说是人的特点和风格。有些事儿当时看是错误，时间长了未必是坏事。逃课打游戏、一怒之下跟领导翻脸、为了理想不管不顾，这样的人身上充满了人性的魅力。社会就是在各种错进错出、不安和危机之中前进。什么都符合算法的生活没意思。

所以我认为系统需要反叛者和搅局者，绝对不能交给 AI 专制。

> 万维钢
> 就是我对于王老师这个问题的回复，希望也能对你有一点启发。
> 同时，我也向王老师请教了一个问题，这个问题是这样的：

> 自然选择机制到了这个时候，对人类是否还有效？你是否担心，长此以往，人类的基因整体变差？

> 生物进化的机制是用自然选择淘汰不好的基因突变，留下好的基因。自然界一直都是基因好的个体拥有更大的生存权和生育权。人类进入文明时代，特别是工业革命以后，个人权利和基本医疗条件都大大改善，平等观念深入人心，几乎每个人都有同样的生存权和生育权。身体天生比较弱、甚至有遗传疾病的人，也有几乎同样的机会留下后代，传播基因。请问王老师，自然选择机制到了这个时候，对人类是否还有效？你是否担心，长此以往，人类的基因会整体变差呢？

> 王立铭老师的回复，将在明天的日课里分享给你，非常精彩，你一定要来。
> 最后再次向你推荐《生命科学50讲》。王老师说：“生命是一场持续了40亿年的无可奈何。”为了搞明白这句话，这门课真的值得你学习一下。

![图片](https://piccdn3.umiwi.com/img/201805/31/201805312116403709402840.jpg)
