## AI是让人更不像人，还是更像人？

> 万维钢此文是应邀给《中国图书评论》写的书评，咱们专栏读者先读。

关于AI奇点到来之后人类何去何从，2024年出了好几本书，有的乐观有的悲观。尤瓦尔·赫拉利在9月出版《智人之上》，延续了之前《未来简史》的论调，AI可能会失控，会把大部分人变成无用之人，会让民主政治出大问题。雷·库兹韦尔在6月出版《奇点更近》，却是非常乐观，不过他主张人应该通过脑机接口和AI结合，把新皮层的算力扩展到云端，只有这样才能平等地参与到AI的工作之中，确保人生意义。我个人也在今年三月出版了《拐点》一书，综述了最新的AI进展，我的看法更乐观一点。

这里我重点想说的是华东师范大学吴冠军教授9月份出版的新书《再见智人：技术-政治与后人类境况》。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024100920/1855938522389714720/100920.jpeg)

此书可谓是学术版、哲学版的《智人之上》，有很多更激进的新概念。《智人之上》尽管是个并非直译的中文书名，但也恰当表达了赫拉利要求AI以我们「智人」为本的主张 —— 而吴冠军则干脆提出「后人类主义」，主张人，human being，也许会失去做政治主体的资格，会让位给AI之类的广义的人，human becoming：再见吧智人。

当然吴冠军不是要求智人让位，而是担心这种变化可能成为不可避免的事实。

库兹韦尔的「外接AI说」，赫拉利的「恐惧AI说」，吴冠军的「让位AI说」，说的都是智人这个物种的存在危机。我作为一个智人，想借此机会探讨一下继续做普通智人的可能性。

✵

咱们先看《庄子》里的一个小故事。

子贡在各国游历，偶遇一个种菜的老翁。只见他从井里打一罐水，用手抱着那个瓦罐走出好几步去给菜地浇水，十分费力。子贡就上前说，现在有一种设备叫桔槔，是个杠杆装置，一头吊一块大石头，另一头系着水桶，打水、移动都很轻便，你咋不用呢？

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024100921/1855942850643007264/100921.png)

老翁说，我听说过那个技术，我是故意不用。那东西会让人有投机取巧之心，而这种思维会使心神不宁，破坏纯朴天性，人就不能承载大道了 [1]。子贡没想到老翁是个哲学隐者，感到很羞愧。

这个故事告诉我们两件事。一是早在古代，最简单的农业技术，就已经被人担心了。二是终极的担心不是人的工作会不会被技术取代，而是技术会不会让人变得不再像人。

我们仍然有这样的担心。

✵

唐娜·哈拉维（Donna Haraway）早在1985年就发明了一个概念叫「赛博格（Cyborg）」，意思是某种半人半机器的东西，认为这个东西有可能成为政治主体。吴冠军则进一步提出，如果我们把技术存在理解为体外器官，不用等AI，其实人早就已经是赛博格了。赫拉利的神人也好，库兹韦尔的连上脑机接口的人也好，拿着手机的你也好，都跟春秋隐者眼中用桔槔的人一样，都是赛博格。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024100921/1855942880707811316/100921.png)

我们对赛博格的担心有两个。

一个是不平等：会不会少数赛博格被AI赋能之下变得过于强大，而其他人则成为无用之人？比如有的说法是只有2%的人控制未来，剩下的人都会被“淘汰”。

另一个是赛博格社会的民主政治会不会空壳化。吴冠军说：「人工智能在人类社会的 “全面赋能”，正在导致人们陷入 “系统性愚蠢”。」

关于第二个担心，赫拉利关注的机制是信息建立秩序，AI会创造新的「主体间现实」，从而创造新的可能会压迫人的秩序。吴冠军则认为政治的关键在于人与人之间的互相信任，他要求让政治智慧和技术智能交织前进，不能只演化技术不演化政治。

这些担心都很有道理，但我们不应该只看到危险的趋势，也应该看一看技术带来的好消息。你得正反两方面综合考虑，在演化现场分析具体问题，不能一拍脑袋就说个2%。

✵

我先提供几个2024年最新的正方证据，看看AI在取代人方面有什么新成就。

斯坦福大学的研究者让人类医生和GPT-4做医学诊断方面的推理测验题 [2] ，发现人类医生自己做，答对了73%，人类医生借助GPT-4一起做，则答对了77%，差距不大。但有意思的是，如果不让人类医生插手，GPT-4自己做那些题，正确率却是高达88%。

至少在这个研究的题目上，AI的诊断水平已经高于人类医生。人的参与是对AI的干扰。

这还只是GPT-4，它已经不是当前最厉害的大语言模型。我们可以想见，一两年之内，AI做医学诊断的水平会明显超过人类医生，正如AI的自动驾驶水平已经超过了人类司机。

有人可能说，AI或许模式识别能力强，但是它没有创造力……那我们再看还是来自斯坦福大学的另一项研究 [3]。研究者选取自然语言处理方面的七个科研议题，让一些在一线搞科研的人类计算机科学家对每个议题提供研究想法。这里专门有金钱激励：每个想法300美元，入选前五名另给1000美元奖金，确保人类专家卖力。与此同时，研究者用AI（模型是Claude 3.5 Sonnet）也对每个议题生成想法。然后得到的所有科研想法被打乱在一起，让另一组人类专家做独立评审。

结果在新颖度、激动人心程度、有效度三个方面，AI的得分都超过了人类科学家。AI的想法只在可行度上比人类专家稍微逊色，但是得分只低了一点点。

现实是AI比人更有创造性。这是因为它们比我们见多识广，它们能考虑的想法空间比我们大得多 [4]。

我们曾经认为人最大的优势就是更能理解人，可是现在有研究证明，AI比人更能准确识别其他人的情感，甚至更会说服人，更善于做心理咨询…… [5]。

除了运动员和演员之类纯粹看人的项目，谁也不敢保证，有哪个工作是人一定比AI做得好的。OpenAI九月新出的o1模型已经获得了复杂逻辑推理能力，它的智商达到120，超过91%的人类。

但这是不是说人就会被淘汰呢？

✵

能做人的工作不等于能替代人，更不等于要淘汰人。作为反方的论据，我敢说至少在两件事上，AI很不像人。

第一件事是AI没有痛觉，所以它不能承担风险责任。

如果一个AI犯了法，你能把它关起来吗？AI不在乎惩罚。仅仅因为这个原因，人类医生就不会被AI替代。我不管你那个诊断意见是不是借助AI写的，诊断书上签字的必须得是人。手术的决定也必须由患者本人或者家属同意，而不能是患者的AI助理说行就行。AI再厉害，大事也必须由人类拍板，核按钮必须掌握在人类手里。

第二件事是AI没有真正的主动性，所以它不能做发起者。

AI可以做很多工作，做很好的研究，但它不会生成*为什么*要做那些工作和研究。我们为什么偏偏生产熊猫形状而不是河马形状的玩具？我们为什么偏偏对那个东西最好奇？AI必须服从人的偏好。

而人的偏好是由个人经历、人群历史文化传统、乃至于亿万年演化写在基因里的倾向性共同决定的，那些变量太多无法全部量化。为什么你偏偏喜欢这个而不是那个，那一念之差是无法预测的。

正如吴冠军所言，爱不能算法化。

这两件事其实是同一件事，那就是AI没有意识。智能和意识是两个不同的东西。现在关于意识的说法百家争鸣，我在《精英日课》专栏多次讲过。简单说，我最喜欢史蒂芬·沃尔夫勒姆（Stephen Wolfram）的定义，意识是一个「连贯线索的体验（coherent thread of experience）」[6]—— 单凭这一点，你考察一下大模型的训练方法，就知道AI不可能拥有真正的意识：它的训练和推理是分开的，它没有自己的历史叙事。

当然AI可以假装自己有意识，但我们只要控制它的训练，就能确保它不会真的有意识。

这就解决了第一个担心，人不会被淘汰。

有意识的个体怎么会被淘汰呢？如果你相信你家的小狗有喜怒哀乐，能共情，你会淘汰它吗？不用说AI，就算是外星人占领地球，也不会像对待蚂蚁一样对待我们：有意识就有尊严，有尊严就有人权。

有人权就必须有事儿做。就算不做生产者，做个消费者也好啊？你可以决定流行潮流，你可以赞助艺术，你可以影响社会，一个产品好不好终究是你说了算，这难道不是贡献吗？随着中国老龄化，有大量的人已经是不工作的，你能说这些人被淘汰了吗？

✵

对于第二个担心，AI会不会用传播虚假信息之类的方式让民主政治失效，我也可以提供一些反方意见。

所谓AI通过传播虚假信息干预选举，有据可查的案例只有2018年的一个，是一家叫剑桥分析（Cambridge Analytica）的公司在Facebook定向投放信息影响人们对某个候选人的态度，吴冠军和赫拉利都引用了。它的特点是规模很小，没有起到什么作用，而且没有重复。现在的AI比那时强大的多，而美国大选正是如火如荼，却没有任何迹象表明有人在用AI操纵选民。

其实正如雨果·梅西尔（Hugo Mercier）在《你当我好骗吗》一书中所说，人没有那么容易被操控。不用说AI，就连现在的广告和当初纳粹的宣传，也没有真正欺骗很多人。

你要知道说服和预测人们喜欢什么东西，是世界上最难的事情之一。好莱坞花那么多钱研究都搞不清楚观众会不会喜欢下一部电影，各路产品经理，什么“网络推手”花那么多力气，也不能保证引领一次流行。

大模型的确有时候会说胡话，但用户终究会察觉到。算法的确曾经在比如说招工录取和贷款审批这样的事情上给过人不公正的对待，但是人会抗议。现实是“知道自己吃亏、自己的自由受到限制”并不需要很高的智能。如果AI压迫老百姓，老百姓会反应。

能长期压迫人、蒙蔽人的从来都不是智能和算法，而是权力。

✵

吴冠军在全书最后提出，技术的演化有它自身的能动性，这无疑是对的，正如凯文·凯利在《科技想要什么》一书中也表达过类似的思想。但我要说的是，正如生物演化有个「自然选择」，技术的演化也会受到「人的选择」的限制。

比如说，现在有很多公司在研发人形机器人 —— 为什么非得是“人形”呢？机器人为什么不能脱离人的传统而演化呢？

因为这个世界的各种基础设施 —— 马路、房子、楼梯、厨房的灶台 —— 都是为人定制的。你的机器人最好也是两条腿走路，上我们的楼梯才方便；最好身高也在1米7左右，才好在厨房切菜。我们不可能是为了哪家的新型机器人把所有基础设施改造一遍。

这就是历史路径依赖的力量，正如键盘上的字母只能这么排列，火车轨道只能是这么宽。不是因为人比机器优越，仅仅是因为人先走了一步。

哪怕只是出于路径依赖，「科技以人为本」也必须继续成立。

✵

作为一个有效加速主义者，我更要提醒读者的是，科技带给我们的好处远远大于坏处。不但科技没有让人异化，而且正是科技让人更像人。

正因为有了桔槔那样的设备，农业生产力才能提高，才能允许像孔子这样四体不勤五谷不分的闲人专门思考哲学问题。那位用笨办法干农活的隐士自以为道德完整，可是他每天能有多少时间读书思考，他对社会道德文化有什么贡献？

如果没有洗衣机、电冰箱、电饭锅这些东西，世间绝大多数人不会有高质量闲暇时间。到底是一个整天忙忙活活做家务活的人更像人，还是一个会欣赏艺术，有时间唱歌跳舞的人更像人？我曾经靠读书开拓思维，我从来没见过有人用花力气抱着水罐浇地的方法悟道。

是，有些科技产品，比如短视频，让人表现得很愚蠢。但难道说现在那些整天刷抖音的人，在智能手机发明之前都在整天读哲学书吗？当然不是。他们本来也不会读书，他们大约会凑在一起聊些家长里短的八卦而已 —— 现在抖音让这些人改为关心明星的八卦，这似乎不是退步而是进步。

民主生活的确显得比过去更低级了，特别是特朗普这样的人让政治辩论越来越弱智。但这恰恰是因为时代进步了，以至于不是那么聪明的人也出来讨论政治了。那些人以前是看不见的底层，根本不在政客们的关注范围之内。现在互联网给了他们参政议政的场所，这难道不是好消息吗？我们完全有理由认为当前的愚蠢只是暂时的，未来在AI的帮助下，人们越来越容易理解国家大事，政治辩论会再次变得高级。

AI是给人赋能，而不是让人失能。

春秋时代的君子们之所以有精力谈论仁义礼智信，是因为小人 —— 也就是底层民众 —— 包办了所有的工作。所以将来就算人人都不必工作，那也是个好事而不是坏事：那将是一个人人是贵族，人人有机会做圣贤，人人如龙的时代。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024100918/1855931394891519988/100918.jpeg)

注释

[1] 《庄子·外篇·天地》，原文是：「有机械者必有机事，有机事者必有机心。机心存于胸中则纯白不备。纯白不备则神生不定，神生不定者，道之所不载也。」

[2] Ethan Goh et al., "Influence of a Large Language Model on Diagnostic Reasoning: A Randomized Clinical Vignette Study", medRxiv 2024.03.12.24303785; doi: https://doi.org/10.1101/2024.03.12.24303785

[3] Si, Chenglei, Diyi Yang, and Tatsunori Hashimoto. "Can LLMs Generate Novel Research Ideas? A Large-Scale Human Study with 100+ NLP Researchers." *arXiv*, September 6, 2024. https://doi.org/10.48550/arXiv.2409.04109.

[4] Han, Sukjin. "Mining Causality: AI-Assisted Search for Instrumental Variables." *arXiv*, September 21, 2024. https://doi.org/10.48550/arXiv.2409.14202.

[5] 人的智能是AI的上限吗？（上）

[6] Wolfram, Stephen. "What Is Consciousness? Some New Perspectives from Our Physics Project." Stephen Wolfram Writings, March 22, 2021. https://writings.stephenwolfram.com/2021/03/what-is-consciousness-some-new-perspectives-from-our-physics-project/.

### 💡 精华要点
- 1.能做人的工作不等于能替代人，更不等于要淘汰人。AI没有意识，人类作为有意识的个体不会被淘汰。
- 2.科技带给我们的好处远远大于坏处。不但科技没有让人异化，而且正是科技让人更像人。
- 3.AI是给人赋能，而不是让人失能。
