## 835｜1%的人怎样对待99%的人，AI就会怎样对待我们

精挑细淘，得到头条。我是李南南。

今天是开年特别节目“1000天后的世界”最后一期。

过去几周，我们一直在谈论AI带来的影响，但这些影响能否实现，实现到什么程度，其实都取决于一件事，AI本身的能力。因此今天，我们就从这个根本问题说起：1000天后，AI技术本身能发展到什么程度？

关于这个问题，今年出现了很多不同的声音。有人充满信心，认为通用人工智能很快就会出现，也有人并不看好，比如被称为“强化学习之父”的理查德·萨顿，他认为目前的技术路径，永远不会实现真正意义上的通用人工智能。

其实，这些专业名词，比如AGI、通用智能、ASI之类的，你根本不用管，只是叫法不同而已。我们真正需要了解的，是这些名词背后对应的，AI的能力节点。

我们可以给市面上的观点归归类，你会发现，未来的AI技术，主要面临着三个能力节点。每突破一个，都意味着能力的极大跃迁。

第一个能力节点，我们可以称之为，顶级答题者。

简单说，就是基于既定目标，能完成得比人类更出色。注意，关键词是“既定目标”，也就是人类设定的目标。

假如按照这个标准，你甚至可以认为，现在世界上最好的围棋手、最好的写作者、最好的医疗诊断专家，都已经是AI而不是真人了。

比如，在讲故事方面，过去人们都觉得，这是个需要创造力的事，AI并不擅长。但是，中国社科院的研究员施爱东老师发现，AI在讲述“套路故事”方面，已超越人类。2024年，日本芥川文学奖的获奖者甚至公开表示，自己小说里的内容，有相当一部分内容就是用AI写的。

再比如，医疗诊断领域，据说AI目前对一个病例的诊断速度，已经达到了1秒以内。这个速度要远超人类医生。

在很多领域，AI都已经达到甚至超越了人类顶尖水平。但它们有一个共同特点，都是在“既定目标”下完成任务。下棋、写文章、做诊断，这些目标都是人类预先设定的。AI无法自己决定“我今天想做什么”。

这就是第一个能力节点，顶级答题者。这个节点，AI已经在快速实现中。

第二个能力节点，我们可以称之为，出题者。

也就是，懂得自定义目标，能够自己决定“该做什么”。腾讯首席AI科学家，前OpenAI的科学家姚顺雨最近有个判断，叫，AI正在进入“下半场”。什么意思？上半场是“能做什么”，下半场是“该做什么”。上半场拼的是执行力，下半场拼的是判断力。

那么，AI在这个能力节点上进展如何呢？

2025年被称为“智能体”元年，智能体，指的是可以通过设计好的流程工具，自主解决复杂问题的AI。注意，关键词是“自主”。不用步步指挥，而且有短期记忆和长期记忆，还能调用外部工具。

听起来很厉害，对吧？但注意，这里的“自主”，仍然有很大的局限性。因为这些AI系统仍然需要人类设定最初的目标和奖励函数。

什么是奖励函数？简单说，就是告诉AI什么是“好”，什么是“坏”。比如，AlphaGo的奖励函数是“赢棋就是好，输棋就是坏”。医疗诊断AI的奖励函数是“诊断准确就是好，诊断错误就是坏”。这些标准，都是人类预先设定的。

还有一种技术叫目标分解。它可以将大目标分解为小目标，看起来AI好像在“自主规划”。但问题是，最初的那个大目标是谁给的？还是人类。

这就是为什么强化学习之父理查德·萨顿会说，目前的技术路径根本不会通向真正意义上的AGI。萨顿认为，AGI意味着AI能像人和动物一样，从外部世界的反馈中持续学习，并且能够自己产生目标。

而且这里还有一个更深层的问题，价值判断。比如，一个人面临选择，是追求财富，还是追求健康？是追求事业，还是追求家庭？这些选择背后，都有价值观在起作用。而AI目前不具备价值观。

有人说，那我们把人类的价值观教给AI不就行了？问题是，人类自己都未必知道完美的道德定律是什么。不同的文化、不同的时代、不同的人，对“什么是好”的理解都不一样。你要AI学谁的价值观？

至于AI什么时候能越过这道门槛，即使是在AI业内，人们的分歧也很大。比如，马斯克认为，2030年，AI就能实现完全的自主研究。而OpenAI的团队认为，不用等到2030年，只要2028年就能实现。但据说，有人在AI从业者中做过调研，发现很多人对这个时间的平均预测，大概是2099年。没错，大概73年之后。

因为这不仅仅是技术问题，还是伦理问题、哲学问题。而且，一旦AI能够自主设定目标，试问那个时候，AI的目标和人类的目标发生冲突，怎么办？

你看，在第二个能力节点，就已经出现很多不同的观点了。但是这个节点还不是最高级的能力。

最高级的是第三个，也是最后一个能力节点叫做，自设计。也就是，自己设计自己。

为什么说这是最后一个能力节点？因为到这步，AI已经能够自主设计自己的智能和身体，不用等待人类的指令。到时，AI将完全摆脱人类的束缚。我们在科幻电影里看到的终极AI，比如《黑客帝国》里的母体，《终结者》里的天网，还有变形金刚，都属于这个级别的智能体。

想象一下，AI不仅能改变自己的程序，还能设计自己的物理结构。它可以从碳基生命变为硅基生命，可以从地球生命变为太空生命。它完全摆脱了进化的枷锁，成为“自己命运的主人”。借用《生命3.0》的作者，泰格马克的话说，人类的进化需要几万年、几十万年。但AI的自我迭代，可能一夜之间就完成了，它可能会在某个时刻完成人类永远也完不成的创造。

泰格马克对这个“自设计”的时间点有个预测。他认为，可以“自设计的AI”将在22世纪实现，也就是大概200年以后。到时，人类将彻底退出AI的进化轨道。它一路绝尘，从此再与人类无关。

因此，泰格马克一再强调，在AI进入现实世界之前，必须确保它不会犯错。他还呼吁人类要重新配比资源，把安全性提到第一位。毕竟，试错环节在超级技术研究中是不存在的。

这就是第三个能力节点，自设计。这是最遥远的一个节点，但也是最关键的一个节点。一旦到来，游戏规则彻底改变。

好，说到这，三个能力节点我们已经说清楚了。那么问题来了：这对人类意味着什么？以及每个普通人又该做点什么呢？

关于这个问题，历史学者，也是《AI文明史·前史》的作者，张笑宇老师有个很特别的观点。他认为，很多人的重点都放在研究技术上，但是，还有一件很重要的事可能被忽视了，这就是，我们对待AI的方式。张笑宇老师认为：“1%的人怎么对待99%的人，AI未来就会怎么对待我们。”

什么意思？你看，AI是用人类的数据训练出来的。假如我们输入的数据里，充满了强者对弱者的剥削、精英对普通人的轻视、资本对劳动者的压榨，那么AI学到的，就是这套逻辑。

换句话说，AI如同一面镜子，它会照出人类社会最真实的样子。你输入什么，它就学会什么。我们今天怎么对待彼此，AI未来就会怎么对待我们。所以，假如弱者创造了强者，那么强者应该保护弱者。这不仅是道德问题，更是生存问题。在AI文明真正到来之前，人类必须始终善待彼此。

最后，回到最开始的问题：1000天后，AI会发展到什么程度？这背后，有三个关键的能力节点，顶级答题者、出题者、自设计者。

第一个能力节点，顶级答题者，AI已经在实现。第二个能力节点，出题者，AI正在攻克。第三个能力节点，自设计者，是最遥远也最关键的节点，同时，这也将是最后的节点。一旦AI越过这个能力节点，它将一骑绝尘，它的进化也许再也不需要人类的参与。而AI时代的未来，也许并不来自宏大的设计，而是取决于，我们在日常中如何对待彼此。

说到最后，借用张笑宇老师的一句话作为结尾吧，AI会让我们正视这一代人的愚蠢、贪婪、怯懦和卑劣，更重要的是，它也会让我们培养出更好、更聪明、更强大的下一代。想要做出正确的决策，必须首先成为正确的人。

关于这个话题，咱们先说到这。假如你想了解更多关于AI的思考，推荐你看看我们今年的新版《预测之书》，里面有更加深入的分析。

最后还有个特别提醒，在今年跨年演讲上，我们发布了一款AI硬件，GetSeed录音卡。首发之后很快就售罄了，在这里多谢各位同学的支持。

而最近，我们推出了getseed的新春限定款。2月6日，也就是今天，中午12点，将在脱不花老师的个人成长汇报直播间里，首发开售。

我自己在用getseed，一个月以来，毫不夸张地说，我已经成了它的重度用户。尤其是它特有的发芽功能，能够智能检索你的录音内容，并且根据你的记录，为你延伸出高质量的知识联想。比如，你今天跟朋友聊到某部电影，它可能就会检索出这部电影的导演的某本书，并且给你讲讲幕后的创作方法论。

这个过程，就叫发芽。让你的每句话像种子一样，长出各式各样让人惊喜的知识果实。

今天中午12点，记得来得到首页，关注新春限定款GetSeed录音卡，原价1099元，早鸟特惠只需888元。推荐你入手，让2026年的每个念头，都有机会发芽。

好，以上就是今天的内容。《得到头条》，下周见。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026020611/1900899253656652880/020611.png)

版权归得到APP所有，未经许可禁止转载。

### 💡 精华要点
- 1.未来的AI技术，主要面临着三个能力节点：顶级答题者、出题者和自设计者。当自设计节点到来时，游戏规则将彻底改变。
- 2.AI如同一面镜子，它会照出人类社会最真实的样子，如同张笑宇老师所说：“1%的人怎么对待99%的人，AI未来就会怎么对待我们。”
- 3.AI会让我们正视这一代人的愚蠢、贪婪、怯懦和卑劣，更重要的是，它也会让我们培养出更好、更聪明、更强大的下一代。想要做出正确的决策，必须首先成为正确的人。
