## 第五季结束语：智慧和智能

这是精英日课第五季的最后一讲。感谢你陪我们走到这里，对我来说这真是悲欣交集的一年。专栏进行过程中，我父亲在五月因为癌症去世，母亲又在九月因为新冠重病。得到都给我放了假，后来我母亲也转危为安，但我内心的一部分当时是极不愿回来。我想人到中年不幸如此，又还有什么话可说的呢？然而另一部分我却是知道，现在有太多话是应该说的。

更何况2023是何等精彩的一年。

精英日课是个没有课程表的课程，我们在出发的时候并不十分清楚路上会得到什么。我们专栏的宗旨是「帮你和全球精英大脑同步」，我们并不知道全球精英在未来一年里会有什么新思想。当然历经时间考验的思想往往更容易被记住，但作为一个前物理学家，我认为「新」具有最高的价值：新代表进展，新代表最高明的理解，新代表有一部分不确定变成了确定，然后我们又看到更多的不确定，新理论比旧理论更可能正确，新问题比旧问题更值得注意。所以我们总是讲新发现、新观点、解读新书。

2022年十月第五季刚开始，我们根据手头现有的资源规划了两条探索路线，相当于两支探险队，一个是「智慧」，一个是「智能」。

✵

智能是理解复杂事物、学习新知识、运用知识解决问题的能力，是在给定目标的前提下研究如何实现目标；智慧则是选择目标的能力，为此你需要反思和超越自我、需要道德判断、需要从他人的视角考虑问题。

智慧是古老的话题，但是这一季的智慧探险队从一开始就收获颇丰。我们讲了希滕德拉·瓦德瓦的《内部掌控，外部影响》、尼尔·泰森的《星空信使》、蒂姆·帕尔默的《首要怀疑》、拉斯·罗伯茨的《野生问题》、凯文·凯利的《生活的卓越建议》、乔治·吉尔德的《后资本主义生活》、托马斯·索维尔的《社会正义谬误》、罗伯特·萨波斯基的《注定》，以及摩根·豪泽尔的《一如既往》。我们中间还穿插讲了一些有意思的概念，包括价值观、边界感、身份认同 、对世界的信念等等。

智能探险队也稳定地找到了想要的宝藏。我们讲了摩西·霍夫曼和埃雷兹·约耶里的《隐藏的博弈》、理查德·鲁梅尔特的《关键难点》、 杰弗瑞·菲佛的 《权力七规则》、赛斯·史蒂芬斯-大卫德威茨的《别相信直觉》、萨姆·塔塔姆的《演化想法》、傅以斌的《怎样做成大事》、彼得·阿提亚的《超预期寿命》、肖恩·帕里什的《清晰思考》和亚当·格兰特的《隐藏的潜能》等书。我们还讲过像「和见」、超级老年人、规模思维模式之类有用的观点和思维。

我们报道了詹姆斯·韦布空间望远镜的新发现，物理学家对质子的新理解，我们借助克里斯·米勒的书，用美方视角梳理了《芯片战争》。我们还跟着也是患病并且转危为安的李硕老师的《翦商》重新认识了商周之变。

本来也就一年的功夫，能有这些收获已经不错，毕竟经历了很多事情之后你不敢对未来抱太多的期望……哪知道智能探险队遇到一个意外的大事件。

✵

AI时代，真的到来了。

其实我们专栏早在第四季，2020年7月30日就有一期叫《GPT-3：一个令人震惊的人工智能模型》，向你正式介绍过OpenAI的GPT模型。当时这个模型还没有公测，我没有第一手经验只能综合报道别人的体验，感觉很不解渴，只能等待将来。

第五季刚开始不久，我们注意到AI已经可以根据一段文字输入来画图，而且我们专栏主编筱颖学会了。我们默默地把每期文章的题图都换成了AI画，结果只有一个读者发现了不同。AI话题开始变热，于是我们在11月18日就发了一期《我们专栏用上了AI》。

我开始用OpenAI网站上的Playground演练GPT-3。

11月30日，OpenAI发布了ChatGPT。当时它的功能有限，用的模型也不是最新的。

12月9日，我把使用心得介绍给你，专栏发表《你也应该用GPT-3了》。

2023年2月1日，OpenAI 发布了收费的ChatGPT Plus。这回ChatGPT成了一个非常严肃的服务，ChatGPT这个词也开始全面流行开来。一系列使用下来，所有人都感到语言模型已经不只是好玩、能用，而是已经在威胁人类工作了。

3月3日，我们专栏发表了《人要比AI凶》，再次升级对AI的关注。

3月6日，我们索性推出了《AI专题》，这个专题后来总共写了17讲正文和3讲实操指南。

3月14日，OpenAI发布了GPT-4。剩下的就都是历史了。

我们一边学习ChatGPT的用法，一边了解AI的原理，一边钻研现在最厉害的几个头脑 —— 包括沃尔夫勒姆和基辛格 —— 对AI时代的评价和展望。我们还特别讲了OpenAI CEO山姆·奥特曼的思想，我估计在后来奥特曼被董事会突然开除的那几天，你会对局面有充分的掌控感。

但是我们对AI时代的大局面可没有掌控感。如果机器已经如此智能，人的位置又在哪里？沃尔夫勒姆等人给我们吃了一点定心丸，但是我们的心还不够定 —— 也不可能定，我猜沃尔夫勒姆也不敢肯定将来会怎样。

我们需要新时代的新智慧。

✵

智慧探险队一看这个形势，就主动出击，看看关于「人」，我们现在到底了解到了什么地步。这就是13讲的《意识红色胶囊》专题。

AI突飞猛进的同时，脑科学也在突飞猛进，科学家借助最新的实验手段取得了惊人的发现。

我们了解了「内感受」这个概念，它是人的第六感，原来身体会比大脑先知道一些事情。我们原以为是大脑在做决定，现在看更多地是身体感知、身体直接做动作、大脑在事后才意识到发生了什么。

我们学习了「受控的幻觉」和「预测处理」这几个关于人的意识的新学说，我们更深地理解了「自我」和「身份认同」的原理，我们再次找到沃尔夫勒姆，见识了他从物理学层面对意识的新理解。

而这些知识是可以付诸应用的。我们学会了怎样使用个人叙事、为什么要活在当下，我们甚至把意识的新科学和古老的「业力」概念联系在了一起……

✵

把两支探险队的成果综合在一起，我们得到一些有意思的东西。

每当科学家和哲学家试图解释AI的工作原理的时候，他们会先讲「神经网络」，然后一定会跟人脑的神经网络作类比。可以说脑科学的进步一直在帮助AI研发。我们越理解人，就越能做出更好的AI。

而当科学家和哲学家试图解释人脑的工作原理的时候，他们也常常会跟AI对比。我2023年学到的一个最重要的认知是，人脑跟AI最大的不同，是人有身体和历史。身体感知是我们意识的一部分，历史记忆造成了我们的价值观和倾向性。

人之所以是人，是因为我们有身体，我们有历史 —— 我们不是可以随便设定的机器，我们是「活」的，我们有情绪、性格、品格和业力。抓住这一点，也许是未来指引人和AI关系的关键。

你读专栏可能会发现，我在后期越来越多地使用了「神经网络训练」这个词，我发现这个词特别适合描写人的成长。

AI的智能已经超过了人类，但它有没有智慧现在还不好说。

如何做、怎样做最有效率，AI可以告诉你；但是要不要做、选择做什么，则只有你能决定。

智能甚至可能告诉我们生活*可以*怎样过，但只有智慧会告诉我们生活*应该*怎样过。

ChatGPT很擅长回答「是什么」和「如何」，而你必须拷问自己，「为什么」和「值得吗」。

永远是你用AI，而不是AI用你。

✵

很荣幸跟你一起见证这些。在我父亲最后的日子里，我几乎每天都跟他说一点AI的事情，他很感兴趣，时而评论几句……可惜他看不到后面的进展了。

科技突破快，思想的演化也非常非常快。就在前几天OpenAI政变风波之中，有一场思想交锋引爆了流行话题：e/acc 对 EA。

我故意先写英文缩写，因为只有这样写 —— 而且还要注意大小写 —— 才酷。你现在去问ChatGPT，它还不知道这两个缩写是什么意思，因为它最新版模型的知识是截止到2023年4月。

「EA」是「有效利他主义（Effective Altruism）」。这是一个近年来刚刚兴起的哲学流派，其实我们专栏早在第一季有一期叫《爱心和理性》，就专门介绍过这个流派。EA主张*理性地*对世界做好事。

比如你看到路边有人乞讨，就给人几块钱，EA会说你这么做是不负责任的。你应该算一算把钱用在哪里能做出最大的贡献。同样是这么多钱，给这个乞丐可能他会买杯啤酒喝，捐款给非洲人买一顶防疟疾的蚊帐，你可能就救了人一条命！

EA要求把效用最大化，而他们计算效用的指标是人命，认为能多让人活就是好的。EA当然是人类进步思想的产物，它跟循证医学如出一辙，它要求政府的任何政策都有科学依据，要求经济学家多做实验等等，它在逻辑上似乎没啥毛病。

但你接触EA多了，可能会觉得它有点死板。什么东西都要算个效用，那如果是无法量化的东西呢？非洲的人命是重要，可是我们本国的教育难道就不重要吗？你可能不太认可EA对教育和人命的换算方法。

更重要的是，EA本质上是保守的，它不喜欢新科技，尤其不喜欢AI。EA认为AI是不可控的，有可能毁灭人类。EA要求对GPT进行超级对齐，反对匆忙部署。伯克利是EA的大本营，那里有些住宅禁止谈论AI。

这就引出了EA的反抗者，e/acc —— 也就是「有效加速主义（Effective Accelerationism）」。e/acc 认为历史经验一再证明，科技进步本质上是好的，人根本就不应该控制进步。

这不是为了反对而反对，e/acc也有自己的一套哲学。我们专栏讲泰格马克的《生命3.0》一书的时候说过，宇宙似乎不但喜欢熵增，而且喜欢加速熵增。生命也好，科技也好，都是加速熵增的机制。那么e/acc就认为加速熵增就是天道。超级人工智能符合这个天道，所以我们有义务把它尽早实现。

你可能觉得这是不是有点太离奇，但e/acc的哲学的确比EA更符合进化论，因为它鼓励自发，反对中央控制，相信世界会好的。

EA试图扮演上帝，e/acc只想帮助上帝而已。

这场争论正在愈演愈烈。OpenAI董事会中有几个人是EA，而奥特曼被认为是e/acc，据说这就是奥特曼被开除的最根本原因。马斯克很倾向于EA。我们专栏提到过的哈佛教授史蒂芬·平克对EA抱有好感，我们讲过的《不充分均衡》一书的作者埃利泽·尤德考斯基（Eliezer Yudkowsky）被认为是EA的领袖之一……

✵

事情还在继续，但第五季就到这里。草木会发芽，孩子会长大，岁月的列车不为谁停下。一年多以来我几乎每天都要写一期专栏，有一些有意思的线索还没来得及搞明白……

接下来我需要休息和自由探索一段时间。我们专栏第六季会在明年的某个时候回来。

也许是春天。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2023112522/1826350131910308516/112522.png)

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2023112522/1826350041715996428/112522.jpeg)
