## 558｜WAIC大会观察笔记之一：大神辛顿警示AI如小虎崽，将来可能会失控

你好，我是快刀青衣，欢迎收听快刀广播站，每天带你看AI。

从今天开始，连续三期专栏，我都会跟大家聊一场正在进行中的AI圈盛会，那就是WAIC世界人工智能大会。整场大会的规格非常高，主办方是国家发改委、工信部、科技部等多个部门，还有上海市政府。自2018年举办首届以来，现在已经逐渐变成一个全球级的人工智能行业大会了。

今年的大会尤其火爆，我看到不少同学都在学习圈的群里说现场一票难求。确实，在今天的开幕式上，AI教父&诺奖得主辛顿、谷歌前CEO施密特、香港科技大学校董会主席沈向洋、图灵奖得主&中国科学院院士姚期智等非常多AI领域的顶尖专家都来了，含金量非常高。

关注人工智能的同学都知道，全球虽然有谷歌I/O、英伟达GTC这些大型开发者大会，但都是基于单个公司的，也有一些顶级学术会议，但那都是学者才会关注的。而咱们上海办的这个世界人工智能大会，简称WAIC，其实会更加丰富多样。

既有顶级学者在论坛上发表观点，同时也在线下有大片的展厅，里面只要是AI类的企业，从大模型到数字人，从机器人到新能源车，都提供了自己的舞台。

并且里面不但有腾讯、百度这些互联网大厂，也有Kimi、智谱等AI新贵，还有宇树这些火热的机器人公司。

除了这些大公司，也会有一些特色的或者新兴的AI小产品展示空间。例如咱们AI学习圈和Get笔记一起，就在H2展厅最角落的地方，占据了一个很小很小的展位。当然，虽然小，但毕竟没有花钱，所以非常心满意足了。

之所以没有花钱，就是因为组委会的朋友觉得咱们AI学习圈里全是对AI感兴趣的高质量用户群体，所以才让我们也能参与到这次大会中。

当然，如果有同学来参加这次大会的话，欢迎来展位打卡留念。

---

我们说回今年的大会，可以说这次无论是嘉宾的质量，还是整体的关注热度，都比往年有了明显提升，同时也有了非常多的分论坛和参展AI产品。

作为大家的学习委员，其实我起到的作用就是帮大家筛选和划重点。大家在得到App里，就会发现关注这场大会，我们会提供几场直播，第一天上午的开幕式就不用说了，下午直播的是中国AI+教育的前沿案例专场。

第二天上午直播的是具身智能机器人专场，下午直播的是AI视频专场，讲的是AI视频如何改变影视、游戏、电商等行业。第三天上午直播的是AI落地专场，讲的是不同企业的AI最佳实践。

这些直播场次是怎么出来的呢？不是官方直接提供给咱们得到AI学习圈的，而是他们会提供一个所有活动或者论坛的清单，让我们选择想要直播的场次。我就从100多个主题论坛里，给大家选出了5场会感兴趣的，给同学们直播。

不过除了得到App直播之外，我自己也会在展馆里参观交流，给大家分享一些我自己觉得挺有意思的AI产品，也会在这三期的前线直击小专题里提供给大家。

---

今天这期，我主要跟大家分享一下自己在上午开幕式的感受，就算是我第一天给大家交的学习笔记吧。

通常，我们看一场大会的规格，都会关注开幕式谁来发言。而今年这届大会的规格非常高，请到了2024年的诺贝尔物理学奖获得者杰弗里·辛顿。

当我知道这届的开幕式嘉宾是辛顿时，真的是为明年的开幕式捏一把汗——这开局已经是王炸的话，明年的嘉宾邀请挑战可就太大了。

不过，大家不要以为我是因为辛顿“诺贝尔奖得主”的这个身份感到惊讶。说实话，最近这些年，随着我们很多活动的影响力扩大，很多世界顶级的企业家或学者来中国参加活动并不罕见。

真正让我惊讶的是，这人是辛顿：首先，咱们AI学习圈的同学对辛顿肯定不陌生，我们讲过他很多事情，包括他去年获诺贝尔物理学奖那天，我跟大家非常详细地介绍过他。

他在AI圈的地位从“AI教父”的名头就能看出来，另外现在我们知道的很多AI领域顶尖科学家，比如OpenAI前首席科学家伊利亚等，都跟他有着千丝万缕的联系。当然，如果嘉宾是辛顿，大会能邀请到他现场发言，含义就非常不同了。

为什么这么说？辛顿的腰一直非常不好。《深度学习革命》这本书里曾提到，当年谷歌和百度为了竞拍他和他的两个学生，出价非常高，最后辛顿制止了双方继续加价，因为当时他觉得以自己的腰伤情况，很难乘坐往返中美的飞机去谈判。

据说谷歌曾经为了让辛顿参与重要会议，采取了让他平躺在飞机上的特殊安排。所以从这些细节就能知道，这次上海世界人工智能大会能请到辛顿第一次来中国并做演讲，是一件多么不容易的事情。

---

介绍完大会背景，我跟大家分享一下开幕式上辛顿到底说了什么。虽然他的发言只有20分钟，但信息含量非常高。

首先，辛顿用非常简短的3分钟介绍了AI的发展历史。

说实话，这几分钟提到的内容，可能每一本讲AI历史的书或文章里都会涉及，平时看你可能会觉得没什么信息量，但当讲的这个人是辛顿时，那感觉就不一样了。例如他非常神情自若地说：“1985年的时候，我做了一个非常非常小的模型，就是要做这方面的研究。”

这时你就会联想到，正是因为他自己坐了40年的学术冷板凳，在人工智能不被任何人或机构看好的情况下依然坚定地做研究，才有了后来人工智能深度学习的突破，像热血爽文一样，AI突然间爆发形成了现在万亿规模的产业。

接下来，他讲到了现在大语言模型的特点，提出了一个会让人稍微一愣的问题：现在的AI真的理解我们的语言吗？

他举了乐高的例子。他说我们可以想象一下，每个词都是一块可以变形的、拥有几千个维度的乐高积木，每个积木上都长满了“手”，也就是有很多连接点。

一句话中的两个词在一起，会随着上下文语境的不同，不断调整自己的形状，以最合适的方式“握手”、连接，从而构成有意义的整体。

一旦一句话中的某个词发生变化，它与另一个词的“握手”方式就会不同，AI模型会调整不同权重来优化整体。想想看，这跟我们人脑处理语言的方式几乎一样——同样一句话，在不同环境下从不同人的嘴里说出来，含义可能完全不同。

所以辛顿认为，人类也会像大语言模型一样产生“幻觉”，例如对同一句话的理解存在差异。

辛顿表示，虽然人脑和AI的原理看起来相似，但两者存在根本上的不同。人类可以称为“生物智能” ，AI则是“数字智能”。数字智能可以实现软硬件分离，它的知识能够永生，并且完美共享。

例如一个AI模型的知识可被无限复制到不同的硬件上，即使一部分硬件被毁了，知识还依然存在。更值得关注的是，成千上万的AI副本可以各自学习，再通过调整权重，瞬间共享所有的学习内容，这种知识转移速度可能比人类快几十亿倍。

而人类的生物智能中，想法和思考跟身体这个硬件是紧密绑定的。即便一个人掌握了某些知识，也需要通过语言等低带宽的方式表达出来，每秒只能传达几十比特大小的内容，无法像AI那样，把脑海中的所有内容和知识一键复制给他人。这正是两种智能的根本差距——AI的进化速度将远超人类，因为它们学得更快、更多。

基于AI的进化速度，辛顿教授抛出了他近两年多次呼吁的那个观点：我们正在创造进化极快的AI，如果不加强对它的控制，很可能会失控。

他说，随着AI进化不断加速，各类智能体已经开始深入生活的方方面面，它们持续复制并分享权重；而人类生物智能难以快速分享知识。所以辛顿说，几乎所有专家都认同，未来会出现比人类更聪明的AI。

但人类从未遇到过比自身更智能的生物。有些人觉得这一场景难以想象，辛顿直言说：“想象一下鸡如何看待人类，这种智能差距可能就是未来人类与AI的差距。”

那么从AI的角度来说，它们肯定倾向于做两件事情：一个是更好地生存，一个是获得更多的控制。

有些人会觉得给它们断电是不是就可以了，但大家想想看，如果我们是3岁小孩，AI则拥有成年人的智力，那么它们来说服3岁的我们不要把它们关掉，是一件很简单的事情。

辛顿举了一个特别贴切的例子，说现在AI就好像是我们养的小虎崽，是个很可爱的宠物。但是如果我们一直养着这只老虎，那么我们必须确保当它长大了之后，不会把我们杀掉。未来我们可能只有两种选择：一种是你要把它训练好，让它绝对不会想伤害人类；另一种就是你提前把它杀掉。

辛顿说如果把AI看作这只小虎崽，我们不可能杀掉它或者放掉它，因为AI还可以做非常多有用的事情，我们已经离不开了。那么我们必须找到一个方法，来控制AI不朝着控制人类的方向发展。

说到这里，辛顿还提到了当年美国和苏联的冷战。他说，虽然两个国家还是针锋相对，但在核战争问题上，两个大国的立场是一样的，那就是都不愿意发起战争。

而现在的AI时代，虽然不同国家之间会有各种人才竞争、能源竞争，在AI的很多领域内都不再合作，但在AI安全这个问题上，各国应该像当年对待核武器一样，需要建立共识和合作机制。

---

上面我跟大家分享的，就是这次大会开幕式上最重磅的嘉宾——诺贝尔物理学奖获得者、AI教父杰弗里·辛顿的演讲，演讲标题是《数字智能是否会取代生物智能》。

接下来的两天，我会重点跟大家聊聊，自己在世界人工智能大会的展区现场，看到了哪些眼前一亮的有趣的AI产品和分享。欢迎你持续关注，也欢迎你把大会的系列观察日记分享转发给你的朋友，带他们一起了解AI前沿。

另外，大会首发的趋势报告、白皮书等资料，我的同事也为大家做了汇总，可以到文稿区，微信扫码添加AI学习圈小助手领取。好，明天咱们接着聊AI。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025072623/1882854807555883552/072623.png)

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025072623/1882854818293301792/072623.png)
