## 083｜AI会失控吗？用“吓尿指数”算一遍就知道

精挑细淘，得到头条。我是李南南。

今天，我将从两个话题出发，为你提供知识服务。第一个是，马斯克联名人工智能专家，发布公开信叫停对GPT的深度训练。第二个是，家电品牌春季密集推出新品。

先来看今天的第一条。最近，AI圈又出大事了。在狂飙了四个月之后，有人出来踩刹车了。而且踩刹车的还不是别人，就是创造了GPT的公司，OpenAI的发起人之一，马斯克。就在上周，据说马斯克和一群人工智能专家，发布了一封公开信，呼吁在未来六个月，暂停对GPT模型的训练。理由是，以免GPT变得过于强大，给人类带来风险。

联名的人还包括，《未来简史》的作者尤瓦尔·赫拉利，当初他提出的那套神人理论，可没少让人扎心。也就是，未来将有绝大多数的人，成为可被AI替代的无用之人，极少数人将成为驾驭AI的神人。

除了赫拉利，联名的人还有图灵奖得主、人工智能专家约书亚·本吉奥，谷歌DeepMind的研究团队，等等。

这个新闻一出，好多人都说，你看，AI果然有威胁，要不怎么连OpenAI的投资人马斯克自己都跳出来叫停呢？这就好比，亲爹跟孩子说，孩子啊，你长得太快了，眼看就要超过你爹了，要不咱们先缓缓？

但是，也有人说，这个公开信的真实性存疑。因为发布公开信的，并不是这些联名者本人，而是一个叫未来生命研究所的非营利机构。而且据说有人专门去找一些联名者求证，但当事人却没有给出明确答复。但话说回来，这个未来生命研究所，可不是什么野鸡组织，人家是个正儿八经的机构。它的发起人，就是著名的人工智能研究者，泰格马克，也就是《生命3.0》那本书的作者。连比尔·盖茨都是他的忠实读者。

但是，咱们且不论联名本身是真是假，这封联名信背后的担忧，你不能不考虑。比如，联名信里提到，我们现在还不能确定AI的影响是积极的。只有我们确定它们的影响是积极的，并且风险是可控的，我们才能继续开发更强大的人工智能。

那么，为什么大家有这个担忧呢？简单说，就是这一轮AI展现出的能力，多少有点失控的架势。注意，这倒不是说AI要叛变，而是，它展现出了一部分，无法预测，也无法解释的能力。

比如，据说就在前不久，AI成功骗过了人类。有人让AI去注册一个网站账号，但其中有一个环节是，要输入验证码。你知道，验证码往往花里胡哨，很难用AI识别。于是，这个AI就想了个办法，通过网络找到一个真人，然后跟对方说，我是个独居的视力残障人士，我想注册这个网站，但是我看不清验证码，你能帮我看一眼吗？结果，对方就帮它看了。这件事本身不大。但是，它反映出的真相可不得了，那就是，AI也许，懂得骗人了。

但是，对于这个传闻，GPT的开发者，阿尔特曼倒不是特别在意。他在最近的一次采访中说，AI至今仍然是一种非常受人控制的工具。但是，他也说了，虽然现在受人控制，但咱们也不能完全放养。按照他的原话，社会只有有限的时间，来弄清楚如何对此作出反应，如何对其监管。说白了，要管趁现在，没准将来哪天就管不住了呢？

再比如，阿尔特曼最近还有一句话在网上流传，说的是，AI确实有可能杀死人类。当然，不排除媒体断章取义的可能。但反过来想，为什么大家对这句话这么在意？为什么新闻一定要拿它当标题？还不是因为，大家对这一轮大模型AI，多少有点担忧吗？

那么，这个担忧到底有没有必要呢？今天，咱们不谈具体的技术细节，而是建立两个，理解AI发展逻辑的模型。

第一个模型，叫吓尿指数。没错，就是吓尿了，那个吓尿指数。你可别一听名字，就以为是网友瞎编的。发明这个词的，可是一位牛人，叫雷·库兹韦尔，著名的未来学家。这个词的原文直译，应该叫吓死进步单元，或者叫，吓死了指数。后来，咱们中国的读者给它起了个别名，叫吓尿指数。这位库兹韦尔，也是这个世界上学位最多的人之一，他有9项名誉博士学位，而且还当过谷歌的技术总监。

所谓吓尿指数，指的是，假如你想用技术把一个人吓尿，最少需要穿越回多少年前？

我们假设，有一部时间机器，让我们穿越回1750年，假设1750年有一个人，叫铁柱，我们邀请他到现代来玩。你觉得，他会不会被吓尿？大概率会。比如，他看着马路上跑着一堆，四个轮子的铁皮箱子。他看到人们从口袋里掏出一个黑了吧唧的铁块，就能彼此联系。还没等你跟他讲互联网、空间站、核武器的时候，铁柱就已经吓尿了。

好，我们继续假设。铁柱被吓尿之后，不甘心。凭什么只吓我一个人？我也得吓别人。于是，他要用时光机穿越。穿越回多少年前才够呢？只往回倒个几百年，肯定不行。因为从1750年开始算，几百年前的技术，跟铁柱那个时代的技术，基本模式是一样的。就好比，你要吓尿一个现代人，给他看iPhone100肯定不够，必须得是他完全想象不到的技术。因此，铁柱想吓尿别人，需要穿越到更久远的过去，比如公元前12000年。那可是石器时代。当时第一次农业革命还没出现，没有城市，也没有文明。

而这个被铁柱吓尿的人，假如再想吓尿别人，就要穿越得更久，比如十万年前。

总之，越往前，吓尿一个人，需要穿越的年份就越多。反过来，越往后，吓尿一个人需要穿越的年份就越短。估计听到这，你肯定意识到，这个思想实验在说什么了。没错，它想说的无非就是，人类的技术发展，是加速跃迁的。

比如，《三体》里有一个设定，只要宇宙里，一个文明发现另一个文明，就一定要把对方毁灭掉。即使对方特别落后。因为这里面，存在一个技术爆炸。也就是，技术的发展模式，不是循序渐进的增强，而是一次次的爆炸。而且技术爆炸间隔的时间，越来越短。就像人类从农业革命到工业革命，用了八千年。而从工业革命到信息革命，只用了上百年。假如从信息革命，再到人工智能革命，可能只需要几十年。

你看，这么一算，我们这代人的吓尿指数，可能会低到一个以年为单位的程度。说白了，没准人工智能过几年，就能把现代人给吓尿了。

听到这，你可能会说，不对啊。吓尿是一回事，但是，AI失控是另一回事。就算AI技术发展很快，我们只要能控制好它，不就行了？不好意思，这件事并不绝对。这就要说到，第二个技术演进的设定，叫涌现。

涌现，这个词，你肯定不陌生。指的是，当一堆个体聚集成群体，数量大到一定程度，就会突然出现一些，原本不具备的能力。比如，蜜蜂、蚂蚁、阿米巴虫，都是聚集成群体之后，突然具备了某种组织能力。

同样，GPT上，也出现了类似的涌现。比如，它的创造者阿尔特曼就曾经表示过，GPT-4也许是人类有史以来，掌握的最复杂的工具，而且它确实涌现出了一些，之前没想到的能力。这些能力是怎么出现的，他也不知道。

说到这，我们得强调一件事。就是涌现的完整定义。过去我们总说，涌现就是个体聚集成群体出现的能力。这其实只是半个定义。涌现的完整定义是，当个体聚集成群体后，将出现一些新能力，且，这些能力只属于整体，无法还原到个体。

注意后半句，这些能力只属于整体，无法还原到个体。换句话说，在涌现出现之前，我们对这个能力，很难看出任何端倪。它是在群体长大到一定程度后，突然出现的。无法预判，无法计算，无法还原。

而且这个技术涌现，往往是跃迁式的。比如，阿米巴虫，够低级了吧？单细胞，除了吃，啥都不会。但是，当一群阿米巴虫聚在一起，它们居然能在同类中，修建一条管道，用来彼此输送食物。而且你知道，这个管道复杂到什么程度？有人专门对比过，它的复杂程度，不亚于东京市的公路网。甚至还有人说，假如未来人类要星际旅行，设计最佳路线，没准可以参照阿米巴虫建造的管道。你看，这个涌现的能力，有多强大？

其实，今天说了这么多，不外乎就两件事。首先，GPT是个关键技术，最新的进展和思考，咱得知道。其次，我们跟着它的发展，时不时做做脑力体操，也挺好。

最后，借用GPT之父阿尔特曼的一句话。通用人工智能，也许永远到达不了乌托邦。但是这个过程，会让人类越来越强大。

---

再来看今天的第二条。我们把视线往回收一收，说说当下的消费品创新。就在今年第一季度，很多品牌都举办了春季发布会。

比如，TCL推出了一款薄嵌冰箱，特点就是薄，据说是小户型的福音。再比如，惠普推出了新一代的打印机，体积很小，适合居家办公。再比如，手机品牌，也陆续推出新品。

但总归，这些新品有一个趋势，就是通过技术创新，来实现产品创新。你可能会说，这还用说吗？产品迭代，当然得在技术上做加法了。

但是今天，我想给你讲一个，截然相反的故事。有的产品迭代，靠的不是在技术上做加法，而是做减法。

这个故事，来自营销专家小马宋老师，讲的是一款婴儿恒温箱。婴儿恒温箱的主要作用，是给相对脆弱的早产儿提供恒温环境，保护他们的健康。据说婴儿恒温箱的出现，让早产儿的死亡率，从66%降低到了38%。

你可能会说，这么好的技术，还不得赶紧推广？不好意思，做不到。因为它，太贵了。一台恒温箱，要4万美元。而且修起来也很麻烦，很多落后的地方即使买了，也没人会修。一个零件坏了，就整体报废。

那么，婴儿恒温箱，为什么又贵又难修呢？因为上面用的，都是比较先进的独家技术。怎么办？有人就想了，能不能替换上一些，不那么先进、不那么独家的技术？这么一来，成本降下来了，维修难度也能降下来。

于是，有个医生就开始尝试，用汽车配件来替代恒温箱上的零件。比如，用摩托车电瓶来充电，等等。你别说，成本还真降下来了。

但是，到这一步，还是不够。因为它归根结底，得用电啊。而有的地方，比如尼泊尔，就经常停电。怎么办？研究人员继续做技术降级。这回，是几个斯坦福的研究生，用一种特殊的材料，给恒温箱做了个外皮。不需要插电，也能保持恒温。说白了，原理就跟保温袋有点像。而这回的成本是多少？只要25美元。是最开始的4万美元的万分之六。

你看，技术变简单了，产品反而普及了。类似的事情，其实很早以前，就发生过。

比如，造纸术。你知道，在蔡伦改进造纸术之前，纸这个东西，就已经存在了。当时是埃及人，发明了一种莎草纸。质量非常好。因为确切说，莎草纸与其说是纸，倒不如说它更像草席。它是用一种叫纸莎草的植物，像织草席一样编起来的。这个质量能不好吗？

但是，莎草纸的普及度，却不高。一来是原料稀缺，纸莎草可不是每个地方都有。二来，是成本太高。当时还有人用羊皮纸，成本就更不用说了。据说用羊皮纸写一本《圣经》需要杀掉200多只羊。

你看，技术过硬，产品过硬，但是，成本太高，照样推广不了。而蔡伦的造纸术，最大的优势就是，原料成本低。只要把木屑、树皮、破衣服之类的东西，分解成纸浆，再经过加工就行了。后来，真正普及的，恰恰是这个产品没那么硬实，但是，兼容性很高的造纸术。

你看，过去我们总觉得，一个产品的升级过程，是不断添加更先进的技术的过程。但是，有时这个方向，恰恰相反。技术不一定是主线，产品发展的本质，其实是不断嵌入更多的场景，不断提高兼容性的过程。

最后，总结一下。今天说了两个话题，GPT的失控可能性，以及婴儿恒温箱是怎么通过技术减法做创新的。假如你的身边有人对这两个话题感兴趣，推荐你把今天的节目分享给他。

好，以上就是今天的内容。《得到头条》，下周见。

### 💡 精华要点
- 1. GPT的失控可能性
- 人类的技术发展，是加速跃迁的。同时，GPT涌现出了一些人类之前没想到的能力。通用人工智能，也许永远到达不了乌托邦。但是这个过程，会让人类越来越强大。
- 2. 产品的减法创新
- 有的产品迭代，靠的不是在技术上做加法，而是做减法。技术不一定是主线，产品发展的本质，其实是不断嵌入更多的场景，不断提高兼容性的过程。
