## 443｜AI研究是否需要一个“洪堡时刻”？

你好，这里是《邵恒头条》，我是邵恒。

这段时间，很多人都关注了云南野象迁徙的新闻：15头亚洲象，原本栖息在西双版纳保护区，但是从至少半年前起，它们就开始一路向北跋涉，穿过田地、公路、村庄、城镇。在过去一个多月里，它们多次进入人的居住区“肇事”，偷吃庄稼、闯进村民的院子里找食物，到汽车店里喝水，甚至还发生了醉酒事件。

这群野象到底在干啥呢？它们为什么要迁徙呢？我相信，任何人在关注这群野象动态的时候，都忍不住想要问这些问题。

我当然也对这些问题感到好奇。但是，除了好奇野象的动机之外，我在关注这条新闻的时候还在思考另外一件事，那就是：有一天，我们会不会像今天观察象群这样，去观察另一类我们无法完全理解的物种——人工智能系统呢？

我之所以思考这件事，是因为我最近看到了我的一位大学同学写的一篇文章，标题叫《一个18世纪的探险家如何能帮我们理解日益掌控世界的算法》。我这位同学叫扎卡莫•伯格瑞拉（Giacomo Bagarella）。他从哈佛大学政治系毕业后，继续在公共政策领域深造，后来加入了美国马塞诸塞省的创新和科技办公室。

他的文章讨论了一个很有意思的问题：智能系统越来越强大，它们跟人类社会的互动也越来越复杂。我们是否需要一个专门的学科，来研究机器的行为规律？这个学科，是否应该参考科学家研究动物和生态系统的框架？

在今天的《邵恒头条》中，我想结合伯格瑞拉的文章。

这篇文章发布在国外一个科技博客Gizmodo上。文章的主要逻辑可以拆分成以下三层：

第一，在18世纪，人对大自然的理解曾经经历过一个“觉醒时刻”，在那一刻，人第一次把自然当作一个“万物互联”的系统来看待，而不是一个个被割裂的类别。

第二，对于算法和智能系统，我们也需要一个类似的理解框架，因为我们已经进入了算法的“寒武纪大爆发”。

第三，一个新的、力图用系统思维研究机器行为的学科已经初现端倪了。

接下来，我把这三层逻辑一一掰开，跟你分享一下背后的具体观点。

先说第一层逻辑：18世纪的觉醒时刻。这说的是著名的地理学家亚历山大•洪堡的故事。

洪堡在科学史上的地位，从一个小细节你就可以感受出来，那就是达尔文曾经说，他写出《物种起源》是受到了洪堡的启发。

那洪堡做过什么什么样的事情这么厉害呢？他生命中最重要的一次经历：他曾经用了整整5年时间对南美洲来了一次彻底的考察。他从西班牙出发，先是探索了亚马孙水域的两条河流和热带雨林，接着又穿越了纵贯南美洲大陆的安第斯山脉，足迹遍布委内瑞拉、秘鲁、厄瓜多尔、墨西哥等地。

有一次，他在南美洲厄瓜多尔中部的钦博拉索火山上攀登。每隔几十米，他就要拿出他的设备进行测量，记录地面的温度、气压，收集空气的样本，衡量湿度，测试水的沸点等等。与此同时，他还要观察他周围植被的样子。

就在他做这些事情的时候，某一刻，他突然灵光一现：他发现，自己在探险期间，各个地方看到的植被似乎有颇多相似之处。比如说，他在厄瓜多尔看到的一种苔藓，在德国的一个森林里似乎也出现过。他在委内瑞拉看到的一种高山树，此前他在瑞士的阿尔卑斯山上也看到过。他在墨西哥看到的松木、橡树、柏树，他在加拿大也看到过。

就在那一刻，他产生了一个洞察，而这个洞察将会在未来改变人们对“自然”的看法。这个洞察就是“大自然”是一个“活着的整体”，是一张生命的大网；各类生命和物质，并不是彼此独立存在的。相反，在各种各样的物质和生命之间，存在着相互的作用力。整个大自然的运转，也是由某种全球共通的模式和规律支配的。

后来洪堡把他的洞察绘制成了一张图，被称为“自然之画”。在这张图上，你可以看到南美洲有11个不同的植被带，每个植被带如何受到海拔、温度等等因素影响，以及和全球其他地区的山脉有什么相似之处。咱们今天在地理课上学到的植被带、气候带、等温线、等压线的概念，追根溯源，其实就来自于洪堡绘制的这张图。

这个理念在咱们今天听起来一点都不新鲜，但是在当时却是一个颠覆性的认知。在洪堡之前，博物学家执着于发现各种各样的新物种，然后给不同的物种进行分门别类。但是，那时候没有人对于大自然的运转有整体的认识，更别提发现背后的规律、作用力了。

而洪堡可以说是第一个理解“万物互联”这个概念的人。他发现，无论是动物、植物，还是地理条件、气候，都不是彼此割裂的，而是互相影响的。

好，洪堡的故事说完了。洪堡对自然的理解，和人工智能有什么关系呢？

伯格瑞拉认为，在人工智能领域，我们也需要一个“洪堡时刻”。为什么这么说？

你可能也感受得到，我们已经进入了一个AI系统几乎无所不在的时代。一个人从一睁眼开始，就生活在一个AI构造的世界里。你手机上刷的新闻，吃饭时候点的外卖，出行时候叫的车、走的路线，在交友软件上约的会，等等这一切，都有AI算法的参与。甚至在一些极小的事情上，比如你能不能免费借到一个充电宝，能不能在办公室的零食货柜里刷脸买东西，也都是由AI系统决定的。在全球应用比较普遍的34万种AI相关的发明当中，超过一半都是在2013-2019年这6年之间被研发出来的。

伯格瑞拉把这种状态，称为AI算法的“寒武纪大爆发”。

大爆发不仅意味着我们越来越依赖AI系统，还意味着，人类社会跟AI系统的互动越来越复杂，甚至不可预测。

有一个特别典型的例子是2006年，脸书发明了NewsFeed，也就是“新鲜事”功能。在这个功能发布之前，脸书用户需要挨个点击好友的账户去查看好友的动态。但是新鲜事给用户提供了一个全新的浏览界面，界面上有好友状态的实时更新、重要的新闻推送，以及好友最近看了什么等等。算法还会根据每个用户的浏览习惯，对新鲜事进行优化。

当初脸书做这个功能，只是觉得这样的浏览方式更高效。而后来他们把这个功能延续下去，也只是因为发现自从有了这个功能，用户的浏览量激增。

但是，我们都知道，新鲜事这个功能可不仅仅是影响了浏览量而已。有一种观点认为，新鲜事的算法彻底改变了人和互联网互动的模式，从主动选择自己想看的东西、主动选择自己要加入的社区，到被动接受信息的轰炸。由算法主导人的信息摄入，就是从那一刻开始的。甚至有观点认为，新鲜事的发展史，就是“信息茧房”的建造史。

从这个例子里我们能感受到一件事，就是算法和整个社会的互动，往往比算法的发明者想象得复杂得多、广泛得多。这就给AI研究提出了新要求。

什么样的新要求呢？伯格瑞拉在文章里介绍了一篇论文：2019年4月24号，《自然》期刊上发表了一篇文章叫《机器行为》。这篇文章有23个来自于不同领域的科学家，第一作者是当时在美国麻省理工学院媒体实验室的副教授，叫Iyad Rahwan。

这篇文章提出了一个观点：我们应该借用生物学的系统思维，来研究AI系统。

传统来说，做AI研究的，主要是计算机科学家们。他们倾向于把AI看成是，有特定功能和目的的工具。比如，有些AI系统是人脸识别的工具，有些是用来做自动驾驶的，有些是用来做数据挖掘的。

因为这种工具化的视角，所以计算机科学家在评估AI系统“好不好”的时候，主要关心的维度，是AI能不能完成它在创造之初被构想的功能。比如，对于人脸识别的AI工具，计算机科学家主要会评估，它能不能准确地辨别物体；对于自动驾驶的工具，科学家会评估它在各类天气条件下表现怎么样；对于数据挖掘的工具，科学家会评估它能不能精准地识别广告商想要定向吸引的客户，等等。

这种评估模式，在AI系统还不普遍、不复杂的时候没什么问题。但是，前面我们已经说了，AI对社会的影响，往往超出了发明者的初衷。我们不能只盯着AI诞生时的目的，来评估它对社会的影响。

那么，我们有没有可能用一种洪堡式的整体视角来研究算法呢？

这篇论文建议，科学家可以模仿研究动物行为的思路来研究机器或者说算法的行为。这种研究不仅涉及研究算法的功能，还涉及研究算法的发展和进化，研究它是如何跟环境互相影响的。这就像研究动物一样——科学家不仅关心动物内在的生理结构，还关心那些影响动物行为的外在因素，比如动物所处的生态系统，以及生物进化的普遍规律。

举个例子来说，生物学里，遗传学是一个很重要的课题。而在算法领域，“遗传”也是一个普遍的现象。这种遗传可能体现在，某一种处理器的设计，会对算法进行“优胜劣汰”，甚至影响算法的整体设计思路。遗传还体现在，一些好的“算法基因”，可能会通过开源系统迅速传播、复制，从而决定某一个领域的技术路线，甚至决定这个领域偏好的数据类型。这些现象都值得科学家更深入、用更长的时间框架来进行研究。

除了这个话题之外，论文里还列举了一些有趣的方向，比如算法的集体行为是什么样的？不同类型的算法之间如何互动、是否会产生意想不到的功能？算法和政治环境是如何互相影响的？算法的传播规律是什么？算法在学校和医院的应用，是否会改变人类发展的轨迹？等等。

这些问题都指向一个研究思路：把算法和社会的互动看作一种整体来理解。在这个整体当中，很有可能存在着算法发展遵循的独特的逻辑和规律，就像大自然有它运行的规律一样。

好了，扎卡莫•伯格瑞拉的文章，我就给你介绍到这了。这篇文章给我们提出了一个很有意思的问题，那就是AI研究是否需要一个“洪堡时刻”？显然，AI不是一套简单的工具，而是一个能和人类社会产生复杂互动的“慢变量”。我们可能需要一种更高的视角、一个更加系统化的框架来理解这个慢变量的影响。

结束之前，我还要宣布一件事：这周将会是《邵恒头条》第二季节目为你服务的最后一周。从下周一开始，《邵恒头条》节目将会改版升级，成为《得到头条》节目。我的一位同事将会接过我的棒，继续为你提供高质量的知识服务。

接下来，我和我的团队将会去探索一个全新的方向。这个新方向是我思考了很久、相信对于每一个人来说都有价值的知识服务。在这个新方向上，我希望能走到你们每个人的面前，跟你们建立紧密的、真实的关系，也希望带你认识一个不一样的邵恒。

当然，具体的项目形态，我还需要你帮我一起出出主意，因为我特别希望接下来的项目，是咱们一起合作、共同创造出来的成果。这周五，我来跟你聊聊下一步的方向。

你肯定也会好奇，接棒《得到头条》的同事是谁呢？这段时间，经过非常认真慎重的考虑，我终于锁定了心目中的接班人。在过去几年中，Ta一直在得到做知识服务，在得到的内容创作者中，ta一直以“高产高质量”著称。Ta非常擅长运用经济学思维，从纷繁复杂的信息中抽丝剥茧、寻找答案；而且，Ta对这一代中国人关心的议题怀有极大的热忱和好奇。

具体是谁，我先卖个关子，请你按捺住好奇心。本周五，我将会在节目里隆重为你引荐升级版产品《得到头条》的主理人。

好了，这就是今天的《邵恒头条》，我是邵恒，我们明天见。

![图片](https://piccdn3.umiwi.com/img/202106/14/202106142231599951182811.jpg)
