## 653｜两游客盲信ChatGPT退潮时间险溺水，聊聊使用AI的“自动化偏见”

你好，我是快刀青衣。欢迎收听快刀广播站，每天带你看AI。

这两天我看到一条新闻，还是有些吃惊的。哪怕是我这样的AI重度使用者，也没有想到有人类可以如此信任AI。

这个故事发生在英国南威尔士。两名游客计划从海边前往萨利岛，这是一座距离海岸几千英尺的岩石小岛。出发前，他们向ChatGPT提问：“今天什么时候退潮？”ChatGPT告诉他们：“早上9点半。”

得到答案后，两人就出发了。对，这个问题他们就问了一下AI，马上就出发了，甚至都没有看自己酒店和房间内的纸质安全说明，更没和酒店老板或者服务员聊聊。说实话，对于这类问题，可能酒店门口的泊车小弟都比最强大的AI知道的多，比AI更清楚实际情况。可惜的是，他们太相信AI的答案了。

但是，问题就在于这片海域有着世界第二高的潮汐落差，大约50英尺。这个落差意味着什么呢？换成米的话，就是涨潮和退潮之间的高度差了15米，相当于退潮的时候，我们是在游泳池的儿童浅水区，一涨潮，同样的地方，已经成大海了。而且连接萨利岛的狭窄堤道附近就像一个漏斗，虽然水面看起来平静，但随着潮水上涨，水流速度可高达每小时8英里，足以将人冲倒，卷入冰冷的海水中，并可能迅速被带入布里斯托尔海峡。

当两人步行到岛上，准备返回的时候，潮水已经开始疯狂上涨了，堤道已被淹没。这个时候的水深与来时已经完全不同，不过这两个游客无知者无畏，准备游回来。

幸运的是，岸边一家餐厅的老板戈登·哈德菲尔德恰好看到了这一幕。他立刻拿起大喇叭对海面大喊，让两人赶紧回头。也正因为这个老板的举动，这两个游客才没有被卷入海里。

事后，其中一名游泳者在采访中说：“我犯了个错误，用ChatGPT查低潮时间。它告诉我上午9点半。所以我们去了那边，结果回来的时候情况完全不一样了。这对我来说，是一次深刻的教训。”

看到这个新闻，我突然想起了另一个新闻，当年也是让人大跌眼镜，还登上了不少报纸杂志的趣闻板块。

2012年3月，三名来自日本东京的游客在澳大利亚昆士兰州旅行，打算从莫雷顿湾驱车前往附近的北斯特布鲁克岛。他们给租来的现代汽车设定好GPS地标后，便完全遵照导航指示出发了。

出发没多久，前方的路面就变得泥泞不堪。但三人对GPS深信不疑，依旧沿着指引往前开了约500米，直到车辆深深陷进泥沼，彻底抛锚。更糟糕的是，此时海水开始涨潮，这辆车渐渐没入水中。眼看车子就要被完全淹没，他们没办法再自救，只能放弃车辆，下车站在岸边等待救援。

事后，其中一名游客野田尤子表示，GPS一直声称会把他们准确带到目的地，他们还以为泥泞路面是下雨造成的，根本没意识到已经是大海边缘了。

就这么着，他们三个人硬是把车“开”进了海里。要是你感兴趣，现在还能在网上搜到他们当时的照片。

这两个故事放在一起看，真的别有一番喜感。一个是2012年的GPS导航事件，一个是2025年的ChatGPT使用案例，两者相隔13年。期间技术在不断进步，使用的工具也截然不同，但人们犯的错误却惊人地相似——都是盲目相信技术给出的答案，完全摒弃了自己的常识判断。

你可能会想，这些人是不是太傻了？潮水上涨、或者开到了海里，这么明显的危险信号都看不到吗？

但其实，这不是智商问题。针对这类现象，还真有人专门做过研究。在心理学领域，这种情况被称为“自动化偏见”（AutomationBias）。这个概念最早于1996年提出，1997年有一篇关于它的经典论文，被引用了很多次。光是这篇论文的标题，我看到时就觉得很有启发了，它叫做《人类与自动化：使用、误用、弃用、滥用》，就是把人类使用自动化工具分成了四种，其中一类典型情况就是“滥用”。

通俗来讲，“自动化偏见”指的就是人类倾向于相信自动化系统给出的建议，并且会忽略和它相矛盾的信息——哪怕这些反对信息明摆着是对的。放到前面的案例里，暴涨的海平面和泥泞的海滩就是反对信息，可人们却选择了无视。为什么会出现这种情况？

针对这种“误用”过程，有研究提出了“认知守财奴”假说。这个假说认为，人的大脑在做决策时，会本能地选择最省力的方式。而自动化系统给出的答案既突出又显得权威，看起来就是最省力的选择，所以我们的大脑就会下意识地想：行了，就听它的吧，别费劲想了。

更可怕的是，这种偏见并不罕见。听完刚才说的案例，你可能会觉得他们“不太正常”，但其实这种情况，我们自己平时生活中也常会出现，只是没意识到罢了。比如我就曾在一个地方，完全跟着导航“向右拐”“向右拐”的指示，转了两圈突然反应过来自己居然一直在同一个街区打转。按道理说，我早就该从路边的建筑察觉不对劲了，但我当时就是没注意。当然，不只是我们普通人，就连受过严格训练的飞行员，也会犯同样的错误。

我记得一个新闻，2009年2月25日，土耳其航空TK1951航班从伊斯坦布尔飞往阿姆斯特丹。在降落阶段，飞机的高度测量仪出现了故障，错误地显示飞机已经接近地面。自动驾驶系统接收到这个错误信号后，自动减速，准备着陆。

问题是，飞机实际上还在空中，距离地面还有相当的高度。按理说，飞行员既能通过舷窗观察到真实的地面距离，也能从其他正常仪表上发现高度数据的异常。但他们太信任自动驾驶系统了，他们看着自动驾驶在操作，就放松了警惕，没有及时发现问题。等到飞机失速开始坠落时，已经来不及了。

最终，这架波音737-800客机坠毁在跑道前的田野里，机上135人中有9人遇难，120多人受伤。事故调查报告指出，飞行员对自动化系统的过度信任和依赖，是导致事故的关键因素之一。他们本应该是最后一道安全防线，但他们选择了相信机器，而不是相信自己的眼睛和判断。

波士顿咨询公司曾做过一项研究，发现当人类顾问盲目信任AI处理一个它并不擅长的任务时，决策准确率会从原本的84%骤降到60-70%。注意，不是提升，是下降。因为他们选择完全依赖AI。

这正是问题的核心：当我们把决策权彻底交给技术的时候，其实我们也主动放弃了自己的判断力。但技术从来都不是完美的，无论是早期的GPS、复杂的自动驾驶，还是如今的ChatGPT，它们都可能出错，会给出错误信息，会在关键时刻“掉链子”。

说到这里，咱们普通人该怎么办？我觉得最重要的是记住两点：

第一，AI是工具，不是圣旨。它可以帮你提高效率，但不能替你做判断。涉及安全的事，千万别只信AI。例如潮汐时间、医疗建议，这些关乎生命安全的信息，一定要多方验证，对AI的答案保持一些警惕性，哪怕多问两三个AI工具，其实也能发现问题，千万不要万事只相信一个工具的答案。

第二，保持常识，保持你自己特有的经验判断。常识就是，如果路面变成了泥沼，如果潮水开始上涨，如果AI给的答案明显不对劲，相信你自己的眼睛和判断，而不是屏幕上的文字。并且当AI回答你最熟悉的领域时，你脑海里的很多经验，是AI完全不具备的，这时，相信自己就好了。

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

> 相关链接：
> 论文《人类与自动化：使用、误用、弃用、滥用》
> 地址：https://drive.weixin.qq.com/s?k=ADQABgdrAAkENmRAv5

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2025102919/1891651334369802252/102919.jpeg)
