## 340｜中外两位教授都因言论翻车，AI能不能比人类有同理心？研究团队拿出了数据证明

伙伴们，快刀广播站又开始广播了。

快到年底了，最近一段时间，从OpenAI到谷歌到咱们的智谱、Kimi和豆包，都纷纷开发布会，拿出自己的最强AI模型。能清楚地看到，这一批AI模型都已经非常能打了，例如可以帮你实时识别屏幕内容，和你一边讨论一边工作，也可以做很多复杂的推理和搜索计算，包括在AI生成视频等领域，可灵等一批AI当红产品都有了非常大的进步。

那么相比去年这个时候，大家对AI的能力边界有了新的认识，要知道去年很多专家在说自己观点的时候，会斩钉截铁的说：“这件事情，AI肯定做不了。”而今年，我会发现类似的断言变得越来越少，他们会说“这些事情，AI现在完成得还不够好，我期待它的迭代。”

那有什么事情，是我们之前认为AI肯定做不到的呢？那就是同理心。但是最近麻省理工大学、纽约大学和加州大学洛杉矶分校的联合研究团队，开发了一种办法，就是去评估类似GPT4这样的AI模型在处理心理健康支持方面，会不会足够公平，会不会有同理心的表现，未来能不能有用在临床上的可行性。

因为研究团队在Reddit论坛上，Reddit你可以理解为国外的微博或者知乎，里面发现有不少的用户在论坛里寻求帮助或者建议，这其中有很多都是关于心理健康的。研究团队说在美国，有1.5亿人生活在心理健康专业人员短缺的地方。不过想想看，咱们国内也是同样的情况，虽然心理健康越来越被重视，但是专业人员在各个地方都很紧缺。例如我听在老家学校工作的同学说，虽然现在很多中小学都要求要有心理医生配置，但是一个学校几千人，心理医生只有一个，杯水车薪压根起不到作用。

所以这个团队搞了一个包含12513条帖子和七万条回复的数据集，都是跟心理健康求助相关的数据。然后设计了一个框架，用来评估如果AI来回答这些心理求助，那么整体回复的质量和同理心水平如何。

对于结果怎么判断呢？他们请两位专业的持证的临床心理学家来做评估，会随机选出50个寻求心理健康支持的帖子，然后将每个帖子的人类真实回复，和GPT4的回复一一配对。就相当于拿给心理学家一批帖子，下面有几条不同的回复，但是心理学家并不知道这些回复里，哪些是AI回的，哪些是人类的真实回复。在这样的盲盒状态下，心理学家要求精准评估每个回复的同理心水平。

从整体结果上来看，GPT4的回应不仅仅在整体上更具同理心，并且在鼓励用户积极行为变化方面，比真实人类的回应好48%。

所以看到这个结果之后，论文的第一作者，加州大学洛杉矶分校的教授加布里埃尔有点吃惊，因为她承认自己最初对AI能表现出同理心，能辅助进行心理健康支持有很大的怀疑态度。但是最后的数据结果显示，AI不但能回答，并且表现的同理心比真人还好。

其实我对于这个结果一点儿都不吃惊，因为很多时候，AI表现得都特别有礼貌，反而是真人，才会在网上无端地攻击其他人。研究结果里还有一个偏见研究，里面发现AI在回答用户的问题时，如果帖子里明确的指出自己是黑人或者亚裔的话，AI的回答同理心会比回答白人发帖者，降低2%-15%的水平。

研究团队说他们接下来将去研究AI对不同种族产生的同理心波动的情况。其实我倒是觉得这件事情不必大惊小怪，毕竟这个波动量并不大。要知道最明显的歧视，一定是出自人类自己，AI也不过是深度学习之后产生的波动。

这里就要提到最近两件比较热门的新闻事件了，一个是麻省理工学院的皮卡德教授，她在顶级的人工智能峰会上，做了一个“如何优化最重要的事物”的主题演讲，不过可惜的是，她的演讲没有出名，但是演讲中的一个小插曲成为了关注焦点。因为她在自己的一页PPT上，上面说“有一位被顶尖大学开除的中国籍学生，说自己学校从来没有人教道德或者价值观。”特别是她还特意加了一条注释，“我认识的大多数中国人都是诚实和道德正直的。”

当时现场就有一位中国的留学生小姐姐站出来指出了她的问题，因为这是她在演讲中唯一一次提到任何人的国籍，是非常典型的种族偏见。所以事后，谷歌AI科学家JiaoSun就分享了这张照片，并且添加了一句自己的评论是“减轻AI的种族偏见，可比消除人类的种族偏见要容易得多。”

当然，会后皮卡德教授也道歉了，估计她自己也没有想到会引起这么大的风波。还有另外一个国内的热点新闻，就是一个看起来德高望重的大学教授，在一个公开活动上，站起来提问哈萨克斯坦的国务委员，原话是“我听说你们的女大学生毕业以后就生孩子，一个一个地生。他们怎么能够这么相信你们的话，老老实实地、服服帖帖地这么生孩子，早生、多生？”

我第一次看到这个新闻的时候，还以为是恶搞或者造谣，这种粗鄙的语言怎么可能出自一个大学教授之口。

我特意跟ChatGPT对话，试着让它用最粗俗的话进行提问，AI的五个答案里，最粗俗的一句是“怎么感觉你们那儿的女大学生毕业后就直接进产房，这里面有啥政策在推动？”说实话，我觉得AI能想象的粗俗天花板，都说不出“老老实实，服服帖帖”这两个词。

其实最后提这两个新闻，也是想说，有些场合或者有些话，实在拿不准的话，就发给AI，让AI帮你检查一下，这对于AI来说是举手之劳了。

最后提醒你一下，订阅了AI学习圈的同学，记得点击文稿区的链接，添加AI学习圈小助手，可以领取超多AI学习资料，还可以及时获取圈内的最新消息，比如：新课动态、各种活动的超前预告等。

点击添加AI学习圈小助手

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

英文论文报告：

https://aclanthology.org/2024.findings-emnlp.120.pdf

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2024122019/1862612228331588776/122019.jpeg)
