## 答读者问｜越简单越好,但不能过分简单

> 读者问我有个疑问，叙述比较长：模型成立的前提是“以前发生过的，以后以大致相似的方式发生”，针对模型选择的问题，在机器学习领域有个定理叫“天下没有免费午餐”，意思是在所有情况充分发展的时候，所有模型的效果是一样的，这有详细的数学证明。所以很难说哪一种模型在所有情况下都适用。过度拟合对于聪明人和老年人都是容易犯的错误；不过，在另一个极端，“欠拟合”（under-fitting）则是没有充分考虑数据变化趋势所带来的错误，是年轻人常犯的。问题是，仅仅强调过度拟合的坏处，是否会有认知偏差，跌入欠拟合的错误？

> 万维钢

您说的这个道理，就如同爱因斯坦说的“Everything should be made as simple as possible, but not simpler.” —— 越简单越好，但是还不能过分简单。

《指导生活的算法》这本书提到，判断一个模型是否过度拟合了，可以用交叉验证的办法。比如说把已有的几个数据放着不用，拟合出来的模型再跟这几个数据对照，看看有没有很大差异；或者干脆选取一组数据用另一个模型拟合一下，看看二者的结果是不是差不多。如果能交叉验证，就说明现在这个模型比较可靠。我看这个办法用来判断欠拟合更方便。

> 读者问昨晚我在读《万万没想到》的“反常识”一章其中提到确认偏误，当然我也有这种体验，并且自己有时还能感觉到，我突然想到之前说的贝叶斯方法，万老师曾举例小孩学习的方法就是贝叶斯方法的具体实例，那贝叶斯方法和确认偏误相违背吗？尤其对于我们有预设立场的成年人而言，我的解答是在想法求证时是贝叶斯而求证后就得确认偏误。

> 万维钢

贝叶斯方法恰恰是治疗确认偏误的！贝叶斯方法要求观点随着事实发生改变，确认偏误是无视事实，观点不变。

其实我理解您的担心。你是说，自己有个先入为主的观点，这个动作就可能有问题 —— 没错，最理想的观测应该是事先不预设任何观点，完全靠数据说话。但大多数情况下根本没有那么多数据！贝叶斯方法的精神，就是数据不够的时候，它允许你先猜测一个观点，然后新数据来了慢慢修正。我们整个说的意思，就是这么做不但合理，而且高效。

> 读者问我怀疑人脑里也有类似于保险丝的结构防止信息过载。这倒让我想起了AlphaGo，不知道AI是怎么防止自己想太多的。给不同信息的重要程度配权重吗？

> 万维钢

不是给不同信息加权重，因为你无法事先判断哪个信息重要哪个不重要。一般的做法是给模型复杂度加一个“惩罚”机制，限制模型过分复杂。比如说基于神经网络AI，你可以限制在任何情况下最多只能有多少“神经元”参与计算。

人体新陈代谢机制，就给人脑提供了一个能量限制，想太多了就累，相当于保险丝。

> 读者问看了万老师分享的这篇文章，对我来说挺震惊的，因为我就是一个过度拟合的人。之前由于工作岗位原因会有绩效考核和执行制度的内容，曾经我会因为未达到工作计划完成率而焦虑，从而纠结于细节之中而不自知。也曾出现过花费很多精力展现的PPT却被领导不屑一顾，我之前一直认为对每个细节分析的越透彻，能想到的因素越多，那么得到的结果就越好。也曾经一直弄不明白，无论你如何用心的准备了什么内容，领导总能问倒你。但是，我还是有个疑问，如何掌握这个度呢？请用数据说话！细节决定成败！这些都是有道理的呀，我们不经过深思熟虑如何做到聚焦？不聚焦怎么抓住问题的核心和重点？是否可以采取两者结合呢？

> 读者问知道了这个概念，但并不能很好的指导实际生活。第一，我们在工作生活中经常听到一句话，细节决定成败。有的产品和服务非常重视细节，用户体验很好。有的产品和服务细节不足，用户体验明显就会差一截。在工作中也是，比如这个稿子，你只会注重文章大意正确，不注重标题、格式、错别字吗？领导发现错别字，就跟领导说，领导你过度拟合了？显然不太合适。第二，在实际生活中并不能很好地把握过度这个指标，既然标准不好把握，那应用也就受限。我想这个概念对于我们的主要意义就是提醒我们在做决策时，要抓主要因素，分析主要矛盾，而不要陷于诸多细节。

> 万维钢

我们谈论过度拟合，是针对“决策”和“预测判断”这样的动作；两位所说的细节，更像是从呈现一个产品这个角度考虑。

跟领导讨论决策式问题的最好办法，就是拿个很粗的马克笔，二人站在白板前面随手边画边谈，几句话就能抓住重点。如果领导着急问计于你，他大概不会在乎你的字好不好看。

而比如我们专栏文章是个公共产品，有很多读者会从不同的角度去看它，当然就得注重细节，提供最好的阅读体验。另一方面，我在“决策”这篇文章怎么写的时候，也不能越想越多，还是要抓住重点才能写好。

这个原则大概就是，设计的时候要避免过度拟合，而定下来以后，执行的时候，就要注重细节。

每页PPT上都密密麻麻写了好多点，这是过度拟合。每页PPT上只有一个重点，但是呈现的方法特别容易让人接受，这是细节决定成败。

> 读者问你说，我们了解学习理论、各种套路，是为了在需要用的时候有东西可掏有套路可用，但是，我们最需要习得的洞察力所表现出来的不应该是越学越少越来越精进么？现在的状况，是知道的越来越多并且尽可能的运用。所以想问老师，大量的知识储备和洞察力之间，是怎样去搭建桥梁?

> 万维钢

没有大量的知识储备，你的洞察力就没有自信。没有洞察力，大量的知识储备就是过度拟合。

这就好像下棋打谱和人工智能用数据训练一样，只有见多识广，真上手的时候才能应对自如拿捏有度。如果我见多识广，我知道在这个情况下可以考虑五个方法，其中方法A的成功可能性大约是55%，方法B的可能性大约是15%，……所以我果断选择方法A。而如果一个人只知道方法A和方法B，又缺乏经验，不知道它们有用的可能性是多少，那就只能随意选一个用，就容易失败。更可怕的是只知道一个方法，遇到什么问题都用这个方法，那更不行。

大量知识储备就是我知道很多很多方法。洞察力就是我知道每种方法在这个情况下好使的概率是多少……你说我这个理论好不好，哈哈。

> 读者问我感觉自己不属于任何一个派别，我赞同万老师一贯提倡的，具体问题具体分析，世间哪有什么一刀切的万全之策呢？文中所说的“思维快捷方式”，是不是指一个人遇到一件事的第一情感反应呢？

> 万维钢

第一情感反应、想起来的第一个成语典故、心理学段子……说白了就是套路。

> 读者问如果说群体政治缺乏复杂推理能力，是否意味着独裁才是更好的政治？当然已经有不少例证说明许多国家在独裁者手中反而迅速发展了。但是听上去可是政治不太正确呢？

> 万维钢

这就是为什么集体决策一定要强调人员要多样性，五湖四海，三个臭皮匠才能赛过诸葛亮。群体决策方面有学问，我们要专门写篇文章。

> 读者问有一个思考或困惑：个体思考的结论不具有普适性往往不被认同。比如我有一个自以为是很妙的结论，和儿子讨论，结果要么岔到别处去了要么各说各的，那辩论的意义在哪里？

> 万维钢

抽签选正反方的辩论赛在这一点上实在不好，逼着你不真诚！那种召集现实中的真实对立人物，按照自己的立场来一场辩论的节目才有意思。

避免辩论跑题，大家真诚地坐下来讨论一个问题，可以采用“罗伯特议事规则”……或者至少找个主持人。

![图片](https://piccdn3.umiwi.com/img/201612/04/201612041802196023494535.jpg)
