心中有数

努力提高成功概率，平静接受是否成功的现实

谋事在人成事在天

概率论

预测（高阶函数模型）不能过度拟合，会导致很好的解释现状，却无法预测未来

预测>解释

最小二乘

病态方程组中对应直线形成的夹角很小，对噪声极为敏感

方程组里的每个方程，都从某个特定的角度来看待一些事物的内在本质。而方程组的解，就是结合多个角度的观察结果达成的共识。我们知道，如果一个方程组中每个方程对应的直线的斜率过于相似，那么这个方程组就是一个“病态方程组”。病态方程组很不稳定，它的解极易受噪声影响。同样，如果想通过多个人达成共识的方式来掌握问题背后的真相，那么这些人看问题的角度需要有较大的差别。否则，也会出现病态方程组问题，得到的答案也会不够准确。

三个臭皮匠，顶个诸葛亮

病态方程组（多样性红利）

针对一个连续的输入信号，我们可以把这个输入信号拆成一个脉冲序列，然后这一个序列的脉冲可依次作为输入作用在系统上。卷积告诉我们，系统对于一个脉冲序列的响应，就是对单独每一个脉冲的响应的叠加。

小确幸与大幸福

卷积

“难”不是指没办法解决，而是指找到这类问题的最优解所需的时间会随着问题规模的扩大而急剧增加。典型的NP难问题是旅行销售员问题。

打疫苗

野火必救->可控的燃烧枯枝

今天我们围绕“利与弊”，从计算机处理器说起，结合计算机中的NP难问题和许多生活中的例子，主要谈了三层思想。第一层，“凡事有一利，必有一弊；凡事有一弊，必有一利”。第二层，“利与弊”并不绝对，很多情况下其实没有绝对的利弊，只有特点。某个特点是利还是弊，这个要根据情况判断，因此最关键的，是找到把特点变成长处的位置，让长处得以发挥。第三层，主动用可控的弊，换取更大的利，是解决问题的有效策略之一。

可控的弊，换取更大的利平衡的智慧

NP难问题

很多情况下，两个事件看似相关，实则关于另外一个事件条件独立。如果我们不挖掘背后的“另外一个事件”，就很容易犯把“相关性”当成“因果性”的错误。

挖掘表象背后的真相

条件独立

事物本身的变化规律和对当前的观测

事物的发展形态由什么去判断

卡尔曼滤波器

反馈让系统具有了容错性和鲁棒性。运用反馈，你不需要精确的事先设计，只需要随时观察实际情况，并不断根据实际情况与目标的差距进行调整，就能达成目标。

想让飞轮转起来，在最开始时需要花费最大的力气；想要形成好的正反馈，往往也是在初期最需要花精力。就像我那个跑步的同事一样，在刚开始锻炼的一段时间，他靠着毅力咬牙坚持，让自己进入了一个好的正反馈。

因此，在做事情时，我们首先要能够敏锐地找到某些好的正反馈，并且在初期用自己的毅力来坚持、忍耐，有时候也可以借助外部力量来帮助自己，一旦飞轮转起来，好的结果自然水到渠成。

控制事务发展的方向与进度

控制系统的反馈

通常为了完成一个任务，设计会分为两个阶段：第一阶段是设计合适的底层，第二阶段是以底层为基础进行适当的优化。

很多人都将精力集中于优化，设计了很多酷炫的优化方案，而对第一阶段的底层设计不够用心。然而实际情况是，第一阶段的重要性远远大于第二阶段。在很多情况下，上层优化的作用是有限的，如果底层设计不够好，仅由上层优化堆起来的设计就像一个不牢靠的空中楼阁，堆得很高，但一推就倒。

我们还可以发现，“抓住本质，摆脱限制”这一思路通常贯彻先“自底向上”再“自顶向下”的过程。自底向上，是从现象中提炼出本质和原理；而自顶向下，是从本质和原理出发，结合实际，摆脱限制，设计出新的产品。

创新的有效途径之一就是“抓住本质，摆脱限制”，并且通常要经历一个先自底向上再自顶向下的过程。自底向上，是从事物的表面现象中提炼出本质，发现其核心原理，并且知道哪些是针对具体情况的一些限制。而自顶向下，是从本质和原理出发，摆脱不必要的限制，然后根据自己的情况进行优化，在仍然遵守核心原理的前提下，在自己的场景中做得更好。

底层设计+基于底层设计的优化

好的设计

小二乘估计中蕴含的思想与中庸之道的智慧不谋而合：接受世界的不完美，不偏不倚、多方权衡、执两用中。

赌场就是稳定的亏损

第一，要努力提高你的基础概率。这一点非常明确。基础概率作为核心，是达成目标的关键因素。第二，如果你做成某件事的基础概率较大，那么重复的次数就是你最好的朋友，你需要尽量多次重复。例如，你做自媒体，并且想写出1篇爆款文章。我们都知道很多情况下爆款文章可遇不可求，即使你的文章质量很高，也不能保证它会成为爆款。如果你的水平达到了平均100篇文章中能够有1篇爆款文章，概率已经很高了，那么此时你应该多写。

成功的方法（提高基础概率+重复）

大数定律

最小二乘估计使整体的误差最小，这就体现了我们在本章第一节中所说的“执两用中”。“执两用中”告诉我们，在面临多方不同的诉求时不能走向极端，而要持中守正，权衡多方的利益，在多个诉求中找平衡。

第一个选择，找到一个能够完美满足少数方程的解。这个解可以完美满足某些方程，但是在其他方程中会让方程左右两边的误差较大。第二个选择，找到一个让所有方程的平均误差最小的解。这就是通过最小二乘估计得到的解，它可能无法满足所有的方程，但是这个解在所有方程的左右两边造成的误差都不太大。最小二乘估计，就是解方程时的“执两用中”。无论是理论还是实践都表明，第二个选择求出的解是更好的。

执用两中

步步为营

求导法

经营求精

数值法

通过上文的例子我们可以发现，数值解法的思路并不是试图一次就找到函数最大值的位置，而是通过逐步迭代不断逼近最大值，这也符合“精益求精”的思想。与求导法相比，数值解法不需要知道函数的具体表达式，也不要求函数处处可导，因此在科学工程中如果需要找函数极值，绝大部分时候会采用这种方法。现在在深度神经网络领域，都是采用这种思路来训练神经网络的参数。

步步为营与精益求精

瀑布模型

敏捷模型

产品开发的两种模型

不完美，但可用（MVP最小可行产品）

完美的产品

产品的两种形态

憋个大的

先出草稿，找关键人，不断迭代

写方案

函数极值

高压电

收音机调制解调

今天我们从切洋葱的例子讲到了“变换”的思想。在不容易直接对某个事物进行操作的情况下，我们可以先把这个事物变成另外一个形态，如果在该形态下可以比较容易地完成这个操作，那么等做完后，再将得到的结果变换为原来的形态即可。这种思想有很多应用，包括文中举的运送物体（集装箱、高压电）、传输信号（收音机无线信号的传播）等例子。

传输中的变换

导数法

梯度法

换句话说，这些数值解法之所以会陷入局部最高点无法跳出，是因为它们不能接受短期挫折，每一步都追求眼前的利益。能接受暂时的不太完美，才有可能换取一个更好的未来

局部高点

爬山法

要想解决陷入局部最高点的问题，一个直接的方法就是引入随机性：以一定的概率接受暂时的不完美

模拟退火算法

我今天想通过计算机领域著名的模拟退火算法来解释这个道理。模拟退火算法是解决函数优化问题的数值解法，我们先从找到函数的极值说起。例如，如果让你找到函数y=-x2+2x的极值，你会怎么做？

人生其实是一个寻找最优解的过程。一开始谁都不是完美的，但是我们可以不断努力提升自己，最后的目标是达到自己可能到达的最优位置。这个过程和我们上文提到的梯度法和爬山法中蕴含的思想是一致的。在不断进步的过程中，你会很自然地要求自己在人生中新迈出的每一步都比前一步更好。例如很多人在换工作时，都要求下一份工作的工资比现在更高或更稳定。这种选择看起来很自然，但是算法告诉我们，要求新迈出的每一步都比上一步更好的策略，容易让自己陷入局部最高点：你选择一个工资更高或更稳定的行业，可能会导致你错过另一个虽然现在看起来不太稳定，但是发展潜力巨大的行业。

解决的方法是引入随机性：以一定的概率接受暂时的不完美，就可以有效避免陷入局部最高点。这种随机性对应着去大城市闯一闯，尝试各种职业，进而找到自己的兴趣、发现自己的潜力，而不是安安稳稳地一生只从事一个职业。而模拟退火算法则进一步告诉我们，这个随机性应该随着你的年龄慢慢降低。当你年轻时，你可以让这个随机性较大，充分探索外界，让自己接受暂时的不完美，从而避免陷入局部最高点，并且在将来跃上一个更高峰。而在年龄渐长、知道自己最适合什么后，你就要控制随机性，在自己最适合的地方深耕，不轻易切换赛道。

模拟退货算法

主动预测+差距

如何看书

单任务学习只针对某个任务进行训练，训练完一个人就会很擅长完成该任务，正所谓“一招鲜，吃遍天”。但是很多情况下，多个任务的底层有相关性。如果我们用多个任务一起同时训练某个人，那么这个人的能力可能比用单个任务训练的人更强。

职业教育

单任务学习

德智体美劳的全面发展

任务之间的相关性

多任务学习

基于示例

基于特征

基于模型

领域能力的复用

迁移学习则关注如何更好地将一个人在某个领域学习到的知识迁移到另外一个领域。因此，我们要注重那些可以迁移到其他领域的基础能力

迁移学习

学习方法论是指一个人在学习时所使用的方式、思维模型和章法

本质及方法论的构建

技能着眼于现状

方法论着眼于未来

元学习

着眼未来

机器学习模式

着眼现状

卷轴式图像传输

矩阵式图像传输

由主到次的增量表达

想在表达一件事情时做到逻辑清晰且条理清楚并不容易。本章基于从矩阵的奇异值分解中得到的启发，介绍了一个思想，就是“由主到次的增量式表达”。简单来说，表达一件事情时，要先说重要的信息，然后按照重要性逐步添加一些细节。

矩阵的奇异值分解

心中有数