输入归一化
归一化是非常常用的数据预处理操作。数据中常存在奇异样本数据，奇异样本数据存在所引起的网络训练时间增加，并可能引起网络无法收敛。为了避免出现这种情况及后面数据处理的方便，加快网络学习速度，可以对输入进行归一化，使得所有样本的输入信号其均值接近于0或与其均方差相比很小。
使用小随机数初始化或者Xavier 初始化
Xavier初始化可以对避免DeadReLU问题有帮助；对解决梯度消失与梯度爆炸也有帮助
使用不同的优化方法
小批量梯度下降(mini-batch gradient descent)
既可以通过向量化计算进行加速，也避免了批量梯度运算量太大的缺点。一般设为2的幂数，mini-batch的大小一定要是可以放入CPU/GPU内存的
缺点
选择合适的learning rate比较困难，如果选择的太小，收敛速度会很慢，如果太大，loss function 就会在极小值处不停地震荡甚至偏离。
这种方法是对所有参数更新时应用同样的 learning rate，如果我们的数据是稀疏的，我们更希望对出现频率低的特征进行大一点的更新。
SGD容易收敛到局部最优，并且在某些情况下可能被困在鞍点。对于非凸函数，因为鞍点周围的error 是一样的，所有维度的梯度都接近于0，SGD 很容易被困在这里。
动量梯度下降算法(Momentum)
计算梯度的指数加权平均，然后用这个梯度来更新参数，指数加权平均后，减少在非梯度下降方向的振荡；beta = 0.9比较普遍，一般不需要偏差修正；
优点
解决了SGD的第一个缺点:momentum能够在梯度方向加速SGD，抑制振荡，从而加快收敛
缺点
相当于小球从山上滚下来时是在盲目地沿着坡滚，如果它能具备一些先知，例如快要上坡时，就知道需要减速了的话，适应性会更好。
NAG(Nesterov accelerated gradient)
NAG项在梯度更新时做一个校正，避免前进太快，同时提高灵敏度。NAG 会先在前一步的累积梯度上(brown vector)有一个大的跳跃，然后衡量一下梯度做一下修正(red vector)，这种预期的更新可以避免我们走的太快。<br>NAG 可以使 RNN 在很多任务上有更好的表现。
Adagrad
可以对低频的参数做较大的更新，对高频的做较小的更新，也因此，对于稀疏的数据它的表现很好，很好地提高了 SGD 的鲁棒性，例如识别 Youtube 视频里面的猫，训练 GloVe word embeddings，因为它们都是需要在低频的特征上有更大的更新。
优点
前期g_t较小的时候，regularizer较大，能够放大梯度 <br>后期g_t较大的时候，regularizer较小，能够约束梯度 
适合处理稀疏梯度
缺点
仍依赖人工设置一个全局学习率
eta设置过大的话，会使regularizer过于敏感，对梯度的调节太大
中后期，分母上梯度平方的累加将会越来越大，使gradient趋于0，使得训练提前结束
Adadelta
这个算法是对 Adagrad 的改进，和 Adagrad 相比，就是分母的 G 换成了过去的梯度平方的衰减平均值,还将学习率 η 换成了 RMS[Δθ]，这样的话，我们甚至都不需要提前设定学习率了
RMSprop
RMSprop 和 Adadelta 都是为了解决 Adagrad 学习率急剧下降问题的
Adam
这个算法是另一种计算每个参数的自适应学习率的方法。除了像 Adadelta 和 RMSprop 一样存储了过去梯度的平方 vt 的指数衰减平均值 ，也像 momentum 一样保持了过去梯度 mt 的指数衰减平均值。Adam 就是在 RMSprop 的基础上加了 bias-correction 和 momentum，
优点
结合了Adagrad善于处理稀疏梯度和RMSprop善于处理非平稳目标的优点
对内存需求较小
为不同的参数计算不同的自适应学习率
适用于大多非凸优化
适用于大数据集和高维空间
学习速率衰减
策略1：无需使用固定的学习速率，并随着时间的推移而令它下降。如果训练不会改善损失，我们可根据一些周期函数 f 来改变每次迭代的学习速率。每个 Epoch 的迭代次数都是固定的。这种方法让学习速率在合理的边界值之间周期变化。这是有益的，因为如果我们卡在鞍点上，提高学习速率可以更快地穿越鞍点。
策略2：常用的方法是由 Loshchilov＆Hutter [6] 提出的预热重启（Warm Restarts）随机梯度下降。这种方法使用余弦函数作为周期函数，并在每个周期最大值时重新开始学习速率。「预热」是因为学习率重新开始时并不是从头开始的，而是由模型在最后一步收敛的参数决定的 [7]。
差异学习（different learning）在训练期间为网络中的不同层设置不同的学习速率。这种方法与人们常用的学习速率配置方法相反，常用的方法是训练时在整个网络中使用相同的学习速率。
