机器学习中在为了减小loss时可能会带来模型容量增加,即参数增加的情况,这会导致模型在训练集上表现良好,在测试集上效果不好,也就是出现了过拟合现象.为了减小这种现象带来的影响,采用正则化.正则化,在减小训练样本误差的同时,限制参数的增长,限制参数过多或者过大,从而提高模型的泛化性. 1. L1 正则化 L1 正则化公式也很简单,直接在原来的损失函数基础上加上权重参数的绝对值: 2. L2 正则化 L2 正则化公式非常简单,直接在原来的损失函数基础上加上权重参数的平方和: L1范式和L2范式的区别…