上一篇我们提到了回归问题中的梯度下降算法,而且我们知道线性模型只能解决简单的线性回归问题,对于高维图片,线性模型不能完成这样复杂的分类任务.那么是不是线性模型在离散值预测或图像分类问题中就没有用武之地了呢? 本篇我们就套用regression中的部分机制来处理classification中的问题. 在这里首先介绍一下激活函数. 所谓激活函数,实际上就是引入非线性因子,将线性模型去线性化,增强模型的表达能力.ReLU激活函数是我要介绍的第一个激活函数,其定义式为φ(z)=max{0,z},图像表示