机器学习基石笔记：10 Logistic Regression

线性分类中的是非题------>概率题，

设置概率阈值后，大于等于该值的为O，小于改值的为X。------>逻辑回归。

O为1，X为0：

逻辑回归假设：

逻辑函数/S型函数：光滑，单调，

自变量趋于负无穷时，因变量趋于0；

自变量趋于正无穷时，因变量趋于1；

自变量取0时，因变量值为0.5。

－－－模拟概率特性。

三种线性模型：

逻辑回归使用交叉熵代价函数。

最小化代价函数时，

发现无法求出使其值最小的解析解，

类比PLA的迭代法，使用梯度下降法求最小值。

 

eta------学习速率，与梯度大小有关，正比。

v------方向，单位长度，方向与梯度相反。

逻辑回归算法流程：