线性分类中的是非题------>概率题,
设置概率阈值后,大于等于该值的为O,小于改值的为X。------>逻辑回归。

O为1,X为0:

逻辑回归假设:

逻辑函数/S型函数:光滑,单调,
自变量趋于负无穷时,因变量趋于0;
自变量趋于正无穷时,因变量趋于1;
自变量取0时,因变量值为0.5。
---模拟概率特性。

三种线性模型:

逻辑回归使用交叉熵代价函数。










最小化代价函数时,
发现无法求出使其值最小的解析解,
类比PLA的迭代法,使用梯度下降法求最小值。



eta------学习速率,与梯度大小有关,正比。
v------方向,单位长度,方向与梯度相反。
逻辑回归算法流程:
