逻辑斯谛回归之决策边界 logistic regression -- decision boundary

时间:2021-09-22 04:45:32

逻辑斯谛回归之决策边界 logistic regression -- decision boundary


logistic回归虽然带着回归两字却和线性回归有很大的区别,在前几篇博客中完整的介绍了线性回归。线性回归主要用于预测问题,其输出值为连续变量,而logistic回归主要用于分类问题,其输出值为离散值。logistic回归可以用于多元分类问题,也可以用于二元分类问题,但二元分类更为常用。因此本文只介绍二元分类的应用。 先来看一些logistic回归的基本东西,logistic回归的假设函数为:逻辑斯谛回归之决策边界 logistic regression -- decision boundary逻辑斯谛回归之决策边界 logistic regression -- decision boundary .因此逻辑斯谛回归之决策边界 logistic regression -- decision boundary 其中逻辑斯谛回归之决策边界 logistic regression -- decision boundary称为S型函数(sigmoid function)或者逻辑函数(logistic function),其函数图像如图所示: 逻辑斯谛回归之决策边界 logistic regression -- decision boundary

从函数图像中很容易观察出逻辑斯谛回归之决策边界 logistic regression -- decision boundary ,即逻辑斯谛回归之决策边界 logistic regression -- decision boundary  举个例子:对于肿瘤数据集,假设其中一个特征为肿瘤的尺寸,结果为{恶性,良性}。假设逻辑斯谛回归之决策边界 logistic regression -- decision boundary ,逻辑斯谛回归之决策边界 logistic regression -- decision boundary 即肿瘤为恶性的概率为0.7,因此逻辑斯谛回归之决策边界 logistic regression -- decision boundary ,看不懂什么意思的强烈建议去补下概率论,即在给定逻辑斯谛回归之决策边界 logistic regression -- decision boundary的条件下y=1的概率。对于二元分类问题,逻辑斯谛回归之决策边界 logistic regression -- decision boundary 。logistic回归基本的东西就先介绍到,下面介绍决策边界(decision boundary),所谓决策边界就是能够把样本正确分类的一条边界,主要有线性决策边界(linear decision boundaries)和非线性决策边界(non-linear decision boundaries)。注意:决策边界是假设函数的属性,由参数逻辑斯谛回归之决策边界 logistic regression -- decision boundary决定,而不是由数据集的特征决定。下面主要举一些例子,形象化的来说明线性决策边界和非线性决策边界。 先看一个线性决策边界的例子:(注:图片来源:ng的machine learning课) 逻辑斯谛回归之决策边界 logistic regression -- decision boundary

这个应该很好理解了,至于为什么predict y=1 if 逻辑斯谛回归之决策边界 logistic regression -- decision boundary 请滚动鼠标回看上面的公式。
再来看一个非线性决策边界的例子:
逻辑斯谛回归之决策边界 logistic regression -- decision boundary
决策边界先介绍到这,至于如何自动选择参数逻辑斯谛回归之决策边界 logistic regression -- decision boundary ,将在下篇博客中介绍,请大家关注。