详解线性分类-背景&感知机【白板推导系列笔记】
本文已参与「新人创作礼」活动,一起开启掘金创作之路。传统的机器学习方法或多或少都有线性回归模型的影子:线性模型往往不能很好地拟合数据,因此有三种方案克服这一劣势: a. 对特征的维数进行变换,例如多项式回归模型就是在线性特征的基础上加入高次项。 b. 在线性方程后面加入一个非线性变换,即...
详解线性回归-最小二乘法及其几何意义&最小二乘法-概率视角-高斯噪声-MLE【白板推导系列笔记】
$$\begin{gathered}D=\left{(x_{1},y_{1}),(x_{2},y_{2}),\cdots ,(x_{N},y_{N})\right}\x_{i}\in \mathbb{R}^{p},y_{i}\in \mathbb{R},i=1,2,\cdots ,N\X=\begi...
详解数学基础-概率-高斯分布-极大似然估计&极大似然估计-有偏VS无偏【白板推导系列笔记】
关于最大似然估计法,我们有以下直观想法:现在已经取到样本值$x_{1},x_{2},\cdots,x_{n}$了,这表明取到这一样本值的概率$L(\theta)$比较大。我们当然不会考虑那些不能使样本$x_{1},x_{2},\cdots,x_{n}$出现的$\theta \in \Theta$作为...