浅谈回归Regression(一)

时间:2023-03-10 01:04:30
浅谈回归Regression(一)

一、什么是回归?

孩子的身高是否与父母有关?
实际上,父母和孩子的身高是受到回归效应影响的。在时间纵轴上受影响、具有随机性的事物,无不遵循这一规律。
只要数据足够大,人类的身高或者智商,都有趋于平均值的回归性。

1.1 回归与函数逼近

function approximation or regression

P.S. Reinforcement learning 以及 Regression
均是被误用的名词,但约定俗成沿用至今。so,请理解真正含义。

1.2 多项式的阶数

联想之傅里叶级数:
低阶决定形状,高阶决定细节

浅谈回归Regression(一)

回到多项式的阶数,高阶多项式可利用*度将误差降低。

but,过高的阶数可能导致模型过拟合
如图,高阶拟合可降低误差

浅谈回归Regression(一)

如图 ,误差与拟合多项式阶数的关系
浅谈回归Regression(一)

二、多项式回归

多项式求系数——Review Linear Algebra

浅谈回归Regression(一)

求系数——矩阵运算
浅谈回归Regression(一)