吴恩达机器学习笔记35-诊断偏差和方差(Diagnosing Bias vs. Variance)

时间:2022-03-29 11:44:34

  当你运行一个学习算法时,如果这个算法的表现不理想,那么多半是出现两种情况:
要么是偏差比较大,要么是方差比较大。换句话说,出现的情况要么是欠拟合,要么是过拟
合问题。那么这两种情况,哪个和偏差有关,哪个和方差有关,或者是不是和两个都有关?
搞清楚这一点非常重要,因为能判断出现的情况是这两种情况中的哪一种。其实是一个很有
效的指示器,指引着可以改进算法的最有效的方法和途径,高偏差和高方差的问题基本上来说是欠拟合和过拟合的问题。

吴恩达机器学习笔记35-诊断偏差和方差(Diagnosing Bias vs. Variance)

我们通常会通过将训练集和交叉验证集的代价函数误差与多项式的次数绘制在同一张
图表上来帮助分析:

吴恩达机器学习笔记35-诊断偏差和方差(Diagnosing Bias vs. Variance)

吴恩达机器学习笔记35-诊断偏差和方差(Diagnosing Bias vs. Variance)

吴恩达机器学习笔记35-诊断偏差和方差(Diagnosing Bias vs. Variance)

  对于训练集,当