反向传播(BP)算法

时间:2022-02-16 10:33:26
著作权归作者所有。
商业转载请联系作者获得授权,非商业转载请注明出处。
作者:刘皮皮
链接:https://www.zhihu.com/question/24827633/answer/29120394
来源:知乎
类比来说类似于
几个人站成一排
第一个人看一幅画(输入数据),描述给第二个人(隐层)……依此类推,到最后一个人(输出)的时候,画出来的画肯定不能看了(误差较大)。
反向传播就是,把画拿给最后一个人看(求取误差),然后最后一个人就会告诉前面的人下次描述时需要注意哪里(权值修正)。
不知明白了没有,如果需要理论推导(其实就是链式法则+梯度下降法),可以参考1986年的bp算法的论文。(20141202, 补上论文题目: Learning representations by back-propagating errors, David E. Rumelhart, Geoffrey E. Hinton & Ronald J. Williams, 1986.)
http://hahack.com/reading/ann2/