新开博客,最近在进行深度神经网络方面的研究,随便写上几句。也算一个梳理。
神经网络经过这些年的发展,终于在Hinton大师的带领下,迈出了神圣的一步。
有接触过些BP神经网络的内容,BP神经网络这类传统神经网络一般的结构都是1输入层,1隐层和1输出层。三层的结构在很多情况下其实都是不够用的。但是每多加入一层隐层其计算量都将指数上升,这样的计算量增加几乎是不可容忍的。我曾经自己搭建的一个神经网络,在隐层加到3层的时候,训练时间就久的要按天算了。因此深层次的实用神经网络一直也没能出现,神经网络这种分类方法也一直得不到很好的效果。
现在Hinton大神终于给了我们一个答案。
深度神经网络!我认为其核心就是更加准确的获得事务特征,获得了准确的特征再使用传统的分类器进行分类即可。其提供的就是一种特征获取方法,而这方法就是深度神经网络。所谓特征也就是用一些数据去表示这个物体本身。假设转换成数据的过程中信息没有丢失,那我们可以想象,优秀的特征应该能还原成原始数据本身。在这一思想的带动下,想出了一种无监督的特征学习方法。我们对其中一层进行特征提取,然后反过来通过特征获得原始数据,经过多次迭代,这一层就能很好的获得输入的另一种表示,也就是其特征。这也是抽象的一个过程,经过一层,就经过一层抽象。经过N层之后,原始数据就被抽象成一种高度抽象的表示,这就是我们要的特征。最后,再用一个分类器对这特征进行分类,就可以获得良好的效果。
以上都是我的个人理解,如有出入,请指正,谢谢!