深度学习PyTorch版学习笔记与心得(二)

时间:2021-01-20 12:02:56
【文件属性】:
文件名称:深度学习PyTorch版学习笔记与心得(二)
文件大小:83KB
文件格式:PDF
更新时间:2021-01-20 12:02:56
c OR 学习 多层感知机     1.多层感知机的基本知识       多层感知机(MLP)是研究神经网络的一个非常重要的多层模型。       下图展示了一个多层感知机的神经网络图,它含有一个隐藏层,该层中有5个隐藏单元。 表达公式:       具体来说,给定一个小批量样本X∈Rn×dX∈Rn×d,其批量大小为nn,输入个数为dd。假设多层感知机只有一个隐藏层,其中隐藏单元个数为hh。记隐藏层的输出(也称为隐藏层变量或隐藏变量)为HH,有H∈Rn×hH∈Rn×h。因为隐藏层和输出层均是全连接层,可以设隐藏层的权重参数和偏差参数分别为Wh∈Rd×hWh∈Rd×h和 bh∈R1×hbh∈R1×h,输出层的

网友评论