【文件属性】：
文件名称：sommatlab代码-Deep-learning-foundation:MLP，CNN，RNN，AE等的Matlab和NumPy实现
文件大小：7.15MB
文件格式：ZIP
更新时间：2021-05-26 13:34:52
系统开源
som
matlab代码深度学习基础
来自KTH的两个基础深度学习课程的作业集合，分别是人工神经网络和深度架构（DD2437）和数据科学中的深度学习（DD2424），在其中我研究了经典和基础深度学习算法（MLP，CNN，RNN，AE，
Hopfield
Network，竞争性学习和SOM），并使用Numpy库在MATLAB
/
Python中从头开始实现它们。
请注意，某些代码需要进一步清除。
每个文件夹的内容
MLP_one_layer
实施，训练和测试具有多个输出的一层网络，以对CIFAR-10数据集中的图像进行分类。
使用应用于成本函数的小批量梯度下降来训练网络，该函数计算应用于标签训练数据的分类器的交叉熵损失和权重矩阵上的L2正则项。
探索有助于提高性能的技巧/途径，例如找到良好的超参数，学习率衰减，Xavier初始化，集成等。
MLP_two_layer
实施，训练和测试具有多个输出的两层网络，以对CIFAR-10数据集中的图像进行分类。
在权重矩阵上使用小批量梯度下降+交叉熵损失函数+
L2正则项训练网络。
为了提高性能，尝试了超参数搜索（粗到细随机搜索），循环学习率，数据
【文件预览】：
Deep-learning-foundation-main
----ANN_lab4.py(7KB)
----MLP_one_layer()
--------montage-1.m(12KB)
--------bouns.m(13KB)
--------montage.m(12KB)
--------ComputeGradsNumSlow.m(641B)
--------Assignment1.m(6KB)
--------ComputeGradsNum.m(481B)
----RNN()
--------Numcomputegrad.py(1KB)
--------assignment4.py(10KB)
----Assignments_and_reports()
--------ANN_Lab4_report.pdf(2.41MB)
--------Assignment2.pdf(328KB)
--------lab2_DLDS.pdf(249KB)
--------lab1_bonus.pdf(333KB)
--------ANN_Lab2_report.pdf(526KB)
--------Assignment1.pdf(342KB)
--------Assignment4.pdf(239KB)
--------Assignment3_option1.pdf(299KB)
--------DL_lab3.pdf(367KB)
--------ANN_Lab3_report.pdf(369KB)
--------DL_lab4.pdf(336KB)
--------ANN_Lab1_Report.pdf(865KB)
--------lab1_DLDS.pdf(426KB)
--------Assignment3.pdf(321KB)
----ANN_lab2.ipynb(25KB)
----MLP_two_layer()
--------bouns2.m(14KB)
--------Assignment2.m(14KB)
--------ComputeGradsNumSlow.m(876B)
--------ComputeGradsNum.m(665B)
----README.md(2KB)
----ANN_lab3.ipynb(34KB)
----ANN_lab1.ipynb(479KB)
----CNN()
--------ConvolutionMatrics3.m(2KB)
--------Compute_loss.m(1KB)
--------plotval.m(659B)
--------ForwardBackword4.m(2KB)
--------PrepareData1.m(2KB)
--------NumericalGradient.m(2KB)
--------ForwardBackword4_1.m(7KB)
--------Initialize2.m(592B)
--------minibatch5.m(13KB)
--------ExtractNames.m(579B)