利用全连接神经网络实现手写数字识别-使用Python语言，Keras框架
1.问题描述?本文要解决的问题是手写数字识别。使用的数据集为：mnist。我们需要让计算机识别图片中的手写数字是多少。这个问题对于我们人类来说非常简单，一眼就看出来图片中的数字是几了。 但是对于机器来说却很难，因为机器从一张图片中看到的是一堆没啥意义的数字。2.解决思路?那如何让计算机认出图片中的数...
深度学习（15）：卷积神经网络
本文以图像分类为例简要介绍卷积神经网络的基本结构。卷积过滤器（核）：过滤器是我们用来卷积的工具。对于一张图片，我们可以利用过滤器来抓取图片的某些特征。一个过滤器是一个 f * f 的矩阵， 其中的每一个元素都是可训练的参数。我们假设现在有一个6 * 6的灰度图，3 * 3的过滤器，那么卷积的过程如下...
神经网络与深度学习笔记 （五）深层神经网络
摘要：本文知识点主要有简单介绍深层神经网络、深层神经网络的传播过程、保证矩阵维数的正确性、深度神经网络强大的原因、神经网络正向传播和反向传播的流程图、参数和超参数和神经网络与人脑机制的关系。1.深层神经网络深层神经网络其实就是包含更多的隐藏层神经网络。如下图所示，分别列举了逻辑回归、1个隐藏层的神经...
神经网络模型压缩——剪枝
一、Adaptive Neural Networks for Efficient Inference 2017 （注意比较这个和下一个： 一二）https://www.baidu.com/link?url=G_BjuL1bDrwmt0XxMTS-3g6VB_HGfIBJTCVmuWUatmJ4dyX...
智能优化算法——神经网络算法小实践
实验四 神经网络算法一、实验目的与要求目的：熟悉BP神经网络主要思想，掌握BP神经网络算法过程和在预测方面的应用。要求：上机运行，调试通过。二、 实验设备：计算机、Python语言软件三、实验内容下表所示为某地区公路运力的历史统计记录，利用BP神经网络建立相应的模型，并根据给出的2018和2019年...
神经网络的训练与部署
训练一个网络的三要素：结构、算法、权值网络模型一旦选定，三要素中结构和算法就确定了，接下来要对权值进行调整。 神经网络是将一组训练集（training set）送入网络，根据网络的实际输出与期望输出间的差别来调整权值。训练模型的步骤：选择样本集合的一个样本（Ai Bi） （数据 标签）送入网络，计算...
神经网络训练细节：权重不更新，损失值不减少
1.背景介绍在使用darknet模型resnet训练OCT图片时，准确率下不去。先看看我的训练效果:2.图像特征及图像预处理 图：水...
卷积神经网络的训练
卷积神经网络的训练和全连接神经网络相比，卷积神经网络的训练要复杂一些。但训练的原理是一样的：利用链式求导计算损失函数对每个权重的偏导数（梯度），然后根据梯度下降公式更新权重。训练算法依然是反向传播算法。我们先回忆一下上一篇文章零基础入门深度学习(3) - 神经网络和反向传播算法介绍的反向传播算法，整...
深度学习：卷积神经网络从入门到精通
内容简介全面介绍各种卷积神经网络的模型、算法及应用，指导读者把握其形成和演变的基本脉络，以帮助读者在较短的时间内从入门达到精通的水平。有兴趣的读者可以从本书开始，通过图像分类、识别、检测和分割的案例，逐步深入卷积神经网络的核心，掌握深度学习的方法和精髓，领会 AlphaGo 战胜人类世界冠军的奥秘。...
深度学习(五)~基于门控的循环神经网络
深度学习（五）~基于门控的循环神经网络基于门控的循环神经网络1. 长短期记忆神经网络(LSTM)1. RNN vs LSTM2. LSTM工作机制(1).【LSTM前向传播】(2).【LSTM反向传播】2. 门控循环单元网络(GRU)1. GRU工作机制基于门控的循环神经网络1. 长短期记忆神经网络...
SlowFast神经网络！github克隆到运行成功全过程
一：SlowFast是什么？上面的gif图片就是用SlowFast跑出来的视频，SlowFast是怎样让一个视频从无到标注出每个人物此时此刻在做什么，是在说话还是在听、是站着还是坐着、是走还是在跑，SlowFast是怎么运作的呢。首先我们来介绍SlowFast1.1怎么通俗的讲清楚什么是Slowfa...
深度学习：基于TensorFlow、Keras，使用长短期记忆神经网络模型(LSTM)对Microsoft股票进行预测分析-3. 探索性数据分析
EDA是一种使用视觉技术分析数据的方法。它用于发现趋势和模式，或借助统计摘要和图形表示来检查假设。 3.1 股票的开盘、收盘价 plt.style.use("fivethirtyeight")plt.plot(df['Date'], df['Open'], color="blue", label=...
卷积神经网络（CNN）
大家好，这里是七七，今天来更新关于CNN相关的内容同了。本文是针对CNN原理的说明，但对于小白不是非常友好，建议先掌握神经网络相应知识再进行阅读哦。 一、卷积与互相关 卷积 卷积运算是对两个函数进行的一种数学运算，结果是一个新的函数，如果第一个函数为f(x)，第二个为g(x)，那么其卷积运算被定义为...
深度学习之基于Vgg16卷积神经网络乳腺癌诊断系统-四. 总结
提高乳腺癌诊断的准确性和效率：基于VGG16卷积神经网络的乳腺癌诊断系统能够自动分析乳腺影像数据，提取关键特征，并输出诊断结果，从而大大提高了诊断的准确性和效率。 辅助医生进行诊断和治疗：该系统可以辅助医生进行乳腺癌的诊断和治疗，减轻医生的工作负担，提高医疗质量。 推动深度学习技术在医学领域...
【跟马少平老师学AI】-【神经网络是怎么实现的】（六）过拟合问题
一句话归纳： 1）过拟合问题： 图中的点为样本直线欠拟合曲线2过拟合 2）迭代次数与拟合情况： 训练次数过多可能导致过拟合。 3）正则化项法弱化过拟后问题： 加正则项，在最小化损失函数时抑制了个别参数影响过大导致的过拟合。 4）舍弃法弱化过拟合： 通过训练多个简...
【深度学习】第一门课 神经网络和深度学习 Week 4 深层神经网络
????Write In Front???? ????个人主页：令夏二十三 ????欢迎各位→点赞???? + 收藏⭐️ + 留言???? ????系列专栏：深度学习 ????总结：希望你看完之后，能对你有所帮助，不足请指正！共同学习交流 ???? 文章目录 4.1 深层神经网络概述 4.2...
启程Python机器学习之旅：从JupyterLab到神经网络初探
引言 在数据科学和人工智能的浪潮中，Python已经成为最受欢迎的编程语言之一。其简洁的语法和强大的库支持，使得从科研到商业的各个领域都能见到Python的身影。今天，我们将通过JupyterLab——一个交互式的开发环境，开始我们的Python机器学习编程之旅。 JupyterLab：交互式学习的...
【补充】图神经网络前传——图论
本文作为对图神经网络的补充。主要内容是看书。 仅包含Introduction to Graph Theory前五章以及其他相关书籍的相关内容（如果后续在实践中发现前五章不够，会补上剩余内容） 引入 什么是图？ 如上图所示的路线图和电路图都可以使用点和线表示，如下图： 图中的点P，Q，R，S和T被...
Tensorflow2.0笔记 - 使用卷积神经网络层做CIFA100数据集训练（类VGG13）
本笔记记录CNN做CIFAR100数据集的训练相关内容，代码中使用了类似VGG13的网络结构，做了两个Sequetial（CNN和全连接层），没有用Flatten层而是用reshape操作做CNN和全连接层的中转操作。由于网络层次较深，参数量相比之前的网络多了不少，因此只做了10次e...
探索和构建 LLaMA 3 架构：深入探讨组件、编码和推理技术（七）前馈神经网络
探索和构建 LLaMA 3 架构：深入探讨组件、编码和推理技术（七）前馈神经网络 在Transformer架构中，前馈层扮演着至关重要的角色，通常位于注意力层和标准化处理之后。前馈层由三个线性变换组成。 class FeedForward(nn.Module): def __init__(s...