神经网络用作分类器（附代码matlab）
神经网络用作分类器自己实践了一下，对神经网络作分类器有了初步了解。本文主要内容包括： (1) 介绍神经网络基本原理 (2) Matlab实现前向神经网络的方法 第0节、引例 本文以Fisher的Iris数据集作为神经网络程序的测试数据集。Iris数据集可以在http://en.wik...
神经网络之权重初始化（附代码）
摘要神经网络/深度学习模型训练的过程本质是对权重进行更新，在对一个新的模型进行训练之前，需要每个参数有相应的初始值。对于多层神经网络/深度学习而言，如何选择参数初始值便成为一个值得探讨的问题。本文从实现**值的稳定分布角度来探讨神经网络的效率优化问题权重在神经网络/深度学习中的作用（个人领受）神经网...
神经网络参数初始化（MSRA、Xavier）
转载文章：神经网路权重初始化（讲的比较详细）再推荐一篇感觉原理讲的很好的文章：https://blog.csdn.net/u014696921/article/details/53819512网络权重初始化相关理想的网络参数初始化使模型训练事半功倍，相反，糟糕的初始化方案不仅会影响网络收敛，甚至会导...
NLP 神经网络训练慎用 Adam 优化器
https://www.jianshu.com/p/48e71b72ca67NLP 神经网络训练慎用 Adam 优化器theoqian关注12019.02.10 16:01:45字数 499阅读 1,168 AllenNLP 在 EMNLP 2018 的演讲 PPT 《Writing Code f...
卷积神经网络(CNN)介绍05-优化器
常见优化器介绍Batch Gradient Descent（BGD）★ 梯度更新规则:BGD 采用整个训练集的数据来计算 cost function 对参数的梯度。★ 缺点：由于这种方法是在一次更新中，就对整个数据集计算梯度，所以计算起来非常慢，遇到很大量的数据集也会非常棘手，而且不能投入新数据实时...
3D 卷积神经网络 视频动作识别
转自：http://blog.csdn.net/AUTO1993/article/details/70948249https://zhuanlan.zhihu.com/p/25912625http://blog.csdn.net/zouxy09/article/details/90025083D C...
深度学习（十一）：卷积神经网络CNN
这是一篇机器学习的介绍，本文不会涉及公式推导，主要是一些算法思想的随笔记录。适用人群：机器学习初学者，转AI的开发人员。编程语言：Python参考视频：吴恩达老师的深度学习系列视频吴恩达老师深度学习笔记整理唐宇迪深度学习入门视频课程笔记下载：深度学习个人笔记完整版计算机视觉(Computer Vis...
深层神经网络——多层网络解决异或运算
异或（xor）是一个数学运算符。它应用于逻辑运算。异或的数学符号为“⊕”，计算机符号为“xor”。其运算法则为： a⊕b = (¬a ∧ b) ∨ (a ∧¬b) 如果a、b两个值不相同，则异或结果为1。如果a、b两个值相同，异或结果为0。 异或也叫半加运算，其运算法则相当于不带进位的二进制加法：二...
让机器辨别气味：利用图神经网络预测分子的嗅觉属性
文 / Alexander B Wiltschko 高级研究员 Google Research嗅觉是诸多生物体共有的一种感官，在生物体分析世界并作出相应反应方面起着至关重要的作用。对人类而言，我们的嗅觉与享用美食紧密相连，并且还能唤醒与之对应的鲜活记忆。嗅觉使我们可以感受日常生活中的各种香味，例如我...
神经网络画图工具
函数图像在线绘图网址： https://zh.numberempire.com/graphingcalculator.php可以将多个函数绘制在同一个图像上，并且用不同颜色区分，并在图上有标记说明函数名字。画sigmoid和tanh图像时遇到了2个问题，1.图像整体的下面有一行放大缩小这样的图标，离...
神经网络的MATLAB GUI实现
如何在matlab中通过GUI的方式来创建和训练一个神经网络？本文以一个汽油辛烷值的预测为例讲解。首先，先将需要的数据等导入进来。%% I. 清空环境变量clear allclc%% II. 训练集/测试集产生%%% 1. 导入数据load spectra_data.mat%%% 2. 随机产生训练...
RNN(Recurrent Neural Network)循环神经网络学习笔记
一、什么是序列数据例如：1.例如股票中的走势，涨跌数据：2.视频中连续图像：3.文本序列：二、什么是循环神经网络：1. 循环神经网络的定义循环神经网络（Recurrent Neural Network, RNN）是一类以序列（sequence）数据为输入，在序列的演进方向进行递归（recursion...
神经网络算法详解：反馈神经网络（Hopfield网络、双向联想记忆网络BAM、玻尔兹曼机BM、RBM）
本文介绍了反馈神经网络，包括Hopfield网络，离散Hopfield网络（DHNN），连续Hopfield网络（CHNN），双向联想记忆网络（BAM），玻尔兹曼机（BM），受限玻尔兹曼机（RBM）。其中对于BAM、BM、RBM只是对其进行了简单的介绍，并没有详细地推导算法。本文的目的旨在了解这些算...
Hopfield神经网络处理TSP问题
TSP问题简介： TSP问题就是在一城市集合{A,B,C,…}中找出一个最短且经过每个城市各一次并回到起点的路径。为了将TSP问题映射到一神经网络的动态演化过程，首先必须找到一合适的表示方法。任一城市在最终路径上的次序可用一N维矢量表示。以10城市为例，如果城市A是第6个访问，则可以用0...
R语言 神经网络neuralnet和nnet
关注微信公共号：小程在线关注CSDN博客：程志伟的博客neuralnet()：建立B-P网络gwplot函数：神经网络变量重要性的可视化图形compute函数：利用神经网络进行预测nnet函数：建立B-P网络> setwd('G:\\R语言\\大三下半年\\数据挖掘：R语言实战\\')>...
Qualcomm NPU 高通神经网络处理芯片
“专人专事专办”听起来是个很诱人的事情，当在某一方面有需要就去找专门对应的人员或是硬件进行快速处理和反馈，这个道理似乎很简单。然而在当今的移动领域满足人工智能运算需求这方面，移动平台制造商们分成了2个派系。其一是“专人专事专办”的独立NPU；与之对立的是以“人多力量大”为指导，调用整个芯片不同组件...
不使用框架实现卷积神经网络(Python)
不使用框架实现卷积神经网络(Python) 之前为了对卷积神经网络有更深入的了解，结合别人的成果和自己的思考，在仅使用numpy和cv2的前提下，实现了深度卷积神经网络，并使用mnist数据集进行了训练和测试。不过速度真的非常慢，代码：https://github.com/WepLeo/cnn_w...
深度学习之卷积神经网络CNN及tensorflow代码实现示例
卷积神经网络简介卷积神经网络(convolutional neural network，CNN)最初是用来解决图像识别等问题设计的，随着计算机的发展，现在CNN的应用已经非常广泛了，在自然语言处理(NLP)、医药发现、文本处理等等中都有应用。这里我们着重分析CNN在图像处理上的应用。在早期图像处理识...
【深度学习系列（二）】：基于c++实现一个简单的神经网络（1）
学习深度学习首先得知道反向传播，这是神经网络能够学习得重要原因，也是深度学习得基石。所以，本系列以此为开篇，着重介绍神经网络得正向/反向传播得流程。哈哈，肯定有人会问为什么用C++实现，python不是更好吗？哈哈，本人严重C++控，好吧后续得一些文章大多是基于c++实现的，所以，最好有...
利用全连接神经网络实现手写数字识别-使用Python语言，Keras框架
1.问题描述?本文要解决的问题是手写数字识别。使用的数据集为：mnist。我们需要让计算机识别图片中的手写数字是多少。这个问题对于我们人类来说非常简单，一眼就看出来图片中的数字是几了。 但是对于机器来说却很难，因为机器从一张图片中看到的是一堆没啥意义的数字。2.解决思路?那如何让计算机认出图片中的数...