深度学习建模训练总结（三）：细看RNN长期依赖问题与LSTM的改进
一般来说，全连接层和卷积层已经可以处理大部分的情况了，而RNN的出现，主要是针对两个问题，第一，处理变长的输入，第二，分析序列的顺序信息。虽然目前我们可以通过空间金字塔池化搭配卷积网络实现不定长度序列的处理分析，可是池化操作会丢失输入的顺序信息，所以RNN还是有他的作用的，而且他的结构是如此的简单和...
基于深度学习的图像修补/完整方法分析
点击我爱计算机视觉标星，更快获取CVML新技术作者：黄浴，奇点汽车美研中心首席科学家兼总裁来源：知乎，已获作者授权，禁止二次转载。https://zhuanlan.zhihu.com/p/78874490图像修补的方法基本上也是基于梯度/边缘的连续性或者纹理的扩展性，而传统机器学习方法可以学习有先验...
深度学习----基于keras的LSTM三分类的文本情感分析原理及代码
文章目录背景介绍理论介绍RNN应用场景word2vec 算法Word2Vec：高维来了句向量数据预处理与词向量模型训练LSTM三分类模型代码背景介绍文本情感分析作为NLP的常见任务，具有很高的实际应用价值。本文将采用LSTM模型，训练一个能够识别文本postive, neutral, negativ...
【Deep Learning基础知识】深度学习中关于batch、epoch和iteration的含义 和 batchsize的大小对训练过程的影响
前言：深度学习中最基本的思想为梯度下降，反向传播减小误差优化参数。而在使用训练数据优化参数的时候有两种方法：1）Batch gradient descent：每次迭代(完成一次前向和反向运算)会计算训练数据集中所有的样本，在深度学习中训练样本数量通常达十万、百万甚至更多，这样一次迭代遍历所有的样本显...
深度学习环境配置——查看显卡信息和对应NVDIA驱动
查看显卡信息可以看到你的显卡信息，比如我的就是 product: GM107GL [Quadro K620] [10DE:13BB]。 2. 然后去NVDIA driver search page搜索你的显卡需要的驱动型号，页面如下：以上是推荐驱动，为了再次确认一遍，还可以使用以下命令查看可以使...
深度学习数据增强（Data Augmentation）--VOC数据集
前言最近在做钢筋检测的比赛，因为比赛提供的数据只有200多张，而要使用神经网络模型来完成这个任务的话，这样的数据集就显得非常不足了，因而当我们要训练一个神经网络模型时，数据增强就变成了一种非常有必要的手段了，数据增强一般非为两种方式：一类是离线增强，一类是在线增强。离线增强 ： 直接对数据集进行处理...
DeepMind发布《星际争霸 II》深度学习环境
来源：AI 研习社概要：上个月，DeepMind和暴雪终于开源了《星际争霸II 》的机器学习平台。本文介绍了基于星际争霸II游戏的强化学习环境SC2LE（《星际争霸II 》学习环境）。StarCraft II: A New Challenge for Reinforcement Learning星际...
深度学习笔记——Word2vec和Doc2vec应用举例：词和句子的相似度计算
本文主要介绍一个Word2vec和Doc2vec应用示例：用Word2vec做词的相似度计算和用Doc2vec做句子的相似度计算。该示例主要包含两部分：1.训练Word2vec模型和Doc2vec模型；2.用训练好的Word2vec模型和Doc2vec模型分别进行词相似度计算和句子相似度计算。本例中...
vs深度学习推断报错
问题：不涉及深度学习框架的c++代码，平时编译运行都没有问题；但是涉及深度学习的c++代码，如tensorflow、libtorch，同样的代码，在其他电脑上可正确编译、运行，但在本机编译失败。。。心路历程。。。 刚开始以为是libtorch库的问题，分别下载cuda版本和非cuda版本，relea...
【权威算法榜】斯坦福DAWNBench基准排序端到端深度学习模型
关注：决策智能与机器学习，一篇文章Get一个知识点背景AI模型突飞猛进，到底模型好不好用，为了搞清楚这个问题，斯坦福大学发起了DAWNBench项目，针对测试端到端深度学习模型，在达到预期精度的前提下，对所用的训练时间和成本进行排序。目前是国际上较为权威的测试工具之一。具体来说就是DAWNBench...
深度学习简介
深度学习的发展趋势以及应用领域图1 深度学习从2012年~2016年期间，使用的人数呈现上升的趋势。同时，深度学习可以被应用于很多领域：Android, NLP, 语音识别等。深度学习的发展历程• 1958: Perceptron (linear model)• 1969: Perce...
深度学习系列（2）：前向传播和后向传播算法
深度学习系列（2）：前向传播和后向传播算法前言讲真，之前学吴恩达的机器学习课时，还手写实现过后向传播算法，但如今忘得也一干二净。总结两个原因：1. 理解不够透彻。2. 没有从问题的本质抓住后向传播的精髓。今天重温后向传播算法的推导，但重要的是比较前向传播和后向传播的优缺点，以及它们在神经网络中起到了...
使用ROS和TensorFlow进行深度学习
在翻译《ROS Robotics Projects》的深度学习一章的过程中，顺手在电脑里敲了下相关的命令，发现还是有一些小问题的，详细的操作步骤在此记录如下：《ROS Robotics Projects》由易科机器人实验室翻译，预计2017.10出版。1 安装TensorFlow可以在以下链接获取最...
深度学习之对抗生成网络
对抗生成网络原理(1)生成模型构建o和s的联合分布p(s,o) = p(s) *p(o|s)(2)判别模型构建o和s的条件分布p(s|o)原理：利用判别模型效果，不断提高生成模型效果！逐步递进的过程不可或缺，而不是一开始就无敌！其实就是通过不断求误差下界中的上界的方式，来获取更好的效果（就是莫欺少年...
【深度学习】梳理范数与正则化（二）
【深度学习】梳理范数与正则化（二）今天要梳理的知识是范数与正则化。文章完全根据个人理解写，如有不对，欢迎指出！！正则化正则化是一种对学习算法的约束，主要是为了防止过拟合（下一次会梳理这个知识点），从而增强模型的泛化能力。泛化能力 是指模型对未知数据的预测能力，是一种用于评估机器学习算法的能力的指标。...
【深度学习的数学】初始权重和偏置参数对模型训练非常重要！（预训练模型、预训练文件、初始权重）
在进行 【深度学习的数学】接“2×3×1层带sigmoid**函数的神经网络感知机对三角形平面的分类训练预测”，输出层加偏置b 的测试中，我们发现，模型的初始权重对模型的训练结果是影响非常大的，如图对比了两种不同的模型训练结果，权重和偏置初始参数均采用正态分布随机值情况1情况2情况3可以看到，情况1...
深度学习中彩色图片批量处理成灰度图片-by Python
在进行深度学习之前，往往需要创建一个用于训练的图片数据集，且一般要求训练集具有统一 的格式和大小。本文以批量处理大小不一 的jpg图片为例，介绍批量处理的一些问题。方法仅供参考。程序如下：###本程序用于将.jpg格式的图片批量转化为.npg灰度图像import osfrom PIL import ...
深度学习的“Hello World”
回到上一篇 了解机器学习(深度学习)的几个特点本文目的是通过深度学习的“Hello World”，向读者展示神经网络的训练过程，是用不那么技术化的文字帮你建立对神经网络的直觉。我们将避免使用数学符号，因为数学符号可能会令没有任何数学背景的人反感，而且对解释问题也不是绝对必要的。本文真正目的不是要解决...
keras 入门——电影评论二分类问题（from python深度学习）
一、IMDB数据集的介绍 电影评论IMDB数据集，包含来自电影数据库（IMDB）的50000两级分化的评论。我们在深度学习中采用其中的25000条评论作为训练集，剩下的25000条评论作为测试集。两个测试集都包含各50%的正面与负面评论，其中0代表负面，1代表正面。数据集已经内置于kera...
深度学习之卷积神经网络CNN及tensorflow代码实现示例
卷积神经网络简介卷积神经网络(convolutional neural network，CNN)最初是用来解决图像识别等问题设计的，随着计算机的发展，现在CNN的应用已经非常广泛了，在自然语言处理(NLP)、医药发现、文本处理等等中都有应用。这里我们着重分析CNN在图像处理上的应用。在早期图像处理识...