为什么GPU对于深度学习如此重要？
正如大多数人所知道的，GPU的处理速度之快得益于它可以高效地处理矩阵乘法和卷积，但是大家并不一定知道真正的理由。GPU如此快速的真正原因是内存带宽和不必要的并行。高带宽首先，大家必须得明白CPU是基于延迟优化的，而GPU是基于带宽优化的。CPU与GPU就像法拉利与卡车，两者的任务都是从随机位置A提取...
关于 google 免费提供的GPU —— colab
关于 Colab1. 如何获取2. 如何使用3. 需要注意的点3.1 资源限制3.2 如何升级到 colab pro1. 如何获取深度学习如何获得免费GPU（2）——谷歌云colab2. 如何使用Theano backend 和 Tensorflow backend？3. 需要注意的点3.1 资源限...
GPU与CPU之间的区别
CPU的设计是用来运行少量比较复杂的任务（latency oriented design），GPU的设计则是用来运行大量比较简单的任务(throughput oriented design)。CPU具有powerful ALU(reduced operation latency)，lager cac...
浅析GPU计算——CPU和GPU的选择
原文地址：https://blog.csdn.net/breaksoftware/article/details/79275626，为了自己用手机看方便，所以转载了，希望博主勿怪 目前市面上介绍GPU编程的博文很多，其中很多都是照章宣科，让人只能感受到冷冷的技术，而缺乏知识的温度。所以我...
Keras搭建深度学习模型，指定使用GPU来进行模型的训练和测试
今天使用到了GPU来加速计算，那种感觉简直就是一飞冲天了，临近毕业季，大家都在做实验，服务器早已是不堪重负了，我们屋的服务器一堆人再用，卡到爆炸，训练一个模型粗略计算一下迭代100次就需要3、4天的时间，得不偿失，正好隔壁有一台闲置的GPU深度学习服务器，决定上手搞一搞。 深度学习我也...
pytorc使用多个GPU同时训练及常见问题解决办法
在pytorch上使用多个GPU（在同一台设备上，并非分布式）进行训练是件非常容易的事情，只要在源代码中添加（修改）两行代码即可。下面贴上官方教程给的示例代码。并在文末总结一些自己在使用多GPU实验时发现的问题。官方tutorial把模型放在GPU上:device = torch.device("c...
ubuntu 使用 conda 安装 tensorflow-gpu
在 ubuntu 上通过 conda 安装 tensorflow-gpu，主要可以分为四步（默认已经安装好了conda）在 ubuntu 上安装 nvidia 驱动，这一步在网上有很多教程，不是难点，所以这里不详细展开安装 cuda，这里可直接下载 下载该文件后，直接运行 sudo sh [文件名]...
解决tensorflow无法使用gpu
tensorflow-gpu安装参考： https://www.cnblogs.com/yincq/p/11603057.html 然后跑程序的时候发现还是用的cpu 测试了以下两行代码： import tensorflow as tf tf.test_is_gpu_available() 发现缺少...
CUDA 多GPU调用实现
当设备存在多块GPU时，为了高效利用GPU，我们常常需要使用多卡计算。本例中我们使用OpenMP来进行多线程调用多GPU运行，初学者无须详细了解OpenMP，只需知道一两句命令就行。详细步骤如下：1、建立一个普通CUDA项目：2、在项目属性C/C++设置语言：支持openMP3、在CUDA C/C+...
多个docker容器共享GPU方法
引言最近容器比较火，容器支持对CPU和内存的资源限制，但是GPU还不是很明朗，多个容器能不能共享一个GPU呢？如果共享的话，是并行的方式还是并发的方式呢？又如何确保GPU的资源能够被高效利用呢？本文，通过查阅大量官方文档，并通过实验验证，想一探究竟~问题描述GPU是深度学习的利器，相比于CPU，并行...
GPU硬件知识和基础概念 : AI时代程序员都应该了解的GPU基础知识
金融建模、自动驾驶、智能机器人、新材料发现、脑神经科学、医学影像分析…人工智能时代的科学研究极度依赖计算力的支持。提供算力的各家硬件芯片厂商中，最抢镜的当属英伟达Nvidia了。这家做显卡起家的芯片公司在深度学习兴起后可谓红得发紫，如果不聊几句GPU和英伟达，都不好意思跟别人说自己是做人工智能的。那...
关于CPU 和 GPU
关于CPU 和 GPU中央处理器（CPU，Central Processing Unit） 是电子计算机的主要设备之一，电脑中核心配件。主要功能是解释计算机指令以及处理计算机软件中的数据。CPU是计算机中负责读取指令，对指令译码并执行的指令的核心部件。中央处理器主要包括两部分，即控制器、运算器，其...
GPU 通信技术初探（一）- 深度学习集群
作者: 华为云原生团队2019 年 5 月 21 日 09:41https://www.infoq.cn/article/3D4MsRVS8ZOtGCj7*krT自 2007 年 NVIDIA 率先推出 GPU 加速器后，由于 GPU 的超强的计算能力，现已广泛应用于物理、生物科学、化学、天气预报等...
windos中查看gpu信息，以及NVIDIA-SMI命令详解
1 NVIDIA-SMI介绍 nvidia-smi简称NVSMI，提供监控GPU使用情况和更改GPU状态的功能，是一个跨平台工具，它支持所有标准的NVIDIA驱动程序支持的Linux发行版以及从WindowsServer 2008 R2开始的64位的系统。该工具是N卡驱动附带的，只要...
百度paddleocr GPU版部署
显卡：NVIDIA GeForce RTX 4070，Nvidia驱动程序版本：537.13 Nvidia驱动程序能支持的最高cuda版本：12.2.138 Python：python3.10.11。试过python3.12，安装paddleocr失败，找不到相关模块。 飞桨版本：2.6，操作系...
Android WebView执行GPU命令的过程分析
分享一下我老师大神的人工智能教程！零基础，通俗易懂！http://blog.csdn.net/jiangjunshow也欢迎大家转载本篇文章。分享知识，造福人民，实现我们中华民族伟大复兴！ Android WebView使用的Chromium引擎，虽然没有...
关于安装tensorflow-cpu/tensorflow-gpu出现的问题及解决方案
关于安装tensorflow-cpu/tensorflow-gpu出现的问题及解决方案安装前的准备： 1.首先确认自己的显卡驱动版本是不是最新版，如果不是最新版，则需要去英伟达官网下载与自己显卡驱动版本对应的cudatoolkit版本，并且查看自己的显卡内存是否大于等于4G,如果小于4G，建议直接安...
win10下的使用dlib的GPU加速
发现上文已经配置好了dlib的环境，默认是有GPU加速功能的。在cmake的时候有显示 Enabling CUDA support for dlib. DLIB WILL USE CUDA之类的字眼，就是支持GUP加速。本地已经安装了1.CUDA 9.02.显卡是P20003.下载CUDNN，将解压...
Win10 配置tensorflow1.3 GPU版本以及tensorboard的使用
以前一直使用的tensorflow1.2 CPU版本的，但最近重装了系统，索性装装tensorflow1.3 GPU版本的试试（我在安装时发现已经更新到1.3版本了，所以装的是1.3）。本人电脑使用的是Win10 64位的系统，显卡使用的是NVIDIA GeForce GTX 1050.再装tens...
Yolov3：win10下训练自己的数据（GPU版）（详细步骤）
版权声明：本文为博主原创文章，未经博主允许不得转载。https://mp.csdn.net/postedit/88577729前言 最近在做用yolov3进行目标识别，关于前期已经成功检测成功了，大家有兴趣的可以看我之前写的一篇博客：VS2015+opencv3.4.2+yolov3成功检...