深度学习gpu为什么比cpu快,深度学习用cpu训练和用gpu训练有什么区别

2021-01-11 12:04:38 字数 5033 阅读 5472

1楼:圣域邪皇

那为什么要拿gpu跟cpu作比较,就像一个女人跟一个男人你问我们谁更美一样…我丢

深度学习用cpu训练和用gpu训练有什么区别

2楼:课文你来说

(1)cpu主要用于串行运算;而gpu则是大规模并行运算。由于深度学习中样本量巨大,参数量也很大,所以gpu的作用就是加速网络运算。

(2)cpu算神经网络也是可以的,算出来的神经网络放到实际应用中效果也很好,只不过速度会很慢罢了。而目前gpu运算主要集中在矩阵乘法和卷积上,其他的逻辑运算速度并没有cpu快。

2、深度学习

深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。

深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示,如每个像素强度值的向量,或者更抽象地表示成一系列边、特定形状的区域等。

使用神经网络训练,一个最大的问题就是训练速度的问题,特别是对于深度学习而言,过多的参数会消耗很多的时间,在神经网络训练过程中,运算最多的是关于矩阵的运算,这个时候就正好用到了gpu,gpu本来是用来处理图形的,但是因为其处理矩阵计算的高效性就运用到了深度学习之中。

3楼:匿名用户

gpu概念

gpu英文全称graphic processing unit,中文翻译为“图形处理器”。gpu是相对于cpu的一个概念,由于在现代的计算机中(特别是家用系统,游戏的发烧友)图形的处理变得越来越重要,需要一个专门的图形的核心处理器。

gpu的作用

gpu是显示卡的“大脑”,它决定了该显卡的档次和大部分性能,同时也是2d显示卡和3d显示卡的区别依据。2d显示芯片在处理3d图像和特效时主要依赖cpu的处理能力,称为“软加速”。3d显示芯片是将三维图像和特效处理功能集中在显示芯片内,也即所谓的“硬件加速”功能。

显示芯片通常是显示卡上最大的芯片(也是引脚最多的)。现在市场上的显卡大多采用nvidia和ati两家公司的图形处理芯片。

于是nvidia公司在1999年发布geforce 256图形处理芯片时首先提出gpu的概念。gpu使显卡减少了对cpu的依赖,并进行部分原本cpu的工作,尤其是在3d图形处理时。gpu所采用的核心技术有硬体t&l、立方环境材质贴图和顶点混合、纹理压缩和凹凸映射贴图、双重纹理四像素256位渲染引擎等,而硬体t&l技术可以说是gpu的标志。

简单说gpu就是能够从硬件上支持t&l(transform and lighting,多边形转换与光源处理)的显示芯片,因为t&l是3d渲染中的一个重要部分,其作用是计算多边形的3d位置和处理动态光线效果,也可以称为“几何处理”。一个好的t&l单元,可以提供细致的3d物体和高级的光线特效;只不过大多数pc中,t&l的大部分运算是交由cpu处理的(这就也就是所谓的软件t&l),由于cpu的任务繁多,除了t&l之外,还要做内存管理、输入响应等非3d图形处理工作,因此在实际运算的时候性能会大打折扣,常常出现显卡等待cpu数据的情况,其运算速度远跟不上今天复杂三维游戏的要求。即使cpu的工作频率超过1ghz或更高,对它的帮助也不大,由于这是pc本身设计造成的问题,与cpu的速度无太大关系。

关于cpu和gpu的相关问题

第一个问题:

gpu的竞争远比cpu的竞争来得激烈。通用pc的cpu就只有英特尔和amd两家大厂。而在gpu方面领先的是n记和a记两家厂商,但能生产中低端产品的还有英特尔、3s等好几家厂商。

它们的产品虽然不如前两家,但在很多应用方面也能满足用户的需要,所以n记和a记只有拼命往前跑才不会死掉。cpu厂商没有采用gpu的先进工艺是因为cpu厂商都有自己投资的生产线,不可能一下把原来的生产线都淘汰了上新的生产线,那样做可能连当初投入的资金都难以收回。而gpu厂商由于种种原因,一般都是自己设计由别人代工的,比如找台积电代工。

代工厂商为了能接到业务,只有不停升级自己的生产设备,这样才能生存下来。所以造成以上原因。

第二个问题

就如你所说的一样,cpu除了处理游戏的ai,情节等方面的数据外,对于有些图像方面也是由它完成的。当微软每次发布新的dx时,并不是每款gpu都能支持dx新的特性,所以有些图像方面的任务还得由cpu来完成。还有有些特性比如重力特性以前是由cpu来完成,现在有些gpu也能支持了,这些任务就由gpu来完成了。

第三个问题

gpu相当于专用于图像处理的cpu,正因为它专,所以它强,在处理图像时它的工作效率远高于cpu,但是cpu是通用的数据处理器,在处理数值计算时是它的强项,它能完成的任务是gpu无法代替的,所以不能用gpu来代替cpu。

另外现在amd收购了a记显卡芯片的设计厂商,amd看到今后cpu和gpu只有走一条融合的道路才能地竞争中占得先机。cpu和gpu如何配合默契才能最大地提高工作效率是amd现在考虑的问题,也是英特尔的问题。

第四个问题

微软发布windows7 其中一个显著特性就是 联合gpu和cpu的强大实力,提升gpu在硬件使用的价值,在windows7中,cpu与gpu组成了协同处理环境。cpu运算非常复杂的序列**,而gpu则运行大规模并行应用程序。微软利用directx ***pute将gpu作为操作系统的核心组成部分之一。

directx ***pute。它让开发人员能够利用 gpu的大规模并行计算能力,创造出引人入胜的消费级和专业级计算应用程序。简单的说,directx ***pute就是微软开发的gpgpu通用计算接口,欲统一gpu通用计算标准。

也就是说windows7 以后gpu的硬件地位将仅次于cpu,发挥出更大的效用。

深度学习用gpu好还是cpu好? 5

4楼:匿名用户

个人觉得,这个课题,可以通过实践去验证……

分别用cpu和gpu进行一下试验,看看哪个效果好……效果更好的,就是最佳的选择……

5楼:热过火啊

不是很了解你的计算需求,不过从效率来说。目前用gpu的效率好过cpu几倍。看你数据量 1660ti不太适合这种应用场景。显存不够的可能性肯定存在。建议试下。不行再加内存

希望对你有所帮助。不懂继续问,满意请采纳

6楼:蜀中诸葛暗

现在做深度学习可以采用云计算资源,多种显卡(特斯拉p4 p40 p100 2080ti t4)多种预装环境(cuda,tensorflow python)可以选择,而且随用随开就行,一小时几元钱,滴滴打车现在也做云gpu,用过几次挺不错的https://i.didiyun.

***/2blhvrc4m6a

7楼:匿名用户

深度学习看你是初学的还是复习的,初学的一般对cpu显卡都不是要求特别高,如果是复习大型的深度学习哪吃gpu显卡相当厉害,比如,丽台tesla p100 12g深度学习机器学习gpu加速卡,40000块,所以为什么有专门的深度学习显卡就说明gpu给cpu更重要,

cpu和gpu跑深度学习差别有多大

8楼:匿名用户

gpu 的架构与 cpu 很不一样。首先,gpu 并不具备多功能性。其次,与消费级 cpu 个位数的核心数目不同,消费级的 gpu 通常有上千个核心——特别适合处理大型数据集。

由于 gpu 在设计之初有且只有一个目的:最大化并行计算。每一代制程缩减直接带来更多的核心数量(摩尔定律对于 gpu 更明显),意味着 gpu 每年有大约 40% 的性能提升。

gpu适合深度学习的三大理由(按重要程度排序):高宽带的内存;多线程并行下的内存访问隐藏延迟;数量多且速度快的可调整的寄存器和l1缓存。

深度学习之中使用神经网络训练,一个最大的问题就是训练速度的问题,特别是对于深度学习而言,过多的参数会消耗很多的时间,在神经网络训练过程中,运算最多的是关于矩阵的运算,这个时候就正好用到了gpu,gpu本来是用来处理图形的,但是因为其处理矩阵计算的高效性就运用到了深度学习之中。

9楼:卜驰柳卉

这显卡不是没有gpu。。。只是a卡支持的opencl加速而已,现在caffe不支持opencl的,你显卡384个流处理器计算起来是可以比四核cpu快3倍的,建议你自己构建网络别用框架,然后用opencl加速比较实际。除非你不注重时间跟效率。

再不然就换成n卡咯,但成本需要考虑了。

用gpu和cpu服务器深度学习,哪个合算?

10楼:ai扑社

gpu合算

cpu擅长逻辑控制,串行的运算。

gpu擅长的是大规模并发计算。

gpu的工作大

部分计算量大,但没什么技术含量,而且要重复很多很多次。gpu用很多简单的计算单元去完成大量的计算任务,纯粹的人海战术。

11楼:随风而至喵小姐

如果是深度学习,那么gpu的性能和**更好,比如这款配置了nvdia rtgeforce rtx 2080 ti的gpu计算卡,也才两w,性价比很高

产品型号:za1p2s8-16897-tc2产品类型:单路十六核塔式gpu计算服务器

处 理 器:threadripper 2950x内 存:64g ddr4

硬 盘:ssd nvme m.2 512g网 卡:双千兆

管 理:硬件监控、远程管理

机 构:塔式

电 源:1250w

操作系统:linux免费版 / vmware esxi服 务:全国联保 叁年质保

12楼:太阳岛

cpu是一个有多种功能的优秀领导者。它的优点在于调度、管理、协调能力强,计算能力则位于其次。而gpu相当于一个接受cpu调度的“拥有大量计算能力”的员工。

当需要对大数据bigdata做同样的事情时,gpu更合适,当需要对同一数据做很多事情时,cpu正好合适。

gpu能做什么?关于图形方面的以及大型矩阵运算,如机器学习算法等方面,gpu就能大显身手。

简而言之,cpu擅长统领全局等复杂操作,gpu擅长对大数据进行简单重复操作。cpu是从事复杂脑力劳动的教援,而gpu是进行大量并行计算的体力劳动者。

深度学习是模拟人脑神经系统而建立的数学网络模型,这个模型的最大特点是,需要大数据来训练。因此,对电脑处理器的要求,就是需要大量的并行的重复计算,gpu正好有这个专长。

为什么GPU能加速深度学习,为什么说NVIDIA GPU更适合进行深度学习深度学习

1楼 匿名用户 因为深度学习在训练的时候要更新很多很多很多参数,用cpu太费时间,用gpu可以并行处理的运算比cpu多的多 深度学习用cpu训练和用gpu训练有什么区别 2楼 课文你来说 1 cpu主要用于串行运算 而gpu则是大规模并行运算。由于深度学习中样本量巨大,参数量也很大,所以gpu的作用...

为什么要用GPU来进行深度学习运算

1楼 加百列在微笑 gpu的计算单元比较多,所以计算能力比起cpu强大很多 深度学习为什么需要gpu 2楼 雯血泪 gpu为图形图像专门设计,在矩阵运算,数值计算方面具有独特优势,特别是浮点和并行计算上能优于cpu的数十数百倍的性能。 还有个更重要的是,gpu相对cpu干事少,高尖坚啊,没什么打扰,...

深度学习和强化学习是人工智能吗,深度学习和深度强化学习有什么区别?

1楼 匿名用户 是的,都算人工智能里面的内容 不过他们不属于同一个层次的 深度学习是机器学习里面的一种模型,而强化学习是一种问题深度学习所使用的模型可以用来实现强化学习的问题人工智能是模拟人行为的学科,曾经各种尝试,目前最成功的是机器学习方 ,机器学习方 是用数据来调优模型,达到模拟解决问题的一个精...