为什么GPU能加速深度学习,为什么说NVIDIA GPU更适合进行深度学习深度学习

2020-11-22 22:24:05 字数 4184 阅读 6367

1楼:匿名用户

因为深度学习在训练的时候要更新很多很多很多参数,用cpu太费时间,用gpu可以并行处理的运算比cpu多的多

深度学习用cpu训练和用gpu训练有什么区别

2楼:课文你来说

(1)cpu主要用于串行运算;而gpu则是大规模并行运算。由于深度学习中样本量巨大,参数量也很大,所以gpu的作用就是加速网络运算。

(2)cpu算神经网络也是可以的,算出来的神经网络放到实际应用中效果也很好,只不过速度会很慢罢了。而目前gpu运算主要集中在矩阵乘法和卷积上,其他的逻辑运算速度并没有cpu快。

2、深度学习

深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。

深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示,如每个像素强度值的向量,或者更抽象地表示成一系列边、特定形状的区域等。

使用神经网络训练,一个最大的问题就是训练速度的问题,特别是对于深度学习而言,过多的参数会消耗很多的时间,在神经网络训练过程中,运算最多的是关于矩阵的运算,这个时候就正好用到了gpu,gpu本来是用来处理图形的,但是因为其处理矩阵计算的高效性就运用到了深度学习之中。

3楼:匿名用户

gpu概念

gpu英文全称graphic processing unit,中文翻译为“图形处理器”。gpu是相对于cpu的一个概念,由于在现代的计算机中(特别是家用系统,游戏的发烧友)图形的处理变得越来越重要,需要一个专门的图形的核心处理器。

gpu的作用

gpu是显示卡的“大脑”,它决定了该显卡的档次和大部分性能,同时也是2d显示卡和3d显示卡的区别依据。2d显示芯片在处理3d图像和特效时主要依赖cpu的处理能力,称为“软加速”。3d显示芯片是将三维图像和特效处理功能集中在显示芯片内,也即所谓的“硬件加速”功能。

显示芯片通常是显示卡上最大的芯片(也是引脚最多的)。现在市场上的显卡大多采用nvidia和ati两家公司的图形处理芯片。

于是nvidia公司在1999年发布geforce 256图形处理芯片时首先提出gpu的概念。gpu使显卡减少了对cpu的依赖,并进行部分原本cpu的工作,尤其是在3d图形处理时。gpu所采用的核心技术有硬体t&l、立方环境材质贴图和顶点混合、纹理压缩和凹凸映射贴图、双重纹理四像素256位渲染引擎等,而硬体t&l技术可以说是gpu的标志。

简单说gpu就是能够从硬件上支持t&l(transform and lighting,多边形转换与光源处理)的显示芯片,因为t&l是3d渲染中的一个重要部分,其作用是计算多边形的3d位置和处理动态光线效果,也可以称为“几何处理”。一个好的t&l单元,可以提供细致的3d物体和高级的光线特效;只不过大多数pc中,t&l的大部分运算是交由cpu处理的(这就也就是所谓的软件t&l),由于cpu的任务繁多,除了t&l之外,还要做内存管理、输入响应等非3d图形处理工作,因此在实际运算的时候性能会大打折扣,常常出现显卡等待cpu数据的情况,其运算速度远跟不上今天复杂三维游戏的要求。即使cpu的工作频率超过1ghz或更高,对它的帮助也不大,由于这是pc本身设计造成的问题,与cpu的速度无太大关系。

关于cpu和gpu的相关问题

第一个问题:

gpu的竞争远比cpu的竞争来得激烈。通用pc的cpu就只有英特尔和amd两家大厂。而在gpu方面领先的是n记和a记两家厂商,但能生产中低端产品的还有英特尔、3s等好几家厂商。

它们的产品虽然不如前两家,但在很多应用方面也能满足用户的需要,所以n记和a记只有拼命往前跑才不会死掉。cpu厂商没有采用gpu的先进工艺是因为cpu厂商都有自己投资的生产线,不可能一下把原来的生产线都淘汰了上新的生产线,那样做可能连当初投入的资金都难以收回。而gpu厂商由于种种原因,一般都是自己设计由别人代工的,比如找台积电代工。

代工厂商为了能接到业务,只有不停升级自己的生产设备,这样才能生存下来。所以造成以上原因。

第二个问题

就如你所说的一样,cpu除了处理游戏的ai,情节等方面的数据外,对于有些图像方面也是由它完成的。当微软每次发布新的dx时,并不是每款gpu都能支持dx新的特性,所以有些图像方面的任务还得由cpu来完成。还有有些特性比如重力特性以前是由cpu来完成,现在有些gpu也能支持了,这些任务就由gpu来完成了。

第三个问题

gpu相当于专用于图像处理的cpu,正因为它专,所以它强,在处理图像时它的工作效率远高于cpu,但是cpu是通用的数据处理器,在处理数值计算时是它的强项,它能完成的任务是gpu无法代替的,所以不能用gpu来代替cpu。

另外现在amd收购了a记显卡芯片的设计厂商,amd看到今后cpu和gpu只有走一条融合的道路才能地竞争中占得先机。cpu和gpu如何配合默契才能最大地提高工作效率是amd现在考虑的问题,也是英特尔的问题。

第四个问题

微软发布windows7 其中一个显著特性就是 联合gpu和cpu的强大实力,提升gpu在硬件使用的价值,在windows7中,cpu与gpu组成了协同处理环境。cpu运算非常复杂的序列**,而gpu则运行大规模并行应用程序。微软利用directx ***pute将gpu作为操作系统的核心组成部分之一。

directx ***pute。它让开发人员能够利用 gpu的大规模并行计算能力,创造出引人入胜的消费级和专业级计算应用程序。简单的说,directx ***pute就是微软开发的gpgpu通用计算接口,欲统一gpu通用计算标准。

也就是说windows7 以后gpu的硬件地位将仅次于cpu,发挥出更大的效用。

为什么说nvidia gpu更适合进行深度学习深度学习

4楼:匿名用户

不一定呢,虽说nvidia gpu的cuda定制得不错,但amd的也非常适合呢,因为amd gpu很多都支

持opencl技术,并且amd cpu也很多支持opencl,计算起来可以cpu+gpu并行加速。

深度学习为什么需要gpu

5楼:雯血泪

gpu为图形图像专门设计,在矩阵运算,数值计算方面具有独特优势,特别是浮点和并行计算上能优于cpu的数十数百倍的性能。

还有个更重要的是,gpu相对cpu干事少,高尖坚啊,没什么打扰,自然效率高了。

如何使用gpu加速深度学习

6楼:匿名用户

gpu概念 gpu英文全称graphic processing unit,中文翻译为“图形处理器”。gpu是相对于cpu的一个概念,由于在现代的计算机中(特别是家用系统,游戏的发烧友)图形的处理变得越来越重要,需要一个专门的图形的核心处理器

为什么说nvidia gpu更适合进行深度学习深度学习

7楼:匿名用户

深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。[1]

深度学习的概念由hinton等人于2006年提出。基于深度置信网络(dbn)提出非监督贪心逐层训练算法,为解决深层结构相关的优化难题带来希望,随后提出多层自动编码器深层结构。此外lecun等人提出的卷积神经网络是第一个真正多层结构学习算法,它利用空间相对关系减少参数数目以提高训练性能。

[1]深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。[2]

为什么说nvidia gpu更适合进行深度学习深度学习

8楼:小怪兽路明非

英伟达的gpu,或者说是图形处理

器,采用并行运算结构,即大量的小型处理单元,相对于cpu的少量大型处理单元,这样的结构与人脑更相似,故可用于模拟人脑的学习功能,因为人脑在学习时是大量神经元的同时工作,进而实现人工智能的深度学习

为什么gpu比cpu在深度学习领域要更有用

9楼:山寨问答

因为gpu比cpu的浮点运算能力强,而深度学习软件可以充分利用gpu的浮点运算能力。

为什么gpu对于深度学习如此重要

10楼:匿名用户

因为深度学习在训练的时候要更新很多很多很多参数,用cpu太费时间,用gpu可以并行处理的运算比cpu多的多

为什么要用GPU来进行深度学习运算

1楼 加百列在微笑 gpu的计算单元比较多,所以计算能力比起cpu强大很多 深度学习为什么需要gpu 2楼 雯血泪 gpu为图形图像专门设计,在矩阵运算,数值计算方面具有独特优势,特别是浮点和并行计算上能优于cpu的数十数百倍的性能。 还有个更重要的是,gpu相对cpu干事少,高尖坚啊,没什么打扰,...