为什么要用GPU来进行深度学习运算

2020-11-22 22:24:05 字数 4596 阅读 1691

1楼:加百列在微笑

gpu的计算单元比较多,所以计算能力比起cpu强大很多

深度学习为什么需要gpu

2楼:雯血泪

gpu为图形图像专门设计,在矩阵运算,数值计算方面具有独特优势,特别是浮点和并行计算上能优于cpu的数十数百倍的性能。

还有个更重要的是,gpu相对cpu干事少,高尖坚啊,没什么打扰,自然效率高了。

深度学习用cpu训练和用gpu训练有什么区别

3楼:课文你来说

(1)cpu主要用于串行运算;而gpu则是大规模并行运算。由于深度学习中样本量巨大,参数量也很大,所以gpu的作用就是加速网络运算。

(2)cpu算神经网络也是可以的,算出来的神经网络放到实际应用中效果也很好,只不过速度会很慢罢了。而目前gpu运算主要集中在矩阵乘法和卷积上,其他的逻辑运算速度并没有cpu快。

2、深度学习

深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。

深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示,如每个像素强度值的向量,或者更抽象地表示成一系列边、特定形状的区域等。

使用神经网络训练,一个最大的问题就是训练速度的问题,特别是对于深度学习而言,过多的参数会消耗很多的时间,在神经网络训练过程中,运算最多的是关于矩阵的运算,这个时候就正好用到了gpu,gpu本来是用来处理图形的,但是因为其处理矩阵计算的高效性就运用到了深度学习之中。

4楼:匿名用户

gpu概念

gpu英文全称graphic processing unit,中文翻译为“图形处理器”。gpu是相对于cpu的一个概念,由于在现代的计算机中(特别是家用系统,游戏的发烧友)图形的处理变得越来越重要,需要一个专门的图形的核心处理器。

gpu的作用

gpu是显示卡的“大脑”,它决定了该显卡的档次和大部分性能,同时也是2d显示卡和3d显示卡的区别依据。2d显示芯片在处理3d图像和特效时主要依赖cpu的处理能力,称为“软加速”。3d显示芯片是将三维图像和特效处理功能集中在显示芯片内,也即所谓的“硬件加速”功能。

显示芯片通常是显示卡上最大的芯片(也是引脚最多的)。现在市场上的显卡大多采用nvidia和ati两家公司的图形处理芯片。

于是nvidia公司在1999年发布geforce 256图形处理芯片时首先提出gpu的概念。gpu使显卡减少了对cpu的依赖,并进行部分原本cpu的工作,尤其是在3d图形处理时。gpu所采用的核心技术有硬体t&l、立方环境材质贴图和顶点混合、纹理压缩和凹凸映射贴图、双重纹理四像素256位渲染引擎等,而硬体t&l技术可以说是gpu的标志。

简单说gpu就是能够从硬件上支持t&l(transform and lighting,多边形转换与光源处理)的显示芯片,因为t&l是3d渲染中的一个重要部分,其作用是计算多边形的3d位置和处理动态光线效果,也可以称为“几何处理”。一个好的t&l单元,可以提供细致的3d物体和高级的光线特效;只不过大多数pc中,t&l的大部分运算是交由cpu处理的(这就也就是所谓的软件t&l),由于cpu的任务繁多,除了t&l之外,还要做内存管理、输入响应等非3d图形处理工作,因此在实际运算的时候性能会大打折扣,常常出现显卡等待cpu数据的情况,其运算速度远跟不上今天复杂三维游戏的要求。即使cpu的工作频率超过1ghz或更高,对它的帮助也不大,由于这是pc本身设计造成的问题,与cpu的速度无太大关系。

关于cpu和gpu的相关问题

第一个问题:

gpu的竞争远比cpu的竞争来得激烈。通用pc的cpu就只有英特尔和amd两家大厂。而在gpu方面领先的是n记和a记两家厂商,但能生产中低端产品的还有英特尔、3s等好几家厂商。

它们的产品虽然不如前两家,但在很多应用方面也能满足用户的需要,所以n记和a记只有拼命往前跑才不会死掉。cpu厂商没有采用gpu的先进工艺是因为cpu厂商都有自己投资的生产线,不可能一下把原来的生产线都淘汰了上新的生产线,那样做可能连当初投入的资金都难以收回。而gpu厂商由于种种原因,一般都是自己设计由别人代工的,比如找台积电代工。

代工厂商为了能接到业务,只有不停升级自己的生产设备,这样才能生存下来。所以造成以上原因。

第二个问题

就如你所说的一样,cpu除了处理游戏的ai,情节等方面的数据外,对于有些图像方面也是由它完成的。当微软每次发布新的dx时,并不是每款gpu都能支持dx新的特性,所以有些图像方面的任务还得由cpu来完成。还有有些特性比如重力特性以前是由cpu来完成,现在有些gpu也能支持了,这些任务就由gpu来完成了。

第三个问题

gpu相当于专用于图像处理的cpu,正因为它专,所以它强,在处理图像时它的工作效率远高于cpu,但是cpu是通用的数据处理器,在处理数值计算时是它的强项,它能完成的任务是gpu无法代替的,所以不能用gpu来代替cpu。

另外现在amd收购了a记显卡芯片的设计厂商,amd看到今后cpu和gpu只有走一条融合的道路才能地竞争中占得先机。cpu和gpu如何配合默契才能最大地提高工作效率是amd现在考虑的问题,也是英特尔的问题。

第四个问题

微软发布windows7 其中一个显著特性就是 联合gpu和cpu的强大实力,提升gpu在硬件使用的价值,在windows7中,cpu与gpu组成了协同处理环境。cpu运算非常复杂的序列**,而gpu则运行大规模并行应用程序。微软利用directx ***pute将gpu作为操作系统的核心组成部分之一。

directx ***pute。它让开发人员能够利用 gpu的大规模并行计算能力,创造出引人入胜的消费级和专业级计算应用程序。简单的说,directx ***pute就是微软开发的gpgpu通用计算接口,欲统一gpu通用计算标准。

也就是说windows7 以后gpu的硬件地位将仅次于cpu,发挥出更大的效用。

为什么说nvidia gpu更适合进行深度学习深度学习

5楼:匿名用户

深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。[1]

深度学习的概念由hinton等人于2006年提出。基于深度置信网络(dbn)提出非监督贪心逐层训练算法,为解决深层结构相关的优化难题带来希望,随后提出多层自动编码器深层结构。此外lecun等人提出的卷积神经网络是第一个真正多层结构学习算法,它利用空间相对关系减少参数数目以提高训练性能。

[1]深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。[2]

为什么说nvidia gpu更适合进行深度学习深度学习

6楼:小怪兽路明非

英伟达的gpu,或者说是图形处理

器,采用并行运算结构,即大量的小型处理单元,相对于cpu的少量大型处理单元,这样的结构与人脑更相似,故可用于模拟人脑的学习功能,因为人脑在学习时是大量神经元的同时工作,进而实现人工智能的深度学习

为什么做gpu计算,深度学习用amd显卡的很少,基本都nvidia

7楼:匿名用户

什么尼玛功耗,还稳定性,懂都不懂就来乱说,杀币一样。

为什么机器学习基本都用n卡,因为主流机器学习框架都是基于n卡cuda的,对a卡基本不支持。今年google才推出适用于 rocm gpu的tensorflow,也是今年英伟达才开源cuda

虽然有opencl可以用,但是opencl这玩意,现在基本上是处于还没大规模投入使用就面临淘汰的状态了,哦,苹果马上就要淘汰opencl了,它的亲儿子

所以要想在a卡上跑深度学习,估计还要等个1、2年,不会永远都是n卡一家独大的

8楼:我拿流浪打

因为在深度学习领域,cuda比opencl更好用,比如google也是选择用cuda

而cuda只支持n卡。

以前amd本身对加速卡领域涉及没有n卡深,近几年看到这边潜力非常巨大,最近才大力打造amd radeon instinct系列加速卡。

9楼:匿名用户

nvidia显卡优化做工功耗稳定性都要比amd好,**上nvidia比amd高些。

为什么做gpu计算,深度学习用amd显卡的很少,基本都nvidia

10楼:匿名用户

说的太武断了,挖矿是不是用gpu进行计算?矿卡首选不是amd吗?

为什么做gpu计算,深度学习用amd显卡的很少,基

11楼:匿名用户

因为这方面的技术是nv首先提出并且实现,而且作为产品的一个主推方向坚持连续优化的,最新的titan xp的架构甚至有优先考虑计算而后考虑游戏的“美名”。反过来看amd,虽然也在gpu计算上有所创建,但毕竟它自家还同时生产cpu,这种纵容左手打右手的行为还是要收敛很多的。所以它在这方面远远落后于nv,是一种必然。

12楼:_常往光明中

因为a卡确实不如同价位的n卡

13楼:超级春哥哥的

可以啊,plaidml+keras

为什么要用花心大萝卜来形容男生花心

1楼 匿名用户 一种说法是白萝卜变老的时候, 也就是人相处一段时间之后 原本水汁很丰富的萝卜里面空心了,只剩下些纤维,看起来像花一样。 比喻情侣在相处久之后一方对原本滋润的爱情 空心 了。 所以把花心 对感情不专 一 见异思迁的人成为花心大萝卜。 还有一种说法是 花心萝卜 是萝卜的一种,又叫 红心萝...

为什么会用百合代表女同性恋,女同性恋为什么要用‘百合’来形容?

1楼 帅哥看看看 百合一词定义众说纷纭,而与其对义又相近的gl 女同性恋 一词,两者之间常产生模糊 等同或完全对立的状况。日本普遍的看法是,两者并无确切定义上分别,只有语感上的分别。 从百合一词的在日本的源流来看,本来是同时包含 与精神要素的,但随着时间推进,也出现如 香织派 百合般坚持百合的纯粹与...

用深海珊瑚做网名的寓意,一个女孩用心溺深海做qq网名是什么意思她为什么要用这个词来当网名

1楼 漫步者 那意思不就是见不到阳光嘛 2楼 匿名用户 见不到阳光就是 不日 一个女孩用心溺深海做 网名是什么意思她为什么要用这个词来当网名 3楼 因为我年轻 这个可能是她在网上找的觉得比较好听 可能是你想多了。。。 如果用这个网名来比喻人的话,可能是觉得自己活的比较累 鱼沉深海!怎么解释?别人用来...