怎么用cpu算力模拟gpu

① GPU能代替CPU用吗

CPU和GPU完全是针对不同的应用来进行设计的，在架构和应用上的区别非常明显，估计在相当一段时间内应该都不太可能出现GPU代替CPU的情况。操作系统和一些复杂的程序运行还是要靠CPU来执行。GPU的应用范围越来越大，更多的是作为第二个专用于复杂计算的处理器，与其说GPU取代CPU的功能，不如说是GPU将PC的应用范围扩大到过去没有涉足的地方。GPU和CPU在今后相当一段时间内还是会共存，而且两者都会持续不断地提升性能，以满足越来越复杂的各种应用。至于GPU和CPU是否整合，或整合后能不能发展下去，现在还不好说

② CPU跟GPU是怎么协调的,

CPU和GPU在今天计算机中的作用和位置（作者：赵军）

CPU的作用： CPU 作为一台计算机的核心，它的作用被证明是无法替代的，过去是这样，今天依然是这样，将来应该还是这样，只不过可能被增加和赋予了更多更复杂的功能。

为什么CPU能够胜任计算机的核心，应付自如地控制一台复杂而精密的电脑系统 ？为什么CPU可以当之无愧地被称为电脑之“脑”而不是其他部件？这是因为CPU主要是面向执行操作系统、系统软件、调度和运行各式各样应用程序以及协调和控制整个计算机系统而设计的。CPU具有通用性的特点，也就是“全才”或者“通才”，什么都要会，当然这并不表示CPU每项任务都具有顶尖水平。

集成了百万计，千万计，甚至数亿计晶体管的CPU芯片，除了具有计算能力的电路和结构，还拥有控制和指挥其他硬件电路相配合的中央控制器，现代CPU还拥有更多具有“思维”能力的电路和结构，如逻辑判断，推测执行，预测执行等等。只有具有了这些特质，CPU才可能胜任电脑之“脑”的工作。

那么CPU靠什么来“思维、指挥和控制”呢？答案是指令集。指令集是CPU能够处理的全部指令的集合，没有指令集的芯片不可能被称为是CPU，指令集可是说是CPU的思维语言，是CPU的“智能属性”，也是它有别于其他芯片的根本属性。类似于人脑，任何人的思维过程都有语言的参与，中国人用中文思考，美国人用英文思考，如果习惯于讲方言，人们甚至用方言思考，人们在本能或者下意识状况下都是用自己最熟悉的语言思考。指令集就是电脑之脑CPU的语言，CPU就是用指令集来“思考”。

大家所熟悉的x86指令集就是我们今天大多数人使用的CPU的语言，x86指令集是由英特尔公司发明、开发并不断增强和完善的。所有英特尔架构的CPU和兼容CPU都采用x86指令集。任何程序不管采用什么高级程序设计语言编写的，都需要通过高级语言编译程序或者解释程序先翻译成 x86指令才可以被CPU执行。

如C语言，C++语言，Pascal语言等等高级程序语言都是供编程人员使用的，人们可以把自己的“思维和指令”通过高级程序设计语言表达出来，通过编译程序或者解释程序转换成CPU可以明白的指令，CPU就可以遵照人们的“思维和指令”一丝不苟、不折不扣地执行。其实编译程序和解释程序也是由CPU来执行的。

有了指令系统，CPU就可以通过它来控制、指挥、协调和调度整个计算机系统的各个子系统，让它们相互配合、有条不紊的完成各种各样的任务。

GPU的作用：除了CPU(中央处理单元，也叫中央处理器)，计算机系统中还有众多的PU——处理单元，统称xPU。由于它们不具有CPU的通用性，而具有专用性，习惯上它们都叫控制器或芯片。如内存控制器，中断控制器，以太网网卡芯片，USB控制器等等，虽然这种叫法不常见，但是我们依然可以把它们也叫成： Memory PU —— 内存处理单元 Interrupt PU —— 中断处理单元 Ethernet PU —— 以太网处理单元 USB-PU —— USB 处理单元

所以现在图形计算能力比较强的图形芯片被称为GPU，即“图形处理单元”就不足为奇了。GPU具有专用性的特点，擅长图形计算和处理。

GPU的前身就是显示卡的主芯片。显示卡和显示器等等组成计算机系统中的图形子系统。最早的显示卡功能比较简单，所以也叫显示器适配 卡(简称显卡)，它是连接主机与显示器的接口卡。现在的显卡都是3D图形加速卡，主芯片也被冠以GPU的新名字了。

今天显卡的主要作用并没有发生根本的变化，其作用还是将CPU的输出信息和指令转换成字符、图形和颜色等信息，传送到显示器上显示。不过，今天的显卡在执行CPU发出的图形指令时具有更强的执行能力和图形计算能力。下面我就来给大家解释一下。

早期显卡的图形处理能力非常弱，基本上只是起到传递的作用，CPU如果想在图形方式下画个简单的图形，如正方形，园等线条图形，都需要把组成图形的每个点需要显示的位置、点的大小、颜色都一一告诉显卡，显卡然后按部就班在显示器上画出来。

随着操作系统和应用程序对复杂且高质量的图形要求越来越高，CPU专职来做这些图形处理工作就力不从心了，也得不偿失，而且也会造成CPU的效率低下。因为CPU的设计是用来处理系统任务和程序调度的，不是为图形处理优化的。

于是图形加速功能就被赋予到新的显卡当中(现在主芯片可以叫GPU了)，支持2D图形加速的显卡出现了，它大大缓解了CPU的图形处理压力。有了2D图形加速功能的显卡，CPU如果想画二维图形，现在只需要发个指令给显卡，如“在坐标位置(x, y) 画个长和宽为a * b大小的长方形”，显卡的图形加速器(GPU)就可以迅速在显示器上指定位置画出大小相符的图形，画完后GPU就通知CPU，“我画完了”，然后等待CPU发出下一条图形指令。

现在的GPU除了具有2D 图形加速功能，更多的是在不断加强3D图形加速的能力。 同样的道理，GPU也把繁复的3D图形处理的工作从CPU分担过来，CPU现在只要发个指令，如“画个圆球”，给GPU就可以了，GPU完成三维图形的绘制，然后通知CPU完成的情况，等待下一条指令。

有了图形加速器，CPU就从这类图形处理的任务中解放出来，可以执行其他更多的系统任务，这样就提高计算机的整体性能。

不过，并不是所有和3D图形处理相关的运算一下子都被GPU接管过去，“任务”的交接也是逐步进行的，对于GPU不能实现或者尚未实现的计算还是“有劳”CPU来完成。例如，图形的几何坐标变化和光照模型的计算(T&L)在主流的GPU都实现了，以前都是由CPU来完成的。对于当前一些集成在芯片组中的GPU，如果没有T&L的加速，仍然用“软件”方式实现T&L计算——就是CPU来完成。另外，3D图形的着色计算也逐渐转移从CPU转移到GPU中，如顶点着色和像素着色 (Vertex Shader & Pixel Shader)。

从上面的简单介绍我们可以看出，CPU和GPU工作的重点不一样，CPU担当的责任要大的多，面对的是整个计算机系统，要照顾到方方面面，除了要保证整个系统高速运行，还要确保系统稳定运行。任何错误都可能会是致命的，所以CPU很难做到“专心致志”。它会经常被打断，停下手头的工作，去处理正常的或者非正常的紧急任务， 否则系统就会崩溃。相比CPU而言，GPU的责任就要轻的多，图形计算如果出了错，并不会影响程序本身的运行，最多是屏幕上显示的图形错位了或者是颜色乱了等等，而且GPU不会为图形程序运行的结果负责。

没有GPU加速2D和3D的年代，CPU包揽了和图形计算与加速相关的所有活，“活”的不轻松，今天这些工作中的很多都由GPU来代劳了，CPU被解放出来把宝贵的CPU运算和控制资源更多的用于执行系统层面的核心任务以及其他非GPU类的应用上来。GPU相当于CPU的一位具有图形计算和处理专长的高级助理。

对于非图形方面的任务，CPU需要的是其他专长的高级助理。GPU今天在计算机系统中的贡献主要是高端3D游戏的三维图形方面的，对于其他更广泛的应用，它是无能为力的。如系统安全方面的加密解密，多媒体数字内容的加工和处理，系统的虚拟化，游戏中的人工智能等等举不胜举。

将来有机会，我会具体介绍一些“CPU和GPU擅长和不擅长的各个方面”。

③ 怎样用cpu和gpu 测试vgg训练好的模型

GPU概念
GPU英文全称Graphic Processing Unit，中文翻译为“图形处理器”。
GPU是相对于CPU的一个概念，由于在现代的计算机中（特别是家用系统，游戏的发烧友）图形的处理变得越来越重要，需要一个专门的图形的核心处理器。
GPU的作用
GPU是显示卡的“大脑”，它决定了该显卡的档次和大部分性能，同时也是2D显示卡和3D显示卡的区别依据。
2D显示芯片在处理3D图像和特效时主要依赖CPU的处理能力，称为“软加速”。
3D显示芯片是将三维图像和特效处理功能集中在显示芯片内，也即所谓的“硬件加速”功能。
显示芯片通常是显示卡上最大的芯片（也是引脚最多的）。
现在市场上的显卡大多采用NVIDIA和ATI两家公司的图形处理芯片。
于是NVIDIA公司在1999年发布GeForce 256图形处理芯片时首先提出GPU的概念。
GPU使显卡减少了对CPU的依赖，并进行部分原本CPU的工作，尤其是在3D图形处理时。
GPU所采用的核心技术有硬体T&L、立方环境材质贴图和顶点混合、纹理压缩和凹凸映射贴图、双重纹理四像素256位渲染引擎等，而硬体T&L技术可以说是GPU的标志。
简单说GPU就是能够从硬件上支持T&L（Transform and Lighting，多边形转换与光源处理）的显示芯片，因为T&L是3D渲染中的一个重要部分，其作用是计算多边形的3D位置和处理动态光线效果，也可以称为“几何处理”。
一个好的T&L单元，可以提供细致的3D物体和高级的光线特效；
只不过大多数PC中，T&L的大部分运算是交由CPU处理的（这就也就是所谓的软件T&L），由于CPU的任务繁多，除了T&L之外，还要做内存管理、输入响应等非3D图形处理工作，因此在实际运算的时候性能会大打折扣，常常出现显卡等待CPU数据的情况，其运算速度远跟不上今天复杂三维游戏的要求。
即使CPU的工作频率超过1GHz或更高，对它的帮助也不大，由于这是PC本身设计造成的问题，与CPU的速度无太大关系。
关于CPU和GPU的相关问题
第一个问题：
GPU的竞争远比CPU的竞争来得激烈。
通用PC的CPU就只有英特尔和AMD两家大厂。
而在GPU方面领先的是N记和A记两家厂商，但能生产中低端产品的还有英特尔、3S等好几家厂商。
它们的产品虽然不如前两家，但在很多应用方面也能满足用户的需要，所以N记和A记只有拼命往前跑才不会死掉。
CPU厂商没有采用GPU的先进工艺是因为CPU厂商都有自己投资的生产线，不可能一下把原来的生产线都淘汰了上新的生产线，那样做可能连当初投入的资金都难以收回。
而GPU厂商由于种种原因，一般都是自己设计由别人代工的，比如找台积电代工。
代工厂商为了能接到业务，只有不停升级自己的生产设备，这样才能生存下来。
所以造成以上原因。
第二个问题
就如所说的一样，CPU除了处理游戏的AI，情节等方面的数据外，对于有些图像方面也是由它完成的。
当微软每次发布新的DX时，并不是每款GPU都能支持DX新的特性，所以有些图像方面的任务还得由CPU来完成。
还有有些特性比如重力特性以前是由CPU来完成，现在有些GPU也能支持了，这些任务就由GPU来完成了。
第三个问题
GPU相当于专用于图像处理的CPU，正因为它专，所以它强，在处理图像时它的工作效率远高于CPU，但是CPU是通用的数据处理器，在处理数值计算时是它的强项，它能完成的任务是GPU无法代替的，所以不能用GPU来代替CPU。
另外
现在AMD收购了A记显卡芯片的设计厂商，AMD看到今后CPU和GPU只有走一条融合的道路才能地竞争中占得先机。
CPU和GPU如何配合默契才能最大地提高工作效率是AMD现在考虑的问题，也是英特尔的问题。
第四个问题
微软发布windows7 其中一个显著特性就是 联合GPU和CPU的强大实力，提升GPU在硬件使用的价值，在Windows7中，CPU与GPU组成了协同处理环境。
CPU运算非常复杂的序列代码，而GPU则运行大规模并行应用程序。
微软利用DirectX Compute将GPU作为操作系统的核心组成部分之一。
DirectX Compute。
它让开发人员能够利用 GPU的大规模并行计算能力，创造出引人入胜的消费级和专业级计算应用程序。
简单的说，DirectX Compute就是微软开发的GPGPU通用计算接口，欲统一GPU通用计算标准。
也就是说windows7 以后GPU的硬件地位将仅次于CPU，发挥出更大的效用。

④ 有谁能指点一下GPU与CPU如何在运行时进行通

CPU和GPU在今天计算机中的作用和位置（作者：赵军）
CPU的作用： CPU 作为一台计算机的核心，它的作用被证明是无法替代的，过去是这样，今天依然是这样，将来应该还是这样，只不过可能被增加和赋予了更多更复杂的功能。
为什么CPU能够胜任计算机的核心，应付自如地控制一台复杂而精密的电脑系统 。
为什么CPU可以当之无愧地被称为电脑之“脑”而不是其他部件。
这是因为CPU主要是面向执行操作系统、系统软件、调度和运行各式各样应用程序以及协调和控制整个计算机系统而设计的。
CPU具有通用性的特点，也就是“全才”或者“通才”，什么都要会，当然这并不表示CPU每项任务都具有顶尖水平。
集成了百万计，千万计，甚至数亿计晶体管的CPU芯片，除了具有计算能力的电路和结构，还拥有控制和指挥其他硬件电路相配合的中央控制器，现代CPU还拥有更多具有“思维”能力的电路和结构，如逻辑判断，推测执行，预测执行等等。
只有具有了这些特质，CPU才可能胜任电脑之“脑”的工作。

⑤ 应用（游戏）是吃CPU还是GPU

应用程序当然是需要CPU，渲染需要GPU。CPU的作用就不必细说了吧。只说这个显卡的作用和性能，渲染的范围包括，刷新，色彩覆盖，那个算力又是怎么回事的呢，我看了几个挖苦力的面板显示，几乎都是拼帧频。说的不一定正确，看看别的大虾有没有好的认识，共同学习学习。

⑥ 为什么GPU的浮点运算能力比CPU强的多

首先，「速度区别主要是来自于架构上的区别」是一个表面化的解释。对，架构是不同。但是这种不同是目前各个厂家选择的现状，还是由于本质的原因决定的？CPU 能不能增加核？GPU 那张图为什么不需要 cache？

首先，CPU 能不能像 GPU 那样去掉 cache？不行。GPU 能去掉 cache 关键在于两个因素：数据的特殊性（高度对齐，pipeline 处理，不符合局部化假设，很少回写数据）、高速度的总线。对于后一个问题，CPU 受制于落后的数据总线标准，理论上这是可以改观的。对于前一个问题，从理论上就很难解决。因为 CPU 要提供通用性，就不能限制处理数据的种类。这也是 GPGPU 永远无法取代 CPU 的原因。

其次，CPU 能不能增加很多核？不行。首先 cache 占掉了面积。其次，CPU 为了维护 cache 的一致性，要增加每个核的复杂度。还有，为了更好的利用 cache 和处理非对齐以及需要大量回写的数据，CPU 需要复杂的优化（分支预测、out-of-order 执行、以及部分模拟 GPU 的 vectorization 指令和长流水线）。所以一个 CPU 核的复杂度要比 GPU 高的多，进而成本就更高（并不是说蚀刻的成本高，而是复杂度降低了成片率，所以最终成本会高）。所以 CPU 不能像 GPU 那样增加核。

至于控制能力，GPU 的现状是差于 CPU，但是并不是本质问题。而像递归这样的控制，并不适合高度对齐和 pipeline 处理的数据，本质上还是数据问题。

⑦ 深度学习用cpu训练和用gpu训练有什么区别

1、深度学习用cpu训练和用gpu训练的区别

（1）CPU主要用于串行运算；而GPU则是大规模并行运算。由于深度学习中样本量巨大，参数量也很大，所以GPU的作用就是加速网络运算。

（2）CPU算神经网络也是可以的，算出来的神经网络放到实际应用中效果也很好，只不过速度会很慢罢了。而目前GPU运算主要集中在矩阵乘法和卷积上，其他的逻辑运算速度并没有CPU快。

⑧ 电脑中的CPU和GPU是什么意思

CPU ：中央处理器，是一块超大规模的集成电路，是一台计算机的运算核心（Core）和控制核心（ Control Unit）。它的功能主要是解释计算机指令以及处理计算机软件中的数据。

GPU：图形处理器，又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备（如平板电脑、智能手机等）上图像运算工作的微处理器。

CPU和GPU它们分别针对了两种不同的应用场景

1、CPU需要很强的通用性来处理各种不同的数据类型，同时又要逻辑判断又会引入大量的分支跳转和中断的处理。这些都使得CPU的内部结构异常复杂。

2、GPU面对的则是类型高度统一的、相互无依赖的大规模数据和不需要被打断的纯净的计算环境。

(8)怎么用cpu算力模拟gpu扩展阅读

CPU和GPU应用的方向

1、CPU所擅长的像操作系统这一类应用，需要快速响应实时信息，需要针对延迟优化，所以晶体管数量和能耗都需要用在分支预测、乱序执行、低延迟缓存等控制部分。

2、GPU适合对于具有极高的可预测性和大量相似的运算以及高延迟、高吞吐的架构运算。

⑨ GPU运算比CPU快很多倍吗

GPU运算是比CPU快很多倍。

CPU运行的是复杂指令，可以进行各种运算，所谓样样精样样松；而GPU指令集简单，工程师就可以将大部分晶体管投入数据运算，所以GPU在图形处理方面要比CPU快很多。

一、CPU 和 GPU 是为了不同的计算任务而设计的：

1、CPU 主要为串行指令而优化，而 GPU 则是为大规模的并行运算而优化。

2、从并行的角度来看，现代的多核 CPU 针对的是指令集并行（ILP）和任务并行（TLP），而 GPU 则是数据并行（DLP）。

3、在同样面积的芯片之上，CPU 更多的放置了多级缓存（L1/L2/LLC）和指令并行相关的控制部件（乱序执行，分支预测等等），而 GPU 上则更多的是运算单元（整数、浮点的乘加单元，特殊运算单元等等）

4、GPU 往往拥有更大带宽的 Memory，也就是所谓的显存，因此在大吞吐量的应用中也会有很好的性能。

二、其次GPU真正的速度优势并没有宣传中的那么大，这主要是因为：

1、所看到的这些比较中，并没有很好的利用上 CPU 中的 SIMD 运算部件。

2、GPU的运算任务无法独立于CPU而执行，运算任务与数据也必须通过总线在GPU与CPU之间传输，因此很多任务是无法达到理论加速的。

(9)怎么用cpu算力模拟gpu扩展阅读：

GPU功能作用：

显卡的处理器称为图形处理器（GPU），它是显卡的“心脏”，与CPU类似，只不过GPU是专为执行复杂的数学和几何计算而设计的，这些计算是图形渲染所必需的。某些最快速的GPU集成的晶体管数甚至超过了普通CPU。

时下的GPU多数拥有2D或3D图形加速功能。如果CPU想画一个二维图形，只需要发个指令给GPU，如“在坐标位置（x, y）处画个长和宽为a×b大小的长方形”，GPU就可以迅速计算出该图形的所有像素，并在显示器上指定位置画出相应的图形，画完后就通知CPU “我画完了”，然后等待CPU发出下一条图形指令。

有了GPU，CPU就从图形处理的任务中解放出来，可以执行其他更多的系统任务，这样可以大大提高计算机的整体性能。