怎麼用cpu算力模擬gpu

① GPU能代替CPU用嗎

CPU和GPU完全是針對不同的應用來進行設計的，在架構和應用上的區別非常明顯，估計在相當一段時間內應該都不太可能出現GPU代替CPU的情況。操作系統和一些復雜的程序運行還是要靠CPU來執行。GPU的應用范圍越來越大，更多的是作為第二個專用於復雜計算的處理器，與其說GPU取代CPU的功能，不如說是GPU將PC的應用范圍擴大到過去沒有涉足的地方。GPU和CPU在今後相當一段時間內還是會共存，而且兩者都會持續不斷地提升性能，以滿足越來越復雜的各種應用。至於GPU和CPU是否整合，或整合後能不能發展下去，現在還不好說

② CPU跟GPU是怎麼協調的,

CPU和GPU在今天計算機中的作用和位置（作者：趙軍）

CPU的作用： CPU 作為一台計算機的核心，它的作用被證明是無法替代的，過去是這樣，今天依然是這樣，將來應該還是這樣，只不過可能被增加和賦予了更多更復雜的功能。

為什麼CPU能夠勝任計算機的核心，應付自如地控制一台復雜而精密的電腦系統 ？為什麼CPU可以當之無愧地被稱為電腦之「腦」而不是其他部件？這是因為CPU主要是面向執行操作系統、系統軟體、調度和運行各式各樣應用程序以及協調和控制整個計算機系統而設計的。CPU具有通用性的特點，也就是「全才」或者「通才」，什麼都要會，當然這並不表示CPU每項任務都具有頂尖水平。

集成了百萬計，千萬計，甚至數億計晶體管的CPU晶元，除了具有計算能力的電路和結構，還擁有控制和指揮其他硬體電路相配合的中央控制器，現代CPU還擁有更多具有「思維」能力的電路和結構，如邏輯判斷，推測執行，預測執行等等。只有具有了這些特質，CPU才可能勝任電腦之「腦」的工作。

那麼CPU靠什麼來「思維、指揮和控制」呢？答案是指令集。指令集是CPU能夠處理的全部指令的集合，沒有指令集的晶元不可能被稱為是CPU，指令集可是說是CPU的思維語言，是CPU的「智能屬性」，也是它有別於其他晶元的根本屬性。類似於人腦，任何人的思維過程都有語言的參與，中國人用中文思考，美國人用英文思考，如果習慣於講方言，人們甚至用方言思考，人們在本能或者下意識狀況下都是用自己最熟悉的語言思考。指令集就是電腦之腦CPU的語言，CPU就是用指令集來「思考」。

大家所熟悉的x86指令集就是我們今天大多數人使用的CPU的語言，x86指令集是由英特爾公司發明、開發並不斷增強和完善的。所有英特爾架構的CPU和兼容CPU都採用x86指令集。任何程序不管採用什麼高級程序設計語言編寫的，都需要通過高級語言編譯程序或者解釋程序先翻譯成 x86指令才可以被CPU執行。

如C語言，C++語言，Pascal語言等等高級程序語言都是供編程人員使用的，人們可以把自己的「思維和指令」通過高級程序設計語言表達出來，通過編譯程序或者解釋程序轉換成CPU可以明白的指令，CPU就可以遵照人們的「思維和指令」一絲不苟、不折不扣地執行。其實編譯程序和解釋程序也是由CPU來執行的。

有了指令系統，CPU就可以通過它來控制、指揮、協調和調度整個計算機系統的各個子系統，讓它們相互配合、有條不紊的完成各種各樣的任務。

GPU的作用：除了CPU(中央處理單元，也叫中央處理器)，計算機系統中還有眾多的PU——處理單元，統稱xPU。由於它們不具有CPU的通用性，而具有專用性，習慣上它們都叫控制器或晶元。如內存控制器，中斷控制器，乙太網網卡晶元，USB控制器等等，雖然這種叫法不常見，但是我們依然可以把它們也叫成： Memory PU —— 內存處理單元 Interrupt PU —— 中斷處理單元 Ethernet PU —— 乙太網處理單元 USB-PU —— USB 處理單元

所以現在圖形計算能力比較強的圖形晶元被稱為GPU，即「圖形處理單元」就不足為奇了。GPU具有專用性的特點，擅長圖形計算和處理。

GPU的前身就是顯示卡的主晶元。顯示卡和顯示器等等組成計算機系統中的圖形子系統。最早的顯示卡功能比較簡單，所以也叫顯示器適配 卡(簡稱顯卡)，它是連接主機與顯示器的介面卡。現在的顯卡都是3D圖形加速卡，主晶元也被冠以GPU的新名字了。

今天顯卡的主要作用並沒有發生根本的變化，其作用還是將CPU的輸出信息和指令轉換成字元、圖形和顏色等信息，傳送到顯示器上顯示。不過，今天的顯卡在執行CPU發出的圖形指令時具有更強的執行能力和圖形計算能力。下面我就來給大家解釋一下。

早期顯卡的圖形處理能力非常弱，基本上只是起到傳遞的作用，CPU如果想在圖形方式下畫個簡單的圖形，如正方形，園等線條圖形，都需要把組成圖形的每個點需要顯示的位置、點的大小、顏色都一一告訴顯卡，顯卡然後按部就班在顯示器上畫出來。

隨著操作系統和應用程序對復雜且高質量的圖形要求越來越高，CPU專職來做這些圖形處理工作就力不從心了，也得不償失，而且也會造成CPU的效率低下。因為CPU的設計是用來處理系統任務和程序調度的，不是為圖形處理優化的。

於是圖形加速功能就被賦予到新的顯卡當中(現在主晶元可以叫GPU了)，支持2D圖形加速的顯卡出現了，它大大緩解了CPU的圖形處理壓力。有了2D圖形加速功能的顯卡，CPU如果想畫二維圖形，現在只需要發個指令給顯卡，如「在坐標位置(x, y) 畫個長和寬為a * b大小的長方形」，顯卡的圖形加速器(GPU)就可以迅速在顯示器上指定位置畫出大小相符的圖形，畫完後GPU就通知CPU，「我畫完了」，然後等待CPU發出下一條圖形指令。

現在的GPU除了具有2D 圖形加速功能，更多的是在不斷加強3D圖形加速的能力。 同樣的道理，GPU也把繁復的3D圖形處理的工作從CPU分擔過來，CPU現在只要發個指令，如「畫個圓球」，給GPU就可以了，GPU完成三維圖形的繪制，然後通知CPU完成的情況，等待下一條指令。

有了圖形加速器，CPU就從這類圖形處理的任務中解放出來，可以執行其他更多的系統任務，這樣就提高計算機的整體性能。

不過，並不是所有和3D圖形處理相關的運算一下子都被GPU接管過去，「任務」的交接也是逐步進行的，對於GPU不能實現或者尚未實現的計算還是「有勞」CPU來完成。例如，圖形的幾何坐標變化和光照模型的計算(T&L)在主流的GPU都實現了，以前都是由CPU來完成的。對於當前一些集成在晶元組中的GPU，如果沒有T&L的加速，仍然用「軟體」方式實現T&L計算——就是CPU來完成。另外，3D圖形的著色計算也逐漸轉移從CPU轉移到GPU中，如頂點著色和像素著色 (Vertex Shader & Pixel Shader)。

從上面的簡單介紹我們可以看出，CPU和GPU工作的重點不一樣，CPU擔當的責任要大的多，面對的是整個計算機系統，要照顧到方方面面，除了要保證整個系統高速運行，還要確保系統穩定運行。任何錯誤都可能會是致命的，所以CPU很難做到「專心致志」。它會經常被打斷，停下手頭的工作，去處理正常的或者非正常的緊急任務， 否則系統就會崩潰。相比CPU而言，GPU的責任就要輕的多，圖形計算如果出了錯，並不會影響程序本身的運行，最多是屏幕上顯示的圖形錯位了或者是顏色亂了等等，而且GPU不會為圖形程序運行的結果負責。

沒有GPU加速2D和3D的年代，CPU包攬了和圖形計算與加速相關的所有活，「活」的不輕松，今天這些工作中的很多都由GPU來代勞了，CPU被解放出來把寶貴的CPU運算和控制資源更多的用於執行系統層面的核心任務以及其他非GPU類的應用上來。GPU相當於CPU的一位具有圖形計算和處理專長的高級助理。

對於非圖形方面的任務，CPU需要的是其他專長的高級助理。GPU今天在計算機系統中的貢獻主要是高端3D游戲的三維圖形方面的，對於其他更廣泛的應用，它是無能為力的。如系統安全方面的加密解密，多媒體數字內容的加工和處理，系統的虛擬化，游戲中的人工智慧等等舉不勝舉。

將來有機會，我會具體介紹一些「CPU和GPU擅長和不擅長的各個方面」。

③ 怎樣用cpu和gpu 測試vgg訓練好的模型

GPU概念
GPU英文全稱Graphic Processing Unit，中文翻譯為「圖形處理器」。
GPU是相對於CPU的一個概念，由於在現代的計算機中（特別是家用系統，游戲的發燒友）圖形的處理變得越來越重要，需要一個專門的圖形的核心處理器。
GPU的作用
GPU是顯示卡的「大腦」，它決定了該顯卡的檔次和大部分性能，同時也是2D顯示卡和3D顯示卡的區別依據。
2D顯示晶元在處理3D圖像和特效時主要依賴CPU的處理能力，稱為「軟加速」。
3D顯示晶元是將三維圖像和特效處理功能集中在顯示晶元內，也即所謂的「硬體加速」功能。
顯示晶元通常是顯示卡上最大的晶元（也是引腳最多的）。
現在市場上的顯卡大多採用NVIDIA和ATI兩家公司的圖形處理晶元。
於是NVIDIA公司在1999年發布GeForce 256圖形處理晶元時首先提出GPU的概念。
GPU使顯卡減少了對CPU的依賴，並進行部分原本CPU的工作，尤其是在3D圖形處理時。
GPU所採用的核心技術有硬體T&L、立方環境材質貼圖和頂點混合、紋理壓縮和凹凸映射貼圖、雙重紋理四像素256位渲染引擎等，而硬體T&L技術可以說是GPU的標志。
簡單說GPU就是能夠從硬體上支持T&L（Transform and Lighting，多邊形轉換與光源處理）的顯示晶元，因為T&L是3D渲染中的一個重要部分，其作用是計算多邊形的3D位置和處理動態光線效果，也可以稱為「幾何處理」。
一個好的T&L單元，可以提供細致的3D物體和高級的光線特效；
只不過大多數PC中，T&L的大部分運算是交由CPU處理的（這就也就是所謂的軟體T&L），由於CPU的任務繁多，除了T&L之外，還要做內存管理、輸入響應等非3D圖形處理工作，因此在實際運算的時候性能會大打折扣，常常出現顯卡等待CPU數據的情況，其運算速度遠跟不上今天復雜三維游戲的要求。
即使CPU的工作頻率超過1GHz或更高，對它的幫助也不大，由於這是PC本身設計造成的問題，與CPU的速度無太大關系。
關於CPU和GPU的相關問題
第一個問題：
GPU的競爭遠比CPU的競爭來得激烈。
通用PC的CPU就只有英特爾和AMD兩家大廠。
而在GPU方面領先的是N記和A記兩家廠商，但能生產中低端產品的還有英特爾、3S等好幾家廠商。
它們的產品雖然不如前兩家，但在很多應用方面也能滿足用戶的需要，所以N記和A記只有拚命往前跑才不會死掉。
CPU廠商沒有採用GPU的先進工藝是因為CPU廠商都有自己投資的生產線，不可能一下把原來的生產線都淘汰了上新的生產線，那樣做可能連當初投入的資金都難以收回。
而GPU廠商由於種種原因，一般都是自己設計由別人代工的，比如找台積電代工。
代工廠商為了能接到業務，只有不停升級自己的生產設備，這樣才能生存下來。
所以造成以上原因。
第二個問題
就如所說的一樣，CPU除了處理游戲的AI，情節等方面的數據外，對於有些圖像方面也是由它完成的。
當微軟每次發布新的DX時，並不是每款GPU都能支持DX新的特性，所以有些圖像方面的任務還得由CPU來完成。
還有有些特性比如重力特性以前是由CPU來完成，現在有些GPU也能支持了，這些任務就由GPU來完成了。
第三個問題
GPU相當於專用於圖像處理的CPU，正因為它專，所以它強，在處理圖像時它的工作效率遠高於CPU，但是CPU是通用的數據處理器，在處理數值計算時是它的強項，它能完成的任務是GPU無法代替的，所以不能用GPU來代替CPU。
另外
現在AMD收購了A記顯卡晶元的設計廠商，AMD看到今後CPU和GPU只有走一條融合的道路才能地競爭中佔得先機。
CPU和GPU如何配合默契才能最大地提高工作效率是AMD現在考慮的問題，也是英特爾的問題。
第四個問題
微軟發布windows7 其中一個顯著特性就是 聯合GPU和CPU的強大實力，提升GPU在硬體使用的價值，在Windows7中，CPU與GPU組成了協同處理環境。
CPU運算非常復雜的序列代碼，而GPU則運行大規模並行應用程序。
微軟利用DirectX Compute將GPU作為操作系統的核心組成部分之一。
DirectX Compute。
它讓開發人員能夠利用 GPU的大規模並行計算能力，創造出引人入勝的消費級和專業級計算應用程序。
簡單的說，DirectX Compute就是微軟開發的GPGPU通用計算介面，欲統一GPU通用計算標准。
也就是說windows7 以後GPU的硬體地位將僅次於CPU，發揮出更大的效用。

④ 有誰能指點一下GPU與CPU如何在運行時進行通

CPU和GPU在今天計算機中的作用和位置（作者：趙軍）
CPU的作用： CPU 作為一台計算機的核心，它的作用被證明是無法替代的，過去是這樣，今天依然是這樣，將來應該還是這樣，只不過可能被增加和賦予了更多更復雜的功能。
為什麼CPU能夠勝任計算機的核心，應付自如地控制一台復雜而精密的電腦系統 。
為什麼CPU可以當之無愧地被稱為電腦之「腦」而不是其他部件。
這是因為CPU主要是面向執行操作系統、系統軟體、調度和運行各式各樣應用程序以及協調和控制整個計算機系統而設計的。
CPU具有通用性的特點，也就是「全才」或者「通才」，什麼都要會，當然這並不表示CPU每項任務都具有頂尖水平。
集成了百萬計，千萬計，甚至數億計晶體管的CPU晶元，除了具有計算能力的電路和結構，還擁有控制和指揮其他硬體電路相配合的中央控制器，現代CPU還擁有更多具有「思維」能力的電路和結構，如邏輯判斷，推測執行，預測執行等等。
只有具有了這些特質，CPU才可能勝任電腦之「腦」的工作。

⑤ 應用（游戲）是吃CPU還是GPU

應用程序當然是需要CPU，渲染需要GPU。CPU的作用就不必細說了吧。只說這個顯卡的作用和性能，渲染的范圍包括，刷新，色彩覆蓋，那個算力又是怎麼回事的呢，我看了幾個挖苦力的面板顯示，幾乎都是拼幀頻。說的不一定正確，看看別的大蝦有沒有好的認識，共同學習學習。

⑥ 為什麼GPU的浮點運算能力比CPU強的多

首先，「速度區別主要是來自於架構上的區別」是一個表面化的解釋。對，架構是不同。但是這種不同是目前各個廠家選擇的現狀，還是由於本質的原因決定的？CPU 能不能增加核？GPU 那張圖為什麼不需要 cache？

首先，CPU 能不能像 GPU 那樣去掉 cache？不行。GPU 能去掉 cache 關鍵在於兩個因素：數據的特殊性（高度對齊，pipeline 處理，不符合局部化假設，很少回寫數據）、高速度的匯流排。對於後一個問題，CPU 受制於落後的數據匯流排標准，理論上這是可以改觀的。對於前一個問題，從理論上就很難解決。因為 CPU 要提供通用性，就不能限制處理數據的種類。這也是 GPGPU 永遠無法取代 CPU 的原因。

其次，CPU 能不能增加很多核？不行。首先 cache 佔掉了面積。其次，CPU 為了維護 cache 的一致性，要增加每個核的復雜度。還有，為了更好的利用 cache 和處理非對齊以及需要大量回寫的數據，CPU 需要復雜的優化（分支預測、out-of-order 執行、以及部分模擬 GPU 的 vectorization 指令和長流水線）。所以一個 CPU 核的復雜度要比 GPU 高的多，進而成本就更高（並不是說蝕刻的成本高，而是復雜度降低了成片率，所以最終成本會高）。所以 CPU 不能像 GPU 那樣增加核。

至於控制能力，GPU 的現狀是差於 CPU，但是並不是本質問題。而像遞歸這樣的控制，並不適合高度對齊和 pipeline 處理的數據，本質上還是數據問題。

⑦ 深度學慣用cpu訓練和用gpu訓練有什麼區別

1、深度學慣用cpu訓練和用gpu訓練的區別

（1）CPU主要用於串列運算；而GPU則是大規模並行運算。由於深度學習中樣本量巨大，參數量也很大，所以GPU的作用就是加速網路運算。

（2）CPU算神經網路也是可以的，算出來的神經網路放到實際應用中效果也很好，只不過速度會很慢罷了。而目前GPU運算主要集中在矩陣乘法和卷積上，其他的邏輯運算速度並沒有CPU快。

⑧ 電腦中的CPU和GPU是什麼意思

CPU ：中央處理器，是一塊超大規模的集成電路，是一台計算機的運算核心（Core）和控制核心（ Control Unit）。它的功能主要是解釋計算機指令以及處理計算機軟體中的數據。

GPU：圖形處理器，又稱顯示核心、視覺處理器、顯示晶元，是一種專門在個人電腦、工作站、游戲機和一些移動設備（如平板電腦、智能手機等）上圖像運算工作的微處理器。

CPU和GPU它們分別針對了兩種不同的應用場景

1、CPU需要很強的通用性來處理各種不同的數據類型，同時又要邏輯判斷又會引入大量的分支跳轉和中斷的處理。這些都使得CPU的內部結構異常復雜。

2、GPU面對的則是類型高度統一的、相互無依賴的大規模數據和不需要被打斷的純凈的計算環境。

(8)怎麼用cpu算力模擬gpu擴展閱讀

CPU和GPU應用的方向

1、CPU所擅長的像操作系統這一類應用，需要快速響應實時信息，需要針對延遲優化，所以晶體管數量和能耗都需要用在分支預測、亂序執行、低延遲緩存等控制部分。

2、GPU適合對於具有極高的可預測性和大量相似的運算以及高延遲、高吞吐的架構運算。

⑨ GPU運算比CPU快很多倍嗎

GPU運算是比CPU快很多倍。

CPU運行的是復雜指令，可以進行各種運算，所謂樣樣精樣樣松；而GPU指令集簡單，工程師就可以將大部分晶體管投入數據運算，所以GPU在圖形處理方面要比CPU快很多。

一、CPU 和 GPU 是為了不同的計算任務而設計的：

1、CPU 主要為串列指令而優化，而 GPU 則是為大規模的並行運算而優化。

2、從並行的角度來看，現代的多核 CPU 針對的是指令集並行（ILP）和任務並行（TLP），而 GPU 則是數據並行（DLP）。

3、在同樣面積的晶元之上，CPU 更多的放置了多級緩存（L1/L2/LLC）和指令並行相關的控制部件（亂序執行，分支預測等等），而 GPU 上則更多的是運算單元（整數、浮點的乘加單元，特殊運算單元等等）

4、GPU 往往擁有更大帶寬的 Memory，也就是所謂的顯存，因此在大吞吐量的應用中也會有很好的性能。

二、其次GPU真正的速度優勢並沒有宣傳中的那麼大，這主要是因為：

1、所看到的這些比較中，並沒有很好的利用上 CPU 中的 SIMD 運算部件。

2、GPU的運算任務無法獨立於CPU而執行，運算任務與數據也必須通過匯流排在GPU與CPU之間傳輸，因此很多任務是無法達到理論加速的。

(9)怎麼用cpu算力模擬gpu擴展閱讀：

GPU功能作用：

顯卡的處理器稱為圖形處理器（GPU），它是顯卡的「心臟」，與CPU類似，只不過GPU是專為執行復雜的數學和幾何計算而設計的，這些計算是圖形渲染所必需的。某些最快速的GPU集成的晶體管數甚至超過了普通CPU。

時下的GPU多數擁有2D或3D圖形加速功能。如果CPU想畫一個二維圖形，只需要發個指令給GPU，如「在坐標位置（x, y）處畫個長和寬為a×b大小的長方形」，GPU就可以迅速計算出該圖形的所有像素，並在顯示器上指定位置畫出相應的圖形，畫完後就通知CPU 「我畫完了」，然後等待CPU發出下一條圖形指令。

有了GPU，CPU就從圖形處理的任務中解放出來，可以執行其他更多的系統任務，這樣可以大大提高計算機的整體性能。