gpu算力調度分配

A. CPU跟GPU是怎麼協調的,

CPU和GPU在今天計算機中的作用和位置（作者：趙軍）

CPU的作用： CPU 作為一台計算機的核心，它的作用被證明是無法替代的，過去是這樣，今天依然是這樣，將來應該還是這樣，只不過可能被增加和賦予了更多更復雜的功能。

為什麼CPU能夠勝任計算機的核心，應付自如地控制一台復雜而精密的電腦系統 ？為什麼CPU可以當之無愧地被稱為電腦之「腦」而不是其他部件？這是因為CPU主要是面向執行操作系統、系統軟體、調度和運行各式各樣應用程序以及協調和控制整個計算機系統而設計的。CPU具有通用性的特點，也就是「全才」或者「通才」，什麼都要會，當然這並不表示CPU每項任務都具有頂尖水平。

集成了百萬計，千萬計，甚至數億計晶體管的CPU晶元，除了具有計算能力的電路和結構，還擁有控制和指揮其他硬體電路相配合的中央控制器，現代CPU還擁有更多具有「思維」能力的電路和結構，如邏輯判斷，推測執行，預測執行等等。只有具有了這些特質，CPU才可能勝任電腦之「腦」的工作。

那麼CPU靠什麼來「思維、指揮和控制」呢？答案是指令集。指令集是CPU能夠處理的全部指令的集合，沒有指令集的晶元不可能被稱為是CPU，指令集可是說是CPU的思維語言，是CPU的「智能屬性」，也是它有別於其他晶元的根本屬性。類似於人腦，任何人的思維過程都有語言的參與，中國人用中文思考，美國人用英文思考，如果習慣於講方言，人們甚至用方言思考，人們在本能或者下意識狀況下都是用自己最熟悉的語言思考。指令集就是電腦之腦CPU的語言，CPU就是用指令集來「思考」。

大家所熟悉的x86指令集就是我們今天大多數人使用的CPU的語言，x86指令集是由英特爾公司發明、開發並不斷增強和完善的。所有英特爾架構的CPU和兼容CPU都採用x86指令集。任何程序不管採用什麼高級程序設計語言編寫的，都需要通過高級語言編譯程序或者解釋程序先翻譯成 x86指令才可以被CPU執行。

如C語言，C++語言，Pascal語言等等高級程序語言都是供編程人員使用的，人們可以把自己的「思維和指令」通過高級程序設計語言表達出來，通過編譯程序或者解釋程序轉換成CPU可以明白的指令，CPU就可以遵照人們的「思維和指令」一絲不苟、不折不扣地執行。其實編譯程序和解釋程序也是由CPU來執行的。

有了指令系統，CPU就可以通過它來控制、指揮、協調和調度整個計算機系統的各個子系統，讓它們相互配合、有條不紊的完成各種各樣的任務。

GPU的作用：除了CPU(中央處理單元，也叫中央處理器)，計算機系統中還有眾多的PU——處理單元，統稱xPU。由於它們不具有CPU的通用性，而具有專用性，習慣上它們都叫控制器或晶元。如內存控制器，中斷控制器，乙太網網卡晶元，USB控制器等等，雖然這種叫法不常見，但是我們依然可以把它們也叫成： Memory PU —— 內存處理單元 Interrupt PU —— 中斷處理單元 Ethernet PU —— 乙太網處理單元 USB-PU —— USB 處理單元

所以現在圖形計算能力比較強的圖形晶元被稱為GPU，即「圖形處理單元」就不足為奇了。GPU具有專用性的特點，擅長圖形計算和處理。

GPU的前身就是顯示卡的主晶元。顯示卡和顯示器等等組成計算機系統中的圖形子系統。最早的顯示卡功能比較簡單，所以也叫顯示器適配 卡(簡稱顯卡)，它是連接主機與顯示器的介面卡。現在的顯卡都是3D圖形加速卡，主晶元也被冠以GPU的新名字了。

今天顯卡的主要作用並沒有發生根本的變化，其作用還是將CPU的輸出信息和指令轉換成字元、圖形和顏色等信息，傳送到顯示器上顯示。不過，今天的顯卡在執行CPU發出的圖形指令時具有更強的執行能力和圖形計算能力。下面我就來給大家解釋一下。

早期顯卡的圖形處理能力非常弱，基本上只是起到傳遞的作用，CPU如果想在圖形方式下畫個簡單的圖形，如正方形，園等線條圖形，都需要把組成圖形的每個點需要顯示的位置、點的大小、顏色都一一告訴顯卡，顯卡然後按部就班在顯示器上畫出來。

隨著操作系統和應用程序對復雜且高質量的圖形要求越來越高，CPU專職來做這些圖形處理工作就力不從心了，也得不償失，而且也會造成CPU的效率低下。因為CPU的設計是用來處理系統任務和程序調度的，不是為圖形處理優化的。

於是圖形加速功能就被賦予到新的顯卡當中(現在主晶元可以叫GPU了)，支持2D圖形加速的顯卡出現了，它大大緩解了CPU的圖形處理壓力。有了2D圖形加速功能的顯卡，CPU如果想畫二維圖形，現在只需要發個指令給顯卡，如「在坐標位置(x, y) 畫個長和寬為a * b大小的長方形」，顯卡的圖形加速器(GPU)就可以迅速在顯示器上指定位置畫出大小相符的圖形，畫完後GPU就通知CPU，「我畫完了」，然後等待CPU發出下一條圖形指令。

現在的GPU除了具有2D 圖形加速功能，更多的是在不斷加強3D圖形加速的能力。 同樣的道理，GPU也把繁復的3D圖形處理的工作從CPU分擔過來，CPU現在只要發個指令，如「畫個圓球」，給GPU就可以了，GPU完成三維圖形的繪制，然後通知CPU完成的情況，等待下一條指令。

有了圖形加速器，CPU就從這類圖形處理的任務中解放出來，可以執行其他更多的系統任務，這樣就提高計算機的整體性能。

不過，並不是所有和3D圖形處理相關的運算一下子都被GPU接管過去，「任務」的交接也是逐步進行的，對於GPU不能實現或者尚未實現的計算還是「有勞」CPU來完成。例如，圖形的幾何坐標變化和光照模型的計算(T&L)在主流的GPU都實現了，以前都是由CPU來完成的。對於當前一些集成在晶元組中的GPU，如果沒有T&L的加速，仍然用「軟體」方式實現T&L計算——就是CPU來完成。另外，3D圖形的著色計算也逐漸轉移從CPU轉移到GPU中，如頂點著色和像素著色 (Vertex Shader & Pixel Shader)。

從上面的簡單介紹我們可以看出，CPU和GPU工作的重點不一樣，CPU擔當的責任要大的多，面對的是整個計算機系統，要照顧到方方面面，除了要保證整個系統高速運行，還要確保系統穩定運行。任何錯誤都可能會是致命的，所以CPU很難做到「專心致志」。它會經常被打斷，停下手頭的工作，去處理正常的或者非正常的緊急任務， 否則系統就會崩潰。相比CPU而言，GPU的責任就要輕的多，圖形計算如果出了錯，並不會影響程序本身的運行，最多是屏幕上顯示的圖形錯位了或者是顏色亂了等等，而且GPU不會為圖形程序運行的結果負責。

沒有GPU加速2D和3D的年代，CPU包攬了和圖形計算與加速相關的所有活，「活」的不輕松，今天這些工作中的很多都由GPU來代勞了，CPU被解放出來把寶貴的CPU運算和控制資源更多的用於執行系統層面的核心任務以及其他非GPU類的應用上來。GPU相當於CPU的一位具有圖形計算和處理專長的高級助理。

對於非圖形方面的任務，CPU需要的是其他專長的高級助理。GPU今天在計算機系統中的貢獻主要是高端3D游戲的三維圖形方面的，對於其他更廣泛的應用，它是無能為力的。如系統安全方面的加密解密，多媒體數字內容的加工和處理，系統的虛擬化，游戲中的人工智慧等等舉不勝舉。

將來有機會，我會具體介紹一些「CPU和GPU擅長和不擅長的各個方面」。

B. 請問下什麼是GPU的浮點運算能力主要干什麼的

GPU計算能力強主要是因為他的大部分電路都是進行算術計算的單元，實際上加法器乘法器這些都是相對較小的電路，即使做很多這種運算單元，都不會佔用太多晶元的面積。而且由於GPU的其他部件佔得面積小，它也可以有更多的寄存器和緩存來存儲數據。CPU之所以那麼慢，一方面是因為有大量的處理其他程序如分支循環之類的單元，並且由於cpu處理要求有一定的靈活性，那麼cpu的算術邏輯單元的結構也要復雜很多。簡單的說，就為了提高分支指令的處理速度，cpu的很多部件都用於做分支預測，以及在分支預測錯誤的時候，修正和恢復算術邏輯單元的結果。這些都大大的增加了器件的復雜度。
另外，實際上現在的CPU的設計上也在向GPU學習，就是增加並行計算的，沒有那麼多控制結構的浮點運算單元。例如intel的sse指令集，到目前可以實現同時進行4個浮點運算，而且增加了很多寄存器 另外，想學習GPU計算的話，去下載一個CUDA的SDK，裡面有很詳細的說明文檔

C. 浪潮AI最新升級的AIStation 3.0平台算力調度能力怎麼樣

AIStation 3.0平台是浪潮AI最新升級的AI資源平台，在AI算力調度方面已全面支持最新NVIDIA® Ampere架構晶元，支持GPU多實例的靈活劃分，用戶可以通過管理界面動態調整GPU算力組合，從單卡多實例的細粒度劃分，到多機多卡的大規模並行計算，幫助用戶最大限度釋放算力資源。另外，還將提供更彈性的算力運行策略，實現運行環境與運行資源的隔離，開發者可以在不改變運行環境的情況下按需對資源進行伸縮，讓開發者不必關注底層算力技術，算力隨用隨取，按需分配，快速響應，進一步提高開發訓練效率。

D. cpu+gpu）調度是不是有問題

CG為Computer Graphics （電腦圖形）的英文縮寫，核心意思為數碼圖形。
隨著時代發展，CG的含義有所拓展，但是依然沒有超出這個核心意思。
CG通常指的是數碼化的作品，一般服務於以下幾種行業：廣告、影視、動畫、漫畫和游戲業。
內容是純藝術創作到廣告設計，可以是二維三維、靜止或動畫。
隨著以計算機為主要工具進行視覺設計和生產的一系列相關產業的形成。
現在CG的概念正隨著應用領域的拓展在不斷擴大。
如今的CG一詞，既包括技術也包括藝術，幾乎囊括了當今電腦時代中所有的視覺藝術創作活動，如平面印刷品的設計、網頁設計、三維動畫、影視特效、多媒體技術、以計算機輔助設計為主的建築設計及工業造型設計等。
國際上習慣將利用計算機技術進行視覺設計和生產的領域通稱為CG——由CG和虛擬真實技術製作的媒體文化，都可以歸於CG范疇。
CG行業已經形成一個以技術為基礎的可觀的視覺藝術創意型經濟產業。
從業人員： >就目前而言，CG的從業人員主要集中在原先的計算機專業和美術專業人員上，有著相對成熟的技術和藝術創作經驗，是中國CG行業的先鋒。
全國CG行業專業從業人員總數不超過10萬。
CG應用領域： 主要集中在影視製作、電腦游戲製作、建築效果圖製作、廣告設計以及個人藝術創作五個方面。
影視製作： 國內將CG運用於影視製作的公司主要有上海電影製片廠、上海美術電影製片廠、北京紫禁城電影製作公司等幾個較有實力的影視製作公司，另外還有北京DBS（深藍的海）數碼影視製作公司等專業數碼影視製作公司也從事電影、電視中電腦特技鏡頭的製作。
電腦游戲軟體： 這一領域的代表公司是台灣大宇公司、北京新天地、晶合，上海育碧、深圳金智塔、珠海金山公司的下屬西山居游戲製作室等。
這些企業目前在中國CG製作中處於龍頭地位，代表了中國CG行業的領先水平。
雖然與國外的水平還有相當的差距，但是發展速度相當快。
建築效果圖： 廣告行業也是目前促進中國CG發展的行業之一，有相當一部分CG藝術家都是從事這一領域的工作。
代表公司是北京的水晶石公司，它在上海、廣州開設有分公司。
CG一般可以分成四個主要領域：CG藝術與設計 ，游戲軟體 ，動畫和漫畫

E. gpu加速和gpu運算 區別

GPU加速只是GPU通用計算的一種應用而已，可以加速你的日常應用，包括解壓縮、模擬等，但GPU計算是其基礎。
Nvidia是目前GPU通用計算的領軍企業，但不代表只有Nvidia的GPU才可以。AMD的一樣可以。AMD-ATI最早的通用計算平台叫Stream，只不過支持力度沒那麼大，不像Nvidia CUDA那麼風生水起而已。

F. win10的Gpu硬體加速對中低端顯卡加速效果如何啊

指的是win10自己的圖形界面使用gpu渲染吧，以前win7的aero界面是gpu渲染的，win8刪掉了改回cpu渲染，這是又改回來了;

桌面圖形分攤了顯卡的計算力自然游戲掉幀了;網頁鏈接

win10硬體加速GPU計劃好像沒什麼優化？(甚至還有負優化？)

筆記本打開了這個硬體加速GPU計劃，玩ow幀數並沒有增加，反而還掉幀

具體參考：（其實簡單理解：交操作系統--解決系統UI的卡頓）

現在很多程序都會調用GPU

到了應用程序開始普遍利用GPU加速的年代，

比如說Windows要直接用GPU加速整個UI界面的渲染了，那麼再用這個全局任務隊列就會有問題，比如渲染系統界面的任務前面排了一個其他程序提交的任務，那麼GPU會先處理掉那個任務再回頭來處理系統的需求，這會造成整個系統UI的卡頓。為了妥善地安排GPU工作的優先順序，勢必需要一個新的任務調度器，由它負責安排GPU任務的工作優先順序。

那麼WDDM就引入了那麼一個任務調度器，它以高優先順序線程的形式一直運行在CPU上，負責協調、優先處理和調度各種應用程序提交的工作。

G. 關於GPU的問題！

GPU概念
GPU英文全稱Graphic Processing Unit，中文翻譯為「圖形處理器」。GPU是相對於CPU的一個概念，由於在現代的計算機中（特別是家用系統，游戲的發燒友）圖形的處理變得越來越重要，需要一個專門的圖形的核心處理器。

GPU的作用
GPU是顯示卡的「心臟」，也就相當於CPU在電腦中的作用，它決定了該顯卡的檔次和大部分性能，同時也是2D顯示卡和3D顯示卡的區別依據。2D顯示晶元在處理3D圖像和特效時主要依賴CPU的處理能力，稱為「軟加速」。3D顯示晶元是將三維圖像和特效處理功能集中在顯示晶元內，也即所謂的「硬體加速」功能。顯示晶元通常是顯示卡上最大的晶元（也是引腳最多的）。現在市場上的顯卡大多採用NVIDIA和ATI兩家公司的圖形處理晶元。

於是NVIDIA公司在1999年發布GeForce 256圖形處理晶元時首先提出GPU的概念。GPU使顯卡減少了對CPU的依賴，並進行部分原本CPU的工作，尤其是在3D圖形處理時。GPU所採用的核心技術有硬體T&L、立方環境材質貼圖和頂點混合、紋理壓縮和凹凸映射貼圖、雙重紋理四像素256位渲染引擎等，而硬體T&L技術可以說是GPU的標志。

簡單說GPU就是能夠從硬體上支持T&L（Transform and Lighting，多邊形轉換與光源處理）的顯示晶元，因為T&L是3D渲染中的一個重要部分，其作用是計算多邊形的3D位置和處理動態光線效果，也可以稱為「幾何處理」。一個好的T&L單元，可以提供細致的3D物體和高級的光線特效；只大多數PC中，T&L的大部分運算是交由CPU處理的(這就也就是所謂的軟體T&L)，由於CPU的任務繁多，除了T&L之外，還要做內存管理、輸入響應等非3D圖形處理工作，因此在實際運算的時候性能會大打折扣，常常出現顯卡等待CPU數據的情況，其運算速度遠跟不上今天復雜三維游戲的要求。即使CPU的工作頻率超過1GHz或更高，對它的幫助也不大，由於這是PC本身設計造成的問題，與CPU的速度無太大關系。

GPU與DSP的區別
GPU在幾個主要方面有別於DSP架構。其所有計算均使用浮點演算法，而且目前還沒有位或整數運算指令。此外，由於GPU專為圖像處理設計，因此存儲系統實際上是一個二維的分段存儲空間，包括一個區段號（從中讀取圖像）和二維地址（圖像中的X、Y坐標）。此外，沒有任何間接寫指令。輸出寫地址由光柵處理器確定，而且不能由程序改變。這對於自然分布在存儲器之中的演算法而言是極大的挑戰。最後一點，不同碎片的處理過程間不允許通信。實際上，碎片處理器是一個SIMD數據並行執行單元，在所有碎片中獨立執行代碼。

盡管有上述約束，但是GPU還是可以有效地執行多種運算，從線性代數和信號處理到數值模擬。雖然概念簡單，但新用戶在使用GPU計算時還是會感到迷惑，因為GPU需要專有的圖形知識。這種情況下，一些軟體工具可以提供幫助。兩種高級描影語言CG和HLSL能夠讓用戶編寫類似C的代碼，隨後編譯成碎片程序匯編語言。Brook是專為GPU計算設計，且不需要圖形知識的高級語言。因此對第一次使用GPU進行開發的工作人員而言，它可以算是一個很好的起點。Brook是C語言的延伸，整合了可以直接映射到GPU的簡單數據並行編程構造。經 GPU存儲和操作的數據被形象地比喻成「流」（stream），類似於標准C中的數組。核心（Kernel）是在流上操作的函數。在一系列輸入流上調用一個核心函數意味著在流元素上實施了隱含的循環，即對每一個流元素調用核心體。Brook還提供了約簡機制，例如對一個流中所有的元素進行和、最大值或乘積計算。Brook還完全隱藏了圖形API的所有細節，並把GPU中類似二維存儲器系統這樣許多用戶不熟悉的部分進行了虛擬化處理。用Brook編寫的應用程序包括線性代數子程序、快速傅立葉轉換、光線追蹤和圖像處理。利用ATI的X800XT和Nvidia的GeForce 6800 Ultra型GPU，在相同高速緩存、SSE匯編優化Pentium 4執行條件下，許多此類應用的速度提升高達7倍之多。

對GPU計算感興趣的用戶努力將演算法映射到圖形基本元素。類似Brook這樣的高級編程語言的問世使編程新手也能夠很容易就掌握GPU的性能優勢。訪問GPU計算功能的便利性也使得GPU的演變將繼續下去，不僅僅作為繪制引擎，而是會成為個人電腦的主要計算引擎。

H. 如何使用單一GPU

GPU越來越強大，GPU為顯示圖像做了優化之外，在計算上已經超越了通用的CPU。如此強大的晶元如果只是作為顯卡就太浪費了，因此NVidia推出CUDA，讓顯卡可以用於圖像計算以外的目的，也就是超於游戲，使得GPU能夠發揮其強大的運算能力。
1、雖然我們看到CPU和GPU在運算能力上面的巨大差距，但是我們要看看他們設計之初所負責的工作。CPU設計之初所負責的是如何把一條一條的數據處理玩，CPU的內部結構可以分為控制單元、邏輯單元和存儲單元三大部分，三個部分相互協調，便可以進行分析，判斷、運算並控制計算機各部分協調工作。其中運算器主要完成各種算術運算（如加、減、乘、除）和邏輯運算（ 如邏輯加、邏輯乘和非運算）； 而控制器不具有運算功能，它只是讀取各種指令，並對指令進行分析，作出相應的控制。
2、通常，在CPU中還有若干個寄存器，它們可直接參與運算並存放運算的中間結果。CPU的工作原理就像一個工廠對產品的加工過程：進入工廠的原料（程序指令），經過物資分配部門（控制單元）的調度分配，被送往生產線（邏輯運算單元），生產出成品（處理後的數據）後，再存儲在倉庫（存儲單元）中，最後等著拿到市場上去賣（交由應用程序使用）。在這個過程中，從控制單元開始，CPU就開始了正式的工作，中間的過程是通過邏輯運算單元來進行運算處理，交到存儲單元代表工作的結束。數據從輸入設備流經內存，等待CPU的處理。
3、而GPU卻從最初的設計就能夠執行並行指令，從一個GPU核心收到一組多邊形數據，到完成所有處理並輸出圖像可以做到完全獨立。由於最初GPU就採用了大量的執行單元，這些執行單元可以輕松的載入並行處理，而不像CPU那樣的單線程處理。另外，現代的GPU也可以在每個指令周期執行更多的單一指令。例如，在某些特定環境下，Tesla架構可以同時執行MAD+MUL or MAD+SFU。