GPU市場增長與Mali 技術(shù)的成功
2006年，圖形處理器（GPU）總出貨量約為1.35億，廣泛用于智能手機(jī)、DTV和平板電腦等多種設(shè)備。同年，ARM 完成對挪威Falanx公司的收購，并獲得其移動GPU技術(shù)，完成對原有IP技術(shù)的擴(kuò)展。10年后的今天，僅智能手機(jī)的全球出貨量就已達(dá)到15億臺（據(jù)ARM內(nèi)部數(shù)據(jù)和Gartner數(shù)據(jù)顯示）；短短10年時間，ARM Mali技術(shù)也已成為全球出貨量第一的GPU，2015年總計出貨量超過7.5億。
本文將重點討論GPU市場、技術(shù)、應(yīng)用案例，以及GPU爆炸式發(fā)展背后的深層原因。同時，文章還將簡述ARM Mali GPU及其架構(gòu)在過去10年的演進(jìn)，并介紹搭載全新Bifrost架構(gòu)的Mali-G71。
API與制程節(jié)點開發(fā)
對圖形領(lǐng)域而言，2015年振奮人心——全新應(yīng)用程序接口（API）的出現(xiàn)允許開發(fā)商將基礎(chǔ)圖形硬件發(fā)揮至技術(shù)允許的最高水平。
同年，Khronos團(tuán)隊的工作引發(fā)有關(guān)Vulkan的熱烈討論。Vulkan是新一代OpenGL API，為新一代圖形API設(shè)計量身打造。Vulkan足以滿足全部需求，并徹底終結(jié)了OpenGL ES和OpenGL作為API各自為政的時代。
Vulkan于2016年2月正式發(fā)布，是首款按照開發(fā)商需求設(shè)計的Khronos API。它由游戲引擎開發(fā)商、芯片提供商、IP公司和操作系統(tǒng)供應(yīng)商共同開發(fā)，以期打造兼顧各相關(guān)方需求的最佳解決方案。Vulkan API應(yīng)運而生，采用全新異構(gòu)系統(tǒng)，不僅內(nèi)置多線程支持，而且可以最大程度發(fā)揮硬件一致性的優(yōu)勢。Vulkan屬于底層API，允許開發(fā)商自主決定硬件交互方式，并通過底層接入以找到最佳平衡點。
上述特性對虛擬現(xiàn)實（VR）等新興應(yīng)用尤為重要，幫助開放商減少延遲，優(yōu)化圖形流水線。
對聚焦GPU運算應(yīng)用的開發(fā)商來說，OpenCL 2的發(fā)布是一個重要節(jié)點，多項全新理念進(jìn)一步簡化了高性能GPGPU應(yīng)用的開發(fā)流程。虛擬存儲共享概念的提出可以說最為關(guān)鍵，允許CPU和GPU之間的虛擬地址共享。與硬件一致性結(jié)合后，細(xì)粒度緩沖器共享成為現(xiàn)實。該技術(shù)簡化了實現(xiàn)CPU和GPU工作負(fù)載共享所需的開發(fā)工作，因為兩者間的數(shù)據(jù)雙向傳輸不再是必要條件。
半導(dǎo)體制造工藝也經(jīng)歷了巨大革新。2014年，臺積電與三星推出20納米工藝節(jié)點，標(biāo)志著平面工藝節(jié)點的10年歷史終于落幕。2015年，三星在Exynos 7420上使用全新14納米FinFet技術(shù)，臺積電緊隨其后，推出16納米FinFet工藝，并搭載于蘋果A9芯片。2016年，工藝節(jié)點獲得進(jìn)一步完善，成本降低，產(chǎn)量增加。步入2017年， 10納米工藝節(jié)點也不再是夢想。
從GPU的角度看，工藝節(jié)點技術(shù)的進(jìn)步對整個行業(yè)意義非凡。首先，工藝節(jié)點越先進(jìn)，單位區(qū)域（或功耗）的晶體管密度就越大。GPU屬于并行處理器，只要架構(gòu)擴(kuò)展，性能就會隨之提升。然而，先進(jìn)工藝節(jié)點對布線的擴(kuò)展效果不如晶體管。恰恰相反，Ergo 工藝制程從28納米優(yōu)化至14納米，SoC設(shè)計師得以實現(xiàn)更高的晶體管密度，但卻不如布線的擴(kuò)展。這意味著，如果設(shè)計10納米GPU時采用與28納米同樣的方法，設(shè)計結(jié)果必然會打折扣，因為晶體管和布線各有權(quán)衡，不盡相同。設(shè)計師常常需要妥協(xié)，使IP適應(yīng)某個節(jié)點，這種權(quán)衡隨著先進(jìn)工藝節(jié)點數(shù)量的增加變得愈加重要。
深入探討高端移動GPU的性能如何繼續(xù)提高之前，我們需要特別指出GPU性能從2011年到2016年提升了20倍這個有趣的事實。由于手機(jī)同時變得更加輕薄，因此該數(shù)字并不能代表技術(shù)進(jìn)步的全景，但現(xiàn)代移動設(shè)備開發(fā)商對性能提升的渴求已經(jīng)可見一斑。
移動設(shè)備開發(fā)商不斷完善現(xiàn)有用例，開發(fā)顛覆性的新用例，以保持創(chuàng)新節(jié)奏，并從新一輪的性能升級中獲益。
案例開發(fā)
隨著移動平臺的發(fā)展，各類傳感器層出不窮。憑借飛速提升的系統(tǒng)性能、不斷改善的屏幕精度和日益增加的電池壽命，移動設(shè)備開發(fā)商已經(jīng)坐擁創(chuàng)新的最佳平臺。
增強(qiáng)現(xiàn)實（AR）可以充分挖掘并展現(xiàn)智能手機(jī)的強(qiáng)勁性能。AR的原理并不復(fù)雜，利用高級攝像頭捕捉圖像，經(jīng)過CPU、GPU、ISP、VPU和DPU，最后顯示在高清屏幕上。這個過程中，增強(qiáng)內(nèi)容將覆蓋實際影像。根據(jù)應(yīng)用目標(biāo)的不同，物體識別、方位補(bǔ)償（使用電子羅盤和／或加速度計）或高級渲染技術(shù)都將各有用武之地。
一些人氣移動應(yīng)用讓AR不再遠(yuǎn)在天邊，并一舉進(jìn)軍大眾市場，比如將濾鏡疊加在用戶臉部，然后生成圖片和視頻用于分享的Snapchat；以及讓用戶在真實地點看到動畫人物的Pokemon Go。無獨有偶，還有一些應(yīng)用采取了更高級的AR技術(shù)，比如將攝像頭捕捉與3D物體相結(jié)合。這些創(chuàng)新用例層出不窮，并可以用于包括零售和高端游戲在內(nèi)的各行各業(yè)。舉個例子，用戶可以使用移動設(shè)備查看家具是否與硬裝搭配，家具巨頭宜家就打算在2017年發(fā)布AR產(chǎn)品目錄。
虛擬現(xiàn)實已經(jīng)不算新理念了，但其核心技術(shù)卻仍在經(jīng)歷巨變。硬件設(shè)備已經(jīng)萬事俱備，擁有足夠強(qiáng)大的性能運行炫目的VR內(nèi)容；一個適合創(chuàng)新的大規(guī)模開發(fā)商生態(tài)系統(tǒng)也已經(jīng)形成。這一點在移動平臺的體現(xiàn)格外深刻，因為人人都能用，且其移動性自身便是重要優(yōu)勢。與臺式機(jī)和游戲機(jī)不同，移動設(shè)備無拘無束。當(dāng)然，實現(xiàn)這一點需要在設(shè)備上安裝各類傳感器。實際上，VR領(lǐng)域的許多重大突破都是在移動設(shè)備上實現(xiàn)的——利用VR技術(shù)增強(qiáng)用戶體驗的云霄飛車就是高性能移動應(yīng)用的一個典型案例。
盡管推陳出新的顛覆式應(yīng)用不斷刷新智能手機(jī)的使用方式，但我們經(jīng)常會忘記一點現(xiàn)實，最普遍的移動應(yīng)用情景依然是網(wǎng)頁瀏覽和游戲。近幾年，屏幕分辨率和刷新率都得到提升，用戶界面（UI）的視覺效果和使用體驗也越來越自然。這些優(yōu)化對GPU提出了更高要求，成為成本導(dǎo)向型市場不小的挑戰(zhàn)。
移動設(shè)備已經(jīng)成為最主要的游戲平臺，由于移動游戲的便捷性，玩家人數(shù)持續(xù)增加，并進(jìn)一步推動游戲數(shù)量的上升。從免費的獨立游戲到數(shù)百萬美元投資的工作室游戲，現(xiàn)代玩家有豐富的游戲類型、價格和質(zhì)量等級可供選擇。隨著可選游戲數(shù)量的上升，視覺效果也得到顯著改善。GPU剛剛引入移動設(shè)備時，3D游戲簡單粗暴，不堪入目。而現(xiàn)在呢？游戲畫面豐富多彩，景色怡人，動態(tài)感十足，在上一代的手柄游戲機(jī)時代都是前所未聞的。
上圖是ARM演示團(tuán)隊制作的三張示意圖。我們先來看看相對簡單（以今天的標(biāo)準(zhǔn)）的3D內(nèi)容，演示游戲為2010年推出的True Force，運行于2011年款的Galaxy S2。每幀圖元16k，片段處理每像素時鐘周期3.7次，基于OpenGL ES 2.0。
3年后的2013年，OpenGL ES 3.0正式推出，改善了GPU 對GPU運算的支持（并不是OpenGL ES 3.0 API的主打特色，而隨OpenGL ES 3.1正式推出）；允許開發(fā)商使用更多高級渲染技術(shù)。結(jié)合基礎(chǔ)硬件后，視覺質(zhì)量顯著提升。將Trollheim演示與TrueForce比較一下便可一目了然，前者的復(fù)雜性比后者高了不少。TrueForce的每幀圖元為16k，而Trollheim為150k，TrueForce的片段處理每像素時鐘周期為3.7次，而Trollheim則為16次。
2016年，Vulkan正式推出，API效率大幅提高，與OpenGL ES相比能夠以更低的開銷幫助開發(fā)商更好地發(fā)揮硬件性能。當(dāng)然，硬件本身也快速發(fā)展，比較一下Lofoten和Trollheim演示，我們即可清楚地看到復(fù)雜度的提升：每幀圖元提高了300%，片段復(fù)雜度提高了150%。
智能手機(jī)設(shè)計的挑戰(zhàn)與趨勢
使用場景的變化僅是一個方面，移動設(shè)備本身也經(jīng)歷大幅升級。智能手機(jī)市場最初主打旗艦機(jī)型，隨著智能化程度的不斷提高，很多 PC特性已經(jīng)可以實現(xiàn)，但通訊依舊是其主要功能。然而，過去短短幾年間，智能手機(jī)用途不斷擴(kuò)展，打電話已不再是智能手機(jī)的主要功能，圖像顯示成為了關(guān)注焦點。
過去，手機(jī)電池壽命一般用單次充電支持的通話時長來衡量，而現(xiàn)在的標(biāo)準(zhǔn)則是網(wǎng)絡(luò)瀏覽或高端游戲的續(xù)航時間。GPU與顯示性能一起備受關(guān)注。用戶希望體驗更高質(zhì)量的視覺效果，到目前為止，這一目標(biāo)都是經(jīng)由智能手機(jī)設(shè)計改善，以及顯示內(nèi)容的美感和流暢性來實現(xiàn)，一個證據(jù)就是屏幕邊框變得越來越窄。市場的大致趨勢是朝著屏幕包裹設(shè)備的方向發(fā)展，設(shè)計美感更多由UI而非硬件來實現(xiàn)。下圖中，我們可以看出屏幕占整個設(shè)備的比例不斷增加。這一趨勢在三星Galaxy S7 Edge等機(jī)型上體現(xiàn)得尤為明顯，已經(jīng)實現(xiàn)屏幕對設(shè)備的全包裹。
除了打電話，現(xiàn)代智能手機(jī)還能提供極為豐富的功能，如郵件、社交媒體、導(dǎo)航定位、支付、瀏覽網(wǎng)頁、游戲、拍照和視頻等等。用戶在期待功能升級的同時，也希望電池壽命不斷延長。但是，即便使用當(dāng)前所有最先進(jìn)的技術(shù)，智能手機(jī)的電池容量還是要不斷增大，具體變化趨勢見下圖。
除了電池容量變大，智能手機(jī)還變得越來越薄。一些機(jī)型的厚度甚至已經(jīng)達(dá)到了7毫米以下，考慮到現(xiàn)代智能手機(jī)的技術(shù)含量，如此纖薄實在令人驚訝。
這樣的發(fā)展方向并非完全沒有弊端。屏幕增大導(dǎo)致電池尺寸變大，機(jī)身變薄，設(shè)備散熱能力下降，因為屏幕的散熱效率不如金屬機(jī)身。此外，機(jī)身變薄后，用以散熱的表面積也會減少。現(xiàn)代高端智能手機(jī)的性能上限很大程度上被散熱能力牽制，如何保證機(jī)身內(nèi)部元器件不因為高溫而受損則因此成為另一大挑戰(zhàn)。
現(xiàn)代智能手機(jī)裝有多種耗電發(fā)熱的核心元件，如攝像頭子系統(tǒng)、屏幕、調(diào)制解調(diào)器、Wi-Fi、非易失性存儲器、DRAM和主芯片本身（包括CPU、GPU和其他處理器）。因為總功耗一致，所以其中任何一個元件功耗的減少，都可以增加其他元件可以使用的配額，這也是系統(tǒng)功耗配比由用例決定的原因。
現(xiàn)代GPU非常復(fù)雜，嚴(yán)重依賴CPU運行驅(qū)動程序，以實現(xiàn)基于軟件與應(yīng)用程序進(jìn)行交互。多虧了Vulkan這樣的現(xiàn)代API，驅(qū)動程序的開銷下降了，但是CPU依然需要運行驅(qū)動程序，所以不能完全避免耗電。由于所有元件功耗預(yù)算共享，因此在CPU中使用的、用于GPU交互的功耗就是不能應(yīng)用于GPU本身的功耗。基于上述原因，降低CPU功耗勢在必行，不僅是為GPU發(fā)展掃清瓶頸，更是要為盡可能的提高GPU可用功耗鋪平道路。
與之類似，在運行復(fù)雜3D游戲的現(xiàn)代系統(tǒng)中，GPU會消耗大量DRAM帶寬。由于要處理大量數(shù)據(jù)（上述提及的Lofoten每幀處理600,000個三角），消耗帶寬責(zé)無旁貸，但DRAM的讀寫本身就是耗電的過程，也需要占用系統(tǒng)的總功耗預(yù)算。減少DRAM帶寬可以降低其功耗，并用于其他元件。
現(xiàn)代智能手機(jī)的設(shè)計和日益復(fù)雜的用例對GPU提出了前所未有的挑戰(zhàn)。下一章，我們將介紹ARM新一代GPU和GPU架構(gòu)是如何應(yīng)對這些挑戰(zhàn)的。
為下一代設(shè)備打造的Mali-G71
Mali-G71是ARM最新推出的高性能GPU，也是首款基于全新Bifrost架構(gòu)的GPU，性能和效率都獲得顯著提升。
Mali-G71是迄今為止ARM性能最高的GPU。為滿足現(xiàn)代用例所需性能，著色器核心數(shù)量從1擴(kuò)展至32，幫助芯片制造商根據(jù)目標(biāo)市場自主權(quán)衡性能和功耗。出于這個原因，我們認(rèn)為Mali-G71將在各類應(yīng)用中將大展拳腳。
如前文所述，智能手機(jī)的很多性能都受到散熱的限制，還有一些手機(jī)的限制因素則是成本，或者說是芯片尺寸。為了實現(xiàn)更高性，Mali-G71和Bifrost架構(gòu)同時升級了能源效率（單位瓦特性能）和性能密度（單位芯片面積性能），幫助功耗與散熱性能遭遇挑戰(zhàn)的芯片制造商實現(xiàn)更高的GPU性能。相似條件下，Mali-G71的能源效率相較Mali-T880最多可提高20%，性能密度最多可提高40%。此外，外部存儲消耗的總帶寬降低20%，進(jìn)一步減少整體系統(tǒng)功耗。
Bifrost架構(gòu)發(fā)展
為了進(jìn)一步說明Mali-G71為何具備遠(yuǎn)超歷代ARM GPU的性能，我們首先來探討一下GPU架構(gòu)本身，以及實現(xiàn)這些性能的設(shè)計方法。
Bifrost是ARM的第三代可編程的GPU架構(gòu)，其研發(fā)知識與經(jīng)驗傳承自Utgard和Midgard GPU架構(gòu)。
ARM的前兩代GPU架構(gòu)——Utgard和Midgard都取得了巨大成功。它們專為新興的移動GPU市場打造，無論出貨量還是內(nèi)部科技的運用都可圈可點。Utgard是ARM首款可編程GPU，支持GLES 2.x，片段著色器與頂點著色器相互獨立。Midgard則引入了統(tǒng)一著色器，支持GLES 3.x，并可與OpenCL 1.x Full Profile協(xié)同實現(xiàn)GPGPU運算。Midgard是一款前瞻性的GPU架構(gòu)，甚至包括了一些可以支持Vulkan的功能特性。考慮到這是5年前設(shè)計的架構(gòu)，就足以成為了不起的成就。
然而，隨著內(nèi)容和用例的改變，架構(gòu)本身也必須進(jìn)行根本性的升級，以適應(yīng)各類下一代用例。
從頂層設(shè)計看，與Midgard架構(gòu)相比，Bifrost的GPU內(nèi)核沒有明顯變化。表面上依然包括多個可擴(kuò)展的著色器核心、一個負(fù)責(zé)與驅(qū)動程序交互的任務(wù)管理器、一個負(fù)責(zé)處理內(nèi)存頁表的MMU以及一個tiler（Bifrost 仍然是一個 Tile based 渲染架構(gòu)），但全部模塊都獲得了顯著提升。
通過AMBA ACE或AXI-Lite與外界交互的L2子系統(tǒng)為支持AMBA 4 ACE專門設(shè)計，幫助Mali-G71徹底實現(xiàn)硬件一致性，并在GPU和CPU等其他單元之間實現(xiàn)了基于硬件的細(xì)粒數(shù)據(jù)透明共享。
我們對tiler做了重新設(shè)計，以支持一種全新的渲染流，即索引驅(qū)動的位置渲染。該技術(shù)的理念是將頂點著色分為兩部分以節(jié)省帶寬，因為無需讀寫屏幕上看不見的變化參數(shù)（varying）1；而且由于無需寫回不可見位置，帶寬可以得到進(jìn)一步節(jié)省。
著色器核心本身的變化更為巨大。ARM在Bifrost中引入全新指令集，根據(jù)大量的內(nèi)容和趨勢分析以及長年的行業(yè)經(jīng)驗開發(fā)。現(xiàn)代GPU的總體趨勢是執(zhí)行越來越多的復(fù)雜可編程著色器，通常通過算法完成并采用大量標(biāo)量代碼。作為全新引擎的一部分，Bifrost采用全新的算法單元，以極高的效率執(zhí)行高級著色器核心。它們更容易擴(kuò)展，如果未來需求有增加，該架構(gòu)也可以輕松應(yīng)對。
Bifrost的屬性（attribute）單元和變化參數(shù)單元相互獨立，這些操作在圖形處理中極為普遍，使用獨立的高度優(yōu)化硬件模塊更為合理。全新的指令集引入高效的四線程組以節(jié)省控制邏輯，并通過四線程組管理器將線程組切換至執(zhí)行引擎。我們還加入了一個控制架構(gòu)以提高物理利用率。如上文所述，此特性對現(xiàn)代工藝節(jié)點非常重要。
Bifrost引入了名為子句著色器的概念，專門用于處理執(zhí)行引擎內(nèi)部的布線密度問題。你可以將子句想象成一組連續(xù)自動執(zhí)行的指令，也就是說，一個子句的執(zhí)行不能被中斷，無論是分支（如分支只發(fā)生在子句邊界上）還是其他任何事件都無法中斷。這意味著子句是可以預(yù)測的，數(shù)據(jù)路徑周圍的控制邏輯變得更容易。比如說，你無需在子句內(nèi)部更新程序計數(shù)器，因為GPU知道它會在執(zhí)行前（或執(zhí)行后）根據(jù)子句內(nèi)部的指令數(shù)量向前推進(jìn)。
對CPU而言，這一行為并不可取，因為CPU必須迅速處理分支，而且分支的出現(xiàn)并不偶然。但恰恰相反，對GPU而言，該技術(shù)又可以進(jìn)一步優(yōu)化設(shè)計。請想象一組指令集正在經(jīng)過。連續(xù)的指令經(jīng)常使用上一條指令作為輸入（見下方一排中的多個ADD正在積累數(shù)據(jù)）。如果你經(jīng)常觀察到這一現(xiàn)象，而且你知道訪問暫存器組的代價非常高昂（因為這是一個巨大的存儲模塊），有一種方法來緩解這個問題，那就是巧妙地使用臨時寄存器來減少寄存器組的訪問量。由于寄存器是臨時的，數(shù)據(jù)只會在一個時鐘周期中保留，所以要想實現(xiàn)，子句必須確保在子句內(nèi)部原子執(zhí)行。
請參考下圖的簡單著色器程序，從指令集的角度了解子句著色器的工作原理。需要指出的是，這是開發(fā)者所看不到的，由編譯器完成的。
總結(jié)
通過對Bifrost架構(gòu)如何提高效率和性能的詳細(xì)解讀，我們可以清楚地了解Mali-G71具備哪些根本性的創(chuàng)新技術(shù)，以實現(xiàn)萬眾期待的GPU性能升級。通過支持全新的現(xiàn)代API（如Vulkan和OpenCL 2.0），Mali-G71有助于實現(xiàn)出色的新興應(yīng)用場景體驗。ARM將繼續(xù)研發(fā)Bifrost架構(gòu)，滿足下一代內(nèi)容的需求并超越行業(yè)期待。2016年，更多新技術(shù)將現(xiàn)身ARM Mali 多媒體組件。