我們?yōu)槭裁葱枰邔哟尉C合
高層次綜合（High-level Synthesis）簡稱HLS，指的是將高層次語言描述的邏輯結(jié)構(gòu)，自動轉(zhuǎn)換成低抽象級語言描述的電路模型的過程。所謂的高層次語言，包括C、C++、SystemC等，通常有著較高的抽象度，并且往往不具有時鐘或時序的概念。相比之下，諸如Verilog、VHDL、SystemVerilog等低層次語言，通常用來描述時鐘周期精確（cycle-accurate）的寄存器傳輸級電路模型，這也是當(dāng)前ASIC或FPGA設(shè)計最為普遍使用的電路建模和描述方法。
然而，HLS技術(shù)在近十年來獲得了大量的關(guān)注和飛速的發(fā)展，尤其是在FPGA領(lǐng)域?？v觀近年來各大FPGA學(xué)術(shù)會議，HLS一直是學(xué)術(shù)界和工業(yè)界研究最集中的領(lǐng)域之一。究其原因，主要有以下幾點(diǎn)。
第一，使用更高的抽象層次對電路建模，是集成電路設(shè)計發(fā)展的必然選擇。集成電路伴隨摩爾定律發(fā)展至今，其復(fù)雜性已經(jīng)逐漸超過人類可以手工管理的范疇。例如，蘋果iPhone11內(nèi)置的A13芯片，就有著約85億支晶體管。
?。▓D片來自Stephen Shankland/CNET）
然而，根據(jù)NEC 2004年發(fā)布的研究，一個擁有100萬邏輯門的芯片設(shè)計通常需要編寫30萬行RTL代碼。因此，完全使用RTL級的邏輯抽象設(shè)計當(dāng)代芯片是不現(xiàn)實(shí)的，并將對設(shè)計、驗(yàn)證、集成等各個環(huán)節(jié)造成巨大的壓力。
相比之下，使用諸如C、C++等高層語言對系統(tǒng)建模，可以將代碼密度壓縮7到10倍，這極大的緩解了設(shè)計復(fù)雜度。
第二，高層語言能促進(jìn)IP重用的效率。傳統(tǒng)的基于RTL的IP往往需要定義固定的架構(gòu)和接口標(biāo)準(zhǔn)，在IP重用時需要花費(fèi)大量時間進(jìn)行系統(tǒng)互聯(lián)和接口驗(yàn)證。相比之下，高層語言隱藏了這些要求，轉(zhuǎn)而由HLS工具負(fù)責(zé)具體實(shí)現(xiàn)。
對于FPGA而言，現(xiàn)代FPGA里有著大量成熟的IP單元，如嵌入式存儲器、算術(shù)運(yùn)算單元、嵌入式處理器，以及最近逐漸興起的AI加速器、片上網(wǎng)絡(luò)系統(tǒng)等等。這些FPGA IP有著固定的功能和位置，因此可以被HLS工具充分利用，在提升IP重用效率的同時，簡化綜合算法、提高綜合后電路的性能。
第三，HLS能幫助軟件和算法工程師參與、甚至主導(dǎo)芯片或FPGA設(shè)計。這是由于HLS工具能封裝和隱藏硬件的實(shí)現(xiàn)細(xì)節(jié)，從而使軟件和工程師能專注于上層算法的實(shí)現(xiàn)。對于硬件工程師而言，HLS也能幫助他們進(jìn)行快速的設(shè)計迭代，并專注于對性能、面積或功耗敏感的模塊和子系統(tǒng)的優(yōu)化設(shè)計。
FPGA高層次綜合的前世今生
伴隨集成電路的復(fù)雜性的飛速增長，芯片設(shè)計方法學(xué)也在不斷演進(jìn)。早在FPGA出現(xiàn)之前，人們就已經(jīng)開始嘗試擺脫依靠人工檢視芯片版圖的設(shè)計方法，轉(zhuǎn)而探索使用高層語言對電路邏輯進(jìn)行行為級描述，并通過自動化工具將電路模型轉(zhuǎn)化為實(shí)際的電路設(shè)計。
在上世紀(jì)八九十年代，面向集成電路設(shè)計的HLS工具就已經(jīng)是學(xué)術(shù)界研究的熱點(diǎn)。這其中比較有代表性的工作，包括卡耐基梅隆大學(xué)的CMU-DA（design automation）工具，以及加拿大卡爾頓大學(xué)提出的force-directed調(diào)度算法等等。
從現(xiàn)在看來，這些工作為當(dāng)前的電路綜合算法打下了基礎(chǔ)，并為后來HLS研究提供了很多寶貴的經(jīng)驗(yàn)和借鑒。然而，這個階段的HLS工作在成果轉(zhuǎn)化方面十分失敗，并未有效的轉(zhuǎn)化成工業(yè)實(shí)踐。一個最主要的原因，就在于“在錯誤的時間，遇上了對的人”。
當(dāng)時正值摩爾定律蓬勃興起的時期，集成電路設(shè)計正在經(jīng)歷史上最大的變革。在后端，自動布局布線已經(jīng)逐漸成為主流；在前端，RTL綜合也在逐漸興起。傳統(tǒng)電路設(shè)計工程師都紛紛開始采用基于RTL的電路建模方法，取代傳統(tǒng)的基于原理圖和版圖的設(shè)計，并由此帶來RTL綜合工具的飛速發(fā)展。相比之下，這個階段的HLS研究往往使用了特殊的編程語言，如CMU-DA采用的名為“ISPS”的語言，因此很難獲得那些正在和RTL處于“蜜月期”的工程師們的青睞。
伴隨著一段時間的沉寂，HLS在2000年之后再次開始獲得學(xué)術(shù)界和工業(yè)界的關(guān)注，比較有名的工具包括Bluespec和AutoPilot等。主導(dǎo)這一變化的主要原因是，HLS工具開始將C/C++作為主要的目標(biāo)語言，從而被很多不了解RTL的系統(tǒng)和算法工程師所逐漸接受。同時，HLS工具綜合生成的結(jié)果也有了長足進(jìn)步，在某些應(yīng)用領(lǐng)域甚至可以和人工手寫RTL近似的性能水平。
此外，F(xiàn)PGA的逐漸興起也對HLS的發(fā)展起到了重要的助推作用。和ASIC設(shè)計不同，F(xiàn)PGA有著固定數(shù)量的片上邏輯資源。因此HLS工具不用過度糾結(jié)于ASIC設(shè)計中面積、性能和功耗的絕對優(yōu)化，而只需要將設(shè)計合理的映射到FPGA的固定架構(gòu)上即可。這樣，HLS就成為了在FPGA上快速實(shí)現(xiàn)目標(biāo)算法的絕佳方式。
時至今日，高層次綜合技術(shù)取得了進(jìn)一步的發(fā)展。大型FPGA公司都推出了各自的HLS工具，如賽靈思的Vivado HLS和英特爾的HLS編譯器、OpenCL SDK等。在學(xué)術(shù)界也有諸多成果涌現(xiàn)，如多倫多大學(xué)的LegUp等等。
接下來，老石將以AutoPilot這個HLS工具為例，簡單介紹高層次綜合的主要工作原理。
高層次綜合的主要工作原理
AutoESL公司的AutoPilot工具，可以說是HLS領(lǐng)域最為成功的學(xué)術(shù)成果轉(zhuǎn)化案例。AutoPilot源自于UCLA叢京生教授主導(dǎo)的xPilot項目，從隨后與當(dāng)時負(fù)責(zé)該課題的博士生張志如（現(xiàn)任康奈爾大學(xué)副教授）一起創(chuàng)辦了AutoESL公司，并在2011年被賽靈思收購，成為了之后的Vivado HLS。
AutoPilot的工作流程框圖如下圖所示。在前端，它使用了基于LLVM的編譯器架構(gòu)，能夠處理可綜合的ANSI C、C++，以及OSCI SystemC等語言編寫的模型。這個名為llvm-gcc的前端編譯器會將高層語言模型轉(zhuǎn)換為中間表達(dá)式（IR），并進(jìn)行一系列針對代碼復(fù)雜度、冗余、并行性等方面的代碼優(yōu)化。然后再根據(jù)具體的硬件平臺，綜合生成RTL代碼、驗(yàn)證與仿真環(huán)境，以及必須的時序和布局約束等。
AutoPilot的成功之處在于，它的HLS結(jié)果在某些應(yīng)用領(lǐng)域完勝人工優(yōu)化RTL取得的結(jié)果。例如，在一個無線MIMO系統(tǒng)中使用的Sphere解碼器IP中，AutoPilot將4000行C代碼算法成功綜合到Virtex5 FPGA上，運(yùn)行在225MHz，并取得了比賽靈思Sphere解碼器IP更少的邏輯資源使用量，見下圖。這個結(jié)果放在現(xiàn)在也令人十分震撼，它很好的證明了HLS有潛力取得比RTL IP更為出色的性能。
獲取有關(guān)AutoPilot的更多技術(shù)細(xì)節(jié)和論文內(nèi)容，請在老石談芯公眾號后臺回復(fù)“HLS”或“高層次綜合”。
高層次綜合工具常用的優(yōu)化方法
傳統(tǒng)的處理器編譯器設(shè)計通常只有一個主要目標(biāo)，那就是盡量提升性能。相比之下，高層次綜合工具需要統(tǒng)籌考慮各種電路設(shè)計的主要指標(biāo)，如性能、功耗、面積等等，同時也要兼顧工具本身的性能，比如占用的資源和運(yùn)行時間等。因此，在開發(fā)HLS工具時，要額外考慮和采用更多的優(yōu)化方法，而這些優(yōu)化方法也是當(dāng)今學(xué)術(shù)界和工業(yè)界在HLS領(lǐng)域重點(diǎn)研究的方向?？偟膩碚f，HLS工具的主流優(yōu)化方法有以下幾種。
01
字長分析和優(yōu)化
FPGA的一個最主要特點(diǎn)就是可以使用任意字長的數(shù)據(jù)通路和運(yùn)算。因此，F(xiàn)PGA的HLS工具不需要拘泥于某種固定長度（如常見的32位或64位）的表達(dá)方式，而可以對設(shè)計進(jìn)行全局或局部的字長優(yōu)化，從而達(dá)到性能提升和面積縮減的雙重效果。
然而，字長分析和優(yōu)化需要HLS的使用者對待綜合的算法和數(shù)據(jù)集有深入的了解，這也是限制這種優(yōu)化方式廣泛使用的主要因素之一。
02
循環(huán)優(yōu)化
循環(huán)優(yōu)化一直是HLS優(yōu)化方法的研究重點(diǎn)和熱點(diǎn)，因?yàn)檫@是將原本順序執(zhí)行的高層軟件循環(huán)有效映射到并行執(zhí)行的硬件架構(gòu)的重點(diǎn)環(huán)節(jié)。
循環(huán)優(yōu)化的最終目的，就是盡量將循環(huán)里兩次相鄰的操作以最小的時延實(shí)現(xiàn)，理想情況下，相鄰的循環(huán)操作可以完全并行執(zhí)行。然而，由于硬件資源的限制，以及更多的是因?yàn)檠h(huán)間存在嵌套和依賴關(guān)系，很難將循環(huán)完全展開。如何優(yōu)化各種循環(huán)，以實(shí)現(xiàn)最優(yōu)的硬件結(jié)構(gòu)，就成為了學(xué)術(shù)界和工業(yè)界最為關(guān)心的要點(diǎn)。
一個流行的循環(huán)優(yōu)化方法，就是所謂的多面體模型，即Polyhedral Model。多面體模型的應(yīng)用非常廣泛，在HLS里主要被用來將循環(huán)語句以空間多面體表示（見下圖），然后根據(jù)邊界約束和依賴關(guān)系，通過幾何操作進(jìn)行語句調(diào)度，從而實(shí)現(xiàn)循環(huán)的變換。
關(guān)于多面體模型的細(xì)節(jié)，本文不再展開，有興趣的讀者可以在公眾號后臺回復(fù)“HLS”或“高層次綜合”獲取更多相關(guān)信息。需要指出的是，多面體模型在FPGA HLS里已經(jīng)取得了相當(dāng)?shù)某晒Γ芏嘌芯烤C明多面體模型可以幫助實(shí)現(xiàn)性能和面積的優(yōu)化，同時也能幫助提升FPGA片上內(nèi)存的使用效率。
03
對軟件并行性的支持
C/C++與RTL相比，一個主要的區(qū)別是，前者編寫的程序被設(shè)計用來在處理器上順序執(zhí)行，而后者可以通過直接例化多個運(yùn)算單元，實(shí)現(xiàn)任務(wù)的并行處理。隨著處理器對并行性的逐步支持，以及如GPU等非處理器芯片的興起，C/C++開始逐漸引入對并行性的支持。例如，出現(xiàn)了pthreads和OpenMP等多線程并行編程方法，以及OpenCL等針對GPU等異構(gòu)系統(tǒng)進(jìn)行并行編程的C語言擴(kuò)展。
因此作為HLS工具，勢必要增加對這些軟件并行性的支持。例如，LegUp就整合了度pthreads和OpenMP的支持，從而可以實(shí)現(xiàn)任務(wù)和數(shù)據(jù)層面的并行性。
獲取有關(guān)LegUp的更多技術(shù)細(xì)節(jié)和論文內(nèi)容，請在老石談芯公眾號后臺回復(fù)“HLS”或“高層次綜合”。
另外，Altera在被英特爾收購之前就已經(jīng)推出了OpenCL SDK，可以將OpenCL進(jìn)行高層次綜合，并生成FPGA電路邏輯與CPU代碼兩部分，從而實(shí)現(xiàn)FPGA作為硬件加速模塊的快速開發(fā)。
高層次綜合的發(fā)展前景
HLS經(jīng)過十?dāng)?shù)年的發(fā)展，雖然有諸如AutoPilot、OpenCL SDK等FPGA HLS商業(yè)化成功的案例出現(xiàn)，但距離其完全替代人工RTL建模還有很長的路要走。
比如，對于FPGA而言，內(nèi)存瓶頸一直是制約系統(tǒng)性能的重要因素。除片上的各類BRAM之外，還有各類片外存儲單元，如DDR、QDR，以及近年興起的HBM等等。因此，有效利用片上和片外各類存儲單元一直是HLS的研究熱點(diǎn)。
此外，HLS的仿真和調(diào)試也需要進(jìn)一步探索。一方面，需要形式化方法證明HLS生成的RTL代碼與高層次代碼等效；另一方面，當(dāng)需要進(jìn)行軟硬件分別和協(xié)同仿真、調(diào)試時，HLS工具要提供相關(guān)的測試環(huán)境、用例、腳本、調(diào)試方法等。當(dāng)硬件出現(xiàn)問題時，如何向上調(diào)試軟件中的漏洞，也需要方法論的支持。
近年來，越來越多的研究開始專注于特定領(lǐng)域（domain specific）的編程語言和對應(yīng)的HLS，比如在之前文章中介紹過的P4，就是針對網(wǎng)絡(luò)數(shù)據(jù)包領(lǐng)域的高層編程語言。隨著人工智能的發(fā)展，也出現(xiàn)了針對AI應(yīng)用的Python HLS。通過使用特定領(lǐng)域的HLS，可以進(jìn)一步對工具進(jìn)行領(lǐng)域的針對性優(yōu)化，也能大幅提升系統(tǒng)性能、減少面積和功耗。
結(jié)語
業(yè)界普遍認(rèn)為，GPU之所以在人工智能時代取得了非凡成功，很大程度上得益于對軟件和算法工程師友好的編程語言和環(huán)境。與之相比，F(xiàn)PGA雖然也在不斷擴(kuò)展自己的應(yīng)用范圍，并在性能和功耗上相比GPU有著明顯優(yōu)勢，其編程模型還是以硬件工程師進(jìn)行RTL開發(fā)為主。
老石認(rèn)為，F(xiàn)PGA的高層次綜合是業(yè)界發(fā)展的必然趨勢。相信隨著HLS領(lǐng)域的難題不斷被攻破，使用高層語言對FPGA進(jìn)行高效編程也必然會實(shí)現(xiàn)，而這也將最終成為FPGA更廣泛應(yīng)用的最后一塊拼圖。