隨著人工智能和元宇宙等對(duì)于高性能計(jì)算有強(qiáng)烈需求的應(yīng)用逐漸成為半導(dǎo)體行業(yè)的新市場(chǎng)驅(qū)動(dòng)，內(nèi)存的性能發(fā)展也成了這些應(yīng)用的重要支撐，這也成為內(nèi)存行業(yè)繼續(xù)大力投入新技術(shù)發(fā)展的重要?jiǎng)恿Α?/p>

　　在這些高性能計(jì)算系統(tǒng)中，內(nèi)存帶寬和容量將決定計(jì)算性能（例如人工智能算法中需要的大容量神經(jīng)網(wǎng)絡(luò)模型計(jì)算，以及元宇宙應(yīng)用中的高性能渲染技術(shù)），這也就是高性能計(jì)算領(lǐng)域人們常常提及的“內(nèi)存墻”。在許多高性能計(jì)算應(yīng)用中，事實(shí)上邏輯計(jì)算并非整個(gè)系統(tǒng)的瓶頸，而數(shù)據(jù)存取才是整個(gè)系統(tǒng)速度的決定性因素。一方面，內(nèi)存芯片技術(shù)需要進(jìn)一步提升帶寬和容量，而另一方面則需要在設(shè)計(jì)整體系統(tǒng)時(shí)，確保有高效的內(nèi)存存取機(jī)制，從而打破內(nèi)存墻的限制，進(jìn)一步提升高性能計(jì)算的性能。

　　上周，三星召開了2022年技術(shù)發(fā)布會(huì)（Tech Day 2022），其中發(fā)布了三星在未來幾年內(nèi)的內(nèi)存技術(shù)發(fā)展路線圖。從中，我們認(rèn)為其對(duì)于內(nèi)存發(fā)展的主題圍繞著“更快，更大，更智能”幾個(gè)方向，這也與前面所討論的高性能計(jì)算對(duì)于內(nèi)存的需求相吻合。由于三星是內(nèi)存芯片領(lǐng)域的領(lǐng)導(dǎo)者，我們認(rèn)為它公布的路線圖將會(huì)很大程度上反映整體內(nèi)存芯片行業(yè)的發(fā)展動(dòng)向。

　　更快：新內(nèi)存接口將成為突破內(nèi)存墻的主力

　　內(nèi)存接口決定了整體系統(tǒng)可以以多快的速度存取內(nèi)存里面的數(shù)據(jù)，因此也是決定了整體系統(tǒng)性能的重要因素。隨著新一代內(nèi)存接口的問世，高性能計(jì)算系統(tǒng)的性能也可望得到進(jìn)一步提升。

　　在三星公布的內(nèi)存接口路線圖中，我們可以看到涵蓋不同領(lǐng)域的內(nèi)存接口演進(jìn)的速度。首先，在云端高性能服務(wù)器領(lǐng)域，HBM已經(jīng)成為了高端GPU的標(biāo)配，這也是三星在重點(diǎn)投資的領(lǐng)域之一。HBM的特點(diǎn)是使用高級(jí)封裝技術(shù)，使用多層堆疊實(shí)現(xiàn)超高IO接口寬度，同時(shí)配合較高速的接口傳輸速率，從而實(shí)現(xiàn)高能效比的超高帶寬。

　　在三星發(fā)布的路線圖中，2022年HBM3技術(shù)已經(jīng)量產(chǎn)，其單芯片接口寬度可達(dá)1024 bit，接口傳輸速率可達(dá)6.4 Gbps，相比上一代提升1.8倍，從而實(shí)現(xiàn)單芯片接口帶寬819 GB/s，如果使用6層堆疊可以實(shí)現(xiàn)4.8 TB/s的總帶寬。而在三星公布的路線圖上，2024年預(yù)計(jì)將實(shí)現(xiàn)接口速度高達(dá)7.2 Gbps的HBM3p，從而將數(shù)據(jù)傳輸率相比這一代進(jìn)一步提升10%，從而將堆疊的總帶寬提升到5 TB/s以上。另外，這里的計(jì)算還沒有考慮到高級(jí)封裝技術(shù)帶來的高多層堆疊和內(nèi)存寬度提升，我們預(yù)計(jì)到時(shí)候單芯片和堆疊芯片到2024年HBM3p都將實(shí)現(xiàn)更多的總帶寬提升。而這也將會(huì)成為人工智能應(yīng)用的重要推動(dòng)力，我們預(yù)計(jì)在2025年之后的新一代云端旗艦GPU中看到HBM3p的使用，從而進(jìn)一步加強(qiáng)云端人工智能的算力。

　　除了HBM之外，在桌面和移動(dòng)應(yīng)用中，渲染也正在成為元宇宙相關(guān)應(yīng)用的重要支柱。例如，在虛擬現(xiàn)實(shí)應(yīng)用中，為了實(shí)現(xiàn)沉浸感，對(duì)于圖像渲染的需求越來越強(qiáng)。高端虛擬現(xiàn)實(shí)設(shè)備會(huì)使用桌面級(jí)GPU做渲染，并且將渲染的圖像通過串流傳回虛擬現(xiàn)實(shí)設(shè)備中，而目前最流行的虛擬現(xiàn)實(shí)一體機(jī)則會(huì)需要使用移動(dòng)級(jí)GPU在一體機(jī)中直接做圖像渲染。這些應(yīng)用都需要越來越大的顯存帶寬，而三星這次發(fā)布的GDDR7（針對(duì)桌面級(jí)應(yīng)用）和LPDDR5X（針對(duì)移動(dòng)級(jí)應(yīng)用）都是針對(duì)這些應(yīng)用的重要技術(shù)支柱。其中LPDDR5X的IO數(shù)據(jù)率可達(dá)8.5 Gbps，比之前LPDDR5（6.4 Gbps）提升30%，而GDDR7的IO速率可達(dá)36 Gbps，是之前GDDR6的兩倍。

　　總體來說，這次三星從內(nèi)存接口角度公布的路線圖顯示了從“更快”的角度，三星將進(jìn)一步成為內(nèi)存業(yè)界的領(lǐng)跑者之一，從而為半導(dǎo)體行業(yè)的進(jìn)一步賦能人工智能和元宇宙等下一代應(yīng)用提供支持。

　　更大：芯片和系統(tǒng)級(jí)創(chuàng)新將成為更大內(nèi)存系統(tǒng)的關(guān)鍵

　　隨著人工智能技術(shù)的演進(jìn)，神經(jīng)網(wǎng)絡(luò)模型的參數(shù)也在越來越多（今年已經(jīng)全面走向十億級(jí)參數(shù)規(guī)模，未來幾年預(yù)期將進(jìn)一步實(shí)現(xiàn)數(shù)量級(jí)上的提升），而計(jì)算中需要使用的中間結(jié)果存儲(chǔ)需求也對(duì)DRAM的容量提出新的需求。

　　為了滿足這樣對(duì)于存儲(chǔ)容量的需求，我們同時(shí)需要芯片級(jí)和系統(tǒng)級(jí)的解決方案。在芯片層面，三星給出的答案是新一代使用1b（12 nm）特征尺寸生產(chǎn)的DRAM，從而實(shí)現(xiàn)更大的集成度。三星宣布1b DRAM將會(huì)在2023年量產(chǎn)，這也意味著三星在DRAM領(lǐng)域進(jìn)一步鞏固自己領(lǐng)先的地位。

　　除了芯片級(jí)方案之外，系統(tǒng)級(jí)方案也是增加內(nèi)存容量的重要方向。例如，在云端服務(wù)器市場(chǎng)，使用CXL技術(shù)做內(nèi)存擴(kuò)展就是一個(gè)很有潛力的方向。使用CXL做內(nèi)存擴(kuò)展的原理是把大量DRAM芯片集成在同一張內(nèi)存擴(kuò)展卡里，然后使用CXL主控芯片使用CXL協(xié)議接入高速接口中（PCIe），從而可以供系統(tǒng)直接使用，而無需占用DRAM插槽和接口，以起到內(nèi)存容量擴(kuò)展的作用。

　　今年早些時(shí)候，三星公布了自己基于CXL內(nèi)存擴(kuò)展技術(shù)的最新結(jié)果，其中使用了為了CXL專門開發(fā)的ASIC主控芯片，并且在機(jī)器學(xué)習(xí)等重要應(yīng)用中取得了和使用傳統(tǒng)DDR內(nèi)存接口幾乎一樣的性能，從而表明使用CXL做DRAM容量擴(kuò)展從性能而言將是一個(gè)可行的技術(shù)方案，目前主要需要解決的是成本方面的考量，從而讓該技術(shù)進(jìn)一步得到應(yīng)用。

　　三星這次也公布了自己在CXL領(lǐng)域的持續(xù)投資，未來我們預(yù)計(jì)將看到更多CXL內(nèi)存擴(kuò)展方面的產(chǎn)品。我們預(yù)計(jì)，CXL首先會(huì)在對(duì)于內(nèi)存容量有巨大需求且對(duì)于性能有強(qiáng)烈需求的應(yīng)用中（例如超大規(guī)模神經(jīng)網(wǎng)絡(luò)模型）開始得到使用，并且在未來越來越多地?cái)U(kuò)展到其他應(yīng)用中去。

　　更智能：存內(nèi)計(jì)算可望成為下一代內(nèi)存新范式

　　除了在更大和更快兩方面有提升之外，三星另一個(gè)布局方向是智能化DRAM，即針對(duì)機(jī)器學(xué)習(xí)和人工智能等應(yīng)用使用存內(nèi)計(jì)算和近內(nèi)存計(jì)算這樣的新技術(shù)。

　　三星主要的存內(nèi)計(jì)算技術(shù)稱為HBM-PIM，其中PIM即存內(nèi)計(jì)算（process in memory）的縮寫。其具體原理是在HBM內(nèi)存中直接集成計(jì)算單元。傳統(tǒng)的計(jì)算過程中，首先會(huì)從內(nèi)存中讀出數(shù)據(jù)，然后在其他芯片中的計(jì)算單元中做計(jì)算，然后把結(jié)果寫回內(nèi)存。而在HBM-PIM中，三星的技術(shù)路徑是在給DRAM的指令不僅僅是讀取和寫入，也可以直接是計(jì)算，例如可以給“寫入數(shù)據(jù)A同時(shí)將該數(shù)據(jù)和B相加”，這樣在下次讀出時(shí)，直接就得到已經(jīng)計(jì)算過的數(shù)據(jù)，而無需再次讀出并做計(jì)算。這樣就節(jié)省了大量額外的數(shù)據(jù)移動(dòng)開銷，能實(shí)現(xiàn)更好的延遲和能效比。目前，三星已經(jīng)在HBM2的DRAM中完成了第一代HBM-PIM的開發(fā)（Aquabolt），而在三星公布的路線圖中，我們也看到了HBM3-PIM列上了日程，預(yù)計(jì)在2024年完成開發(fā)。

　　除了存內(nèi)計(jì)算之外，另一種技術(shù)方案是在DRAM旁邊直接集成加速器邏輯以降低訪問內(nèi)存的開銷，這樣的技術(shù)三星稱為AXDIMM（accelerator DIMM），在三星公布的路線圖上預(yù)計(jì)2024-2025年完成開發(fā)。

　　我們認(rèn)為，三星在智能化DRAM方面的布局從長(zhǎng)遠(yuǎn)來看將會(huì)對(duì)內(nèi)存技術(shù)和市場(chǎng)格局有深遠(yuǎn)影響，未來隨著機(jī)器學(xué)習(xí)等應(yīng)用對(duì)于內(nèi)存訪問提出進(jìn)一步需求，我們認(rèn)為這樣的技術(shù)將有機(jī)會(huì)獲得主流系統(tǒng)廠商越來越多的應(yīng)用。

　　結(jié)語

　　隨著人工智能等應(yīng)用的演進(jìn)，DRAM的未來發(fā)展也正在向賦能這類下一代應(yīng)用的方向靠攏。從三星公布的路線圖來看，未來的DRAM技術(shù)發(fā)展除了進(jìn)一步提升DRAM芯片的容量和接口速度之外，還有在系統(tǒng)層面的革新方向（包括CXL內(nèi)存擴(kuò)展以及存內(nèi)計(jì)算/近內(nèi)存計(jì)算等智能化DRAM），DRAM技術(shù)的演進(jìn)將會(huì)帶給芯片和系統(tǒng)廠商越來越多的技術(shù)創(chuàng)新機(jī)會(huì)，而這些創(chuàng)新將會(huì)進(jìn)一步推動(dòng)新應(yīng)用和新場(chǎng)景的出現(xiàn)，從而讓整個(gè)領(lǐng)域進(jìn)一步發(fā)展。

　更多信息可以來這里獲取==>>電子技術(shù)應(yīng)用-AET<<