芯東西4月14日消息，美國(guó)明星AI芯片獨(dú)角獸SambaNova Systems最新宣布D輪融資6.76億美元（折合44億人民幣），由軟銀愿景基金2領(lǐng)投，英特爾資本、谷歌風(fēng)投、華登國(guó)際等參投。
至此，該公司估值超過(guò)50億美元（折合327億人民幣），成為全球估值最高的人工智能（AI）創(chuàng)企之一。
這家脫胎于斯坦福大學(xué)的AI芯片創(chuàng)企，長(zhǎng)期受到知名投資者的青睞，英特爾資本、谷歌風(fēng)投、華登國(guó)際、貝萊德、紅鏈資本等均曾參與其多輪融資。截至當(dāng)前，SambaNova Systems累計(jì)融資已達(dá)11.32億美元。
就在去年12月，這家創(chuàng)企一舉推出其最重磅的軟硬件集成平臺(tái)SambaNova DataScale，擁有TB級(jí)內(nèi)存容量和數(shù)百萬(wàn)PetaFLOPS低延遲互連計(jì)算能力，能處理大量復(fù)雜的數(shù)據(jù)模型。
美國(guó)阿貢國(guó)家實(shí)驗(yàn)室、美國(guó)能源部旗下國(guó)家核安全管理局（NNSA）、勞倫斯利弗莫爾國(guó)家實(shí)驗(yàn)室（LLNL）、洛斯阿拉莫斯國(guó)家實(shí)驗(yàn)室（LANL）均已應(yīng)用DataScale來(lái)加速AI計(jì)算研究。
01.
甲骨文元老、斯坦福教授聯(lián)合創(chuàng)立
華登國(guó)際董事長(zhǎng)兼任董事會(huì)主席
這家初創(chuàng)公司專(zhuān)注于開(kāi)發(fā)處理AI工作負(fù)載的基礎(chǔ)設(shè)施，總部位于加州帕洛阿爾托，由甲骨文和Sun Microsystems公司的元老Rodrigo Liang、斯坦福大學(xué)教授Kunle Olukotun、Chris Ré于2017年成立，提供從數(shù)據(jù)中心到邊緣運(yùn)行AI和數(shù)據(jù)密集型應(yīng)用的系統(tǒng)。
Liang擔(dān)任SambaNova的首席執(zhí)行官，Olukotun任首席技術(shù)專(zhuān)家，華登國(guó)際創(chuàng)始人兼董事長(zhǎng)、EDA軟件巨頭Cadence CEO陳立武同時(shí)也是SambaNova董事長(zhǎng)。
▲SambaNova創(chuàng)始人合影，左-Kunle Olukotun，中-Rodrigo Liang，右-Chris Ré
Olukotun被稱(chēng)為“多核處理器之父”，最近獲得了IEEE計(jì)算機(jī)協(xié)會(huì)的哈里·H·古德紀(jì)念獎(jiǎng)（Harry H. Goode Memorial Award）。
他是斯坦福Hydra芯片多處理器（CMP）研究項(xiàng)目的負(fù)責(zé)人，這個(gè)項(xiàng)目研發(fā)了一種芯片設(shè)計(jì)，將四個(gè)專(zhuān)用處理器和它們的緩存與共享的二級(jí)緩存相匹配。
Ré是斯坦福大學(xué)信息實(shí)驗(yàn)室計(jì)算機(jī)科學(xué)系的副教授，也是美國(guó)跨領(lǐng)域最高獎(jiǎng)項(xiàng)之一——麥克阿瑟天才獎(jiǎng)（MacArthur genius award）的獲得者，他還隸屬于斯坦福統(tǒng)計(jì)機(jī)器學(xué)習(xí)小組（Statistical Machine Learning Group）、普適并行實(shí)驗(yàn)室（Pervasive Parallelism Lab）和斯坦福AI實(shí)驗(yàn)室。
▲SambaNova董事會(huì)成員
02.
自研可重構(gòu)數(shù)據(jù)流單元
400億晶體管、臺(tái)積電7nm制程
SambaNova的AI芯片與其客戶(hù)很大程度上仍在保密狀態(tài)，但該公司此前透露，受DARPA資助的高效AI處理研究啟發(fā)，他們正在開(kāi)發(fā)“軟件定義”設(shè)備。
通過(guò)算法優(yōu)化和自定義硬件結(jié)合，SambaNova聲稱(chēng)能顯著提高大多數(shù)AI應(yīng)用的性能和能力。該公司聯(lián)合創(chuàng)始人兼CEO Rodrigo Liang分享道，SambaNova并沒(méi)有采用市面上主流的Arm和x86架構(gòu)，而是自主研發(fā)了芯片架構(gòu)。
SambaNova研發(fā)的可重構(gòu)數(shù)據(jù)流單元Cardinal SN10 RDU包含400億晶體管，采用臺(tái)積電7nm制程，由一系列可重構(gòu)節(jié)點(diǎn)組成，用于數(shù)據(jù)、存儲(chǔ)和交換。
Rodrigo Liang提到，為規(guī)避芯片短缺可能帶來(lái)的不利影響，SambaNova于去年早些時(shí)候進(jìn)行投資，以確保獲得臺(tái)積電的產(chǎn)能。
每個(gè)Cardinal芯片有6個(gè)內(nèi)存控制器，支持153GB/s帶寬， 8個(gè)芯片以全對(duì)全配置連接，最后一點(diǎn)是通過(guò)允許芯片擴(kuò)展的交換網(wǎng)絡(luò)實(shí)現(xiàn)的。
SambaNova并不是單獨(dú)出售Cardinal，而是將其作為一種安裝在數(shù)據(jù)中心的解決方案。
2020年12月，SambaNova Systems宣布SambaNova Systems DataScale正式可用，DataScale基于可重構(gòu)數(shù)據(jù)流架構(gòu)（RDA），是一個(gè)完全集成的軟件和硬件平臺(tái)，可針對(duì)從算法到芯片的數(shù)據(jù)流進(jìn)行優(yōu)化，包含SambaFlow軟件棧和8個(gè)可重構(gòu)數(shù)據(jù)流單元Cardinal SN10 RDU。每個(gè)RDU都能支持無(wú)縫并行處理大型模型，使企業(yè)能夠比當(dāng)今最先進(jìn)的解決方案更快地將新的服務(wù)和產(chǎn)品推向市場(chǎng)。
SambaNova提供的基本單元被稱(chēng)為DataScale SN10-8R ，配備了一個(gè)AMD處理器，搭配8個(gè)Cardinal芯片和12 TB的DDR 4內(nèi)存，或每個(gè)Cardinal芯片1.5TB。
▲SambaNova DataScale SN10-8R運(yùn)行工作負(fù)載的效果
03.
對(duì)標(biāo)NVIDIA
4個(gè)關(guān)鍵領(lǐng)域性能破紀(jì)錄
SambaNova Systems DataScale專(zhuān)為高效的深度學(xué)習(xí)推理和訓(xùn)練而設(shè)計(jì)，相比最新NVIDIA旗艦A100 GPU，DataScale在四個(gè)關(guān)鍵領(lǐng)域?qū)崿F(xiàn)破紀(jì)錄的多機(jī)架規(guī)模性能指標(biāo)：
（1）性能：DLRM推理的吞吐量比A100高7倍，延遲只有A100的1/7；BERT-Large訓(xùn)練速度比DGX A100系統(tǒng)快1.4倍。
（2）精度：與DGX A100系統(tǒng)相比，其高分辨率計(jì)算機(jī)視覺(jué)的精度達(dá)90.23%；與NVIDIA A100 GPU相比，其DLRM推薦引擎的精度達(dá)80.46%。
（3）規(guī)模：以多機(jī)架規(guī)模打破BERT-Large訓(xùn)練和精度的記錄。
（4）易用性：從加載dock到數(shù)據(jù)中心，DataScale可以在45分鐘內(nèi)快速輕松地集成到任何運(yùn)行客戶(hù)工作負(fù)載的現(xiàn)有基礎(chǔ)設(shè)施中，數(shù)秒內(nèi)即可在DataScale上以先進(jìn)精度下載數(shù)千個(gè)預(yù)訓(xùn)練的Hugging Face Transformer模型，無(wú)需更改代碼。
在軟件方面，SambaNova有自己的圖形優(yōu)化器和編譯器，使用TensorFlow、PyTorch等其他機(jī)器學(xué)習(xí)框架的客戶(hù)可以用這些工具為Cardinal重新編譯工作負(fù)載。
SambaNova的目標(biāo)是支持包含超過(guò)1000億參數(shù)的自然語(yǔ)言處理、高分辨率計(jì)算機(jī)視覺(jué)和推薦模型，并提供更大的內(nèi)存占用和更高的準(zhǔn)確性。
與新的SN10-8R產(chǎn)品一起，SambaNova將提供兩種類(lèi)似云的服務(wù)選項(xiàng)：
第一種是SambaNova AI云平臺(tái)，允許研究機(jī)構(gòu)能免費(fèi)訪問(wèn)和使用SambaNova的硬件資源；
第二種是業(yè)界首個(gè)數(shù)據(jù)流即服務(wù)（DataFlow as a Service），面向想要靈活的云服務(wù)而無(wú)需為硬件付費(fèi)的商業(yè)客戶(hù)所準(zhǔn)備。
04.
產(chǎn)品已銷(xiāo)售1年多
落地多個(gè)美國(guó)實(shí)驗(yàn)室
據(jù)悉，第一代Cardinal芯片在2019年春季taped out，首批芯片樣品已用于客戶(hù)服務(wù)器上。
在此之前，SambaNova的產(chǎn)品已經(jīng)向客戶(hù)銷(xiāo)售了一年多。
美國(guó)阿貢國(guó)家實(shí)驗(yàn)室、美國(guó)能源部旗下國(guó)家核安全管理局（NNSA）、勞倫斯利弗莫爾國(guó)家實(shí)驗(yàn)室（LLNL）、洛斯阿拉莫斯國(guó)家實(shí)驗(yàn)室（LANL）等多個(gè)研究機(jī)構(gòu)，均已部署DataScale平臺(tái)來(lái)加速研究中的AI計(jì)算。
例如，LLNL正將DataScale用在其Corona超級(jí)計(jì)算機(jī)中，用于研發(fā)新冠肺炎藥物。
LLNL首席技術(shù)官Bronis de Supinski稱(chēng)，SambaNova的平臺(tái)正被用于探索一種被稱(chēng)為認(rèn)知模擬的技術(shù)，在這種技術(shù)中，AI被用來(lái)加速部分模擬處理。他聲稱(chēng)，與運(yùn)行相同型號(hào)的GPU相比，這一性能提高了大約5倍。
05.
SambaNova融資背后
AI芯片成各國(guó)必爭(zhēng)之地
AI芯片是一種專(zhuān)用于加速AI應(yīng)用的硬件，通過(guò)低精度計(jì)算、存內(nèi)計(jì)算等技術(shù)，提高運(yùn)行大規(guī)模AI算法的性能。根據(jù)全球綜合數(shù)據(jù)資料庫(kù)Statista的一項(xiàng)研究，專(zhuān)用集成電路（ASIC）預(yù)計(jì)將在推理階段AI邊緣計(jì)算處理能力中占有越來(lái)越大的份額，到2025年占比將達(dá)70%。
以SambaNova獲得的新融資為例，多國(guó)AI芯片創(chuàng)企正斬獲融資，AI芯片市場(chǎng)正競(jìng)爭(zhēng)激烈。根據(jù)美通社數(shù)據(jù)，該市場(chǎng)預(yù)計(jì)2025年將達(dá)到911.8億美元。
▲到2025年，ASIC在推理階段AI邊緣計(jì)算處理能力的占比達(dá)70%（來(lái)源：Statista）
近期，中國(guó)云端AI芯片創(chuàng)企正經(jīng)歷著新一輪融資熱潮。天數(shù)智芯、壁仞科技、燧原科技、沐曦集成等多家云端芯片創(chuàng)企宣布獲得高額新融資，百度AI芯片部門(mén)最近在融資后估值為20億美元，中科寒武紀(jì)去年成為科創(chuàng)板上市的第一家純AI芯片公司。
在云端及邊緣AI芯片的研發(fā)及落地競(jìng)賽中，其他國(guó)家也有一些備受關(guān)注的明星創(chuàng)企。
例如，以色列AI芯片創(chuàng)企Hailo正在開(kāi)發(fā)加快邊緣AI推理速度的硬件，該公司在2020年3月獲得了6000萬(wàn)美元的風(fēng)險(xiǎn)投資。
美國(guó)加州創(chuàng)企Mythic已融資8520萬(wàn)美元用于開(kāi)發(fā)定制的存內(nèi)計(jì)算架構(gòu)。
英國(guó)AI芯片獨(dú)角獸Graphcore致力于研發(fā)加速AI工作負(fù)載的大規(guī)模IPU處理器芯片及系統(tǒng)，該公司擁有數(shù)億美元的資金儲(chǔ)備。
隨著AI芯片出現(xiàn)前所未有且持續(xù)的客戶(hù)需求，SambaNova也是受益者之一。
因新冠肺炎疫情蔓延，汽車(chē)和電子產(chǎn)品采購(gòu)需求的激增加劇了日益嚴(yán)重的芯片緊缺。美國(guó)總統(tǒng)喬·拜登近期承諾投入1800億美元，用于先進(jìn)計(jì)算的研發(fā)和專(zhuān)門(mén)用于AI和量子計(jì)算的半導(dǎo)體制造，這些都已成為美國(guó)國(guó)家科技戰(zhàn)略的核心。
06.
結(jié)語(yǔ)：AI芯片市場(chǎng)
開(kāi)啟落地與生態(tài)之戰(zhàn)
2020年以來(lái)，多國(guó)AI芯片領(lǐng)域均傳出多起融資事件。總體來(lái)看，以國(guó)內(nèi)市場(chǎng)為例，據(jù)工銀投行數(shù)據(jù)，2019年國(guó)內(nèi)AI芯片領(lǐng)域投資金額達(dá)58.57億元，而2020年僅1-10月的AI芯片總?cè)谫Y額已經(jīng)超過(guò)了2019年全年。企業(yè)層面之外，多個(gè)國(guó)家與地區(qū)亦從政策層面出發(fā)，扶持AI芯片企業(yè)成長(zhǎng)。
在這背后，AI芯片創(chuàng)企走過(guò)了早期的技術(shù)拓荒期，市場(chǎng)或?qū)㈤_(kāi)啟落地與生態(tài)構(gòu)建新戰(zhàn)事。