30年前，加州大學伯克利分校的博士生楊林（Frank Lin）想研發出一種特制芯片，能夠加快人工智能（AI）的運算速度。

這個念頭開啟了他長達三十多年的研究生涯。

當年一些具有洞察力的想法如今變成了現實，與此同時，楊博士作為首席科學家創立的初創公司GTI野心勃勃，不斷發展，專注于打造與眾不同的AI芯片，以期在競爭日益激烈的芯片市場獨占鰲頭。

2017年初建立的GTI總部位于苗必達市，處于硅谷的邊緣地帶。GTI正在一步步實現楊博士在30年前的絕妙想法：同步運算矩陣乘法的相同電路矩陣，從而加快神經網絡的基本運算。

 “我們是唯一一家將矩陣乘法作為基本運算元素后取得實質性進展的公司。”接受ZDNet專訪的GTI總裁楊林如是說。

楊林清楚地認識到眾多初創企業都擁有新型AI半導體設計，比如ZDNet近日報道的Cornami、Flex Logix與Efinix等產品。

“有些芯片制造商正在思考matrix或tensor的新型架構。” 楊林說，而GTI在一月份推出了第一款硅芯片產品。“談到真正的芯片，我覺得我們是市場上唯一一家真正的硅芯制造商。”

三星電子、LG電子、富士通等一些大體量客戶確信，GTI會提供他們需要的產品。

“剛開始我們只有七個人。”GTI營銷總監Marc Naddell補充道。“想象一下，一小撮人在創業最開始的八個月里致力于一款芯片的研發。”Naddell與楊林均強調，Gyrfalcon是三星的獨家AI芯片合作伙伴。

“我們的第一款芯片大獲成功，因此像我們這樣歷史短、規模小的公司能夠贏得三星等大品牌的青睞。”他說道。

GTI產品致勝的關鍵在于其具備絕佳的能效，在性能方面勝過英特爾傳統中央處理器（CPU）與Nvidia圖形處理器（GPU）。“我們就是對抗歌利亞的大衛。” 楊林說。

大衛對抗歌利亞

備注：大衛與巨人哥利亞的決斗是一個著名的西方典故，意為以弱勝強。《圣經》中記載，歌利亞是非利士將軍，帶兵進攻以色列軍隊，后被牧童大衛打敗。大衛日后統一以色列，成為著名的大衛王。

GTI的產品正在向品牌化方向發展時，“Lightspeeur”以“2801”芯片為起點，在今年國際消費類電子產品展覽會（Consumer Electronics Show 簡稱 CES）上亮相。“Lightspeeur”是一種用于“推理（inference）”的零件，而“推理”是機器學習的組成部分，神經網絡利用訓練階段習得的信息為新出現的問題提供解決方案。該零件適用于“邊緣”設備，如智能手機、智能揚聲器或筆記本電腦。

國際消費電子展（CES）是世界最大的消費類電子產品展會

GTI指出，一種稱為“存儲計算一體化”（APiM）的方法，讓所有相同的運算單元與存儲融為一體，可大大降低外存儲器的利用率，從而大幅降低AI芯片的功率預算。

“2801”的運算速度可達到每秒9.3萬億次，僅耗能1瓦特，且每一次都是乘法累加運算。如今，這樣“萬億次/每秒”（TOPS）的計算單位是AI芯片能耗常見的表示方法。

它“比英特爾Movidius產品的能效高90%”，楊林在談到英特爾收購同名公司Movidius時獲得的推理芯片時如是說。

GTI第一代芯片Lightspeeur?2801S

繼“2801”后出現的“2803”于上月面世，旨在處理云服務器更加繁重的推理負載。其性能更佳，能效更好，耗能1瓦特時，計算速度高達24 TOPS。GTI表示，“2803”不僅適用于推理，還可用于訓練，利用一種技術優化“馬爾科夫鏈蒙特卡洛”（Markov Chain Monte Carlo）網絡，替代更為常見的隨機梯度下降(Stochastic gradient descent，SGD)。

 “2801”與“2803”都可以在電路板上聯結，并且通過外部設備高速擴展總線（PCI-E）作為插件同時運行。兩者均擁有嵌入式存儲器，“2801”可存儲9兆字節。緊鄰所有運算單位的存儲器，使芯片能夠承擔幾乎所有的推理工作，無需芯片外設DRAM。GTI將其稱為“存儲計算一體化”或“APiM”。

“我可以一次性地將網絡模型、權重與激活單元預加載到這款芯片上。” 楊林說，“無需求助外部系統；這樣做能夠明顯降低能耗，大幅提升芯片的性能。”

本月，GTI透露了下一產品的部分信息。該產品主要用于“物聯網Lot”領域，直到下個月才會正式發布。這個最新產品名為“2802”，提供了另一項有趣的技術：非易失性存儲器（Non-volatile memory, NVM）。

“2802”以“磁性”隨機存儲器（MRAM）替代了“2801”與“2803”運用的靜態隨機存取存儲器（SRAM）。與NAND快閃存儲器相似，MRAM在能量耗盡時不會丟失數據。這意味著一套神經網絡可由客戶進行預加載，甚至可以在“2802”出廠前由原廠預加載。

GTI在乘法累加運算（Multiply Accumulate, MAC）的同一套模具上制造MRAM，該方法是GTI正在申請的五十個專利之一。快速搜索美國專利局的申請數據庫和授予專利，可迅速了解 GTI技術的具體情況。1992年，伯克利分校憑借楊博士及其導師Leon Chua的芯片發明獲得了一項專利。碰巧的是，Chua在該領域的大量研究可應用于多項領域，包括Chua在1998年出版的專著《細胞神經網絡：復雜性的典范》（CNN：A Paradigm for Complexity）

當然，困難之處在于軟件。與CPU和GPU不同，GTI的專用集成電路（ASIC）難以獲得編程棧。

對比：GTI的Lightspeeur與英特爾和Nvidia芯片在AI處理上的差別

因此，剛剛發布了一個開發者軟件開發工具包（SDK），為產品打造應用程序。該開發工具可在兩個硬件配件上進行測試，即USB加密鎖“PLAI Plug”與獨立設備“PLAI WiFi”，后者可作為手機的無線加速工具。

GTI按照楊博士在伯克利制定的路線不斷發展，已經邁出了似乎有風險的一步：正在卷積神經網絡（CNN）上鋪設自己的電路。雖然那時楊博士使用的是“細胞神經網絡”（“cellular neural networks, CNN”，Gyrfalcon依然在專利申請文件中使用該術語）這樣的模型，但其具有獨創性的研究工作圍繞卷積運算展開。

當然，卷積神經網絡在近幾年來成為了最重要的神經網絡設計之一，但這一做法讓芯片不太適用于其他類型的網絡，如“長短期記憶”網絡。

不過，楊林并未對理論上的局限性憂心忡忡。

“CNN是所有其他AI的基礎。”他說。“對此，我們做了研究，發現ResNet和MobileNet在CNN市場中依然占主導地位。”楊林說，其他初創公司正在試圖進軍每一種網絡，“他們試圖覆蓋所有現存及未來的神經網絡，但我還沒有發現任何一家公司能夠成功地兼顧全面性與能效性。”

如果新型網絡出現，占據了大部分的市場份額，“那我們就會針對它推出另外一款芯片。”他說。

一個很有意思的想法是，（如果）按照生產曲線看一看GTI在發展時發生了什么，是什么使其電路更加高效。GTI的初代產品由臺灣半導體制造商28納米制造工藝完成，與英特爾和Nvidia的尖端產品相比，該工藝運用的節點更為陳舊。

“我們正在用28納米的工藝擊敗正在使用7納米或12納米的同行，比如Nvidia。” 楊林說。“我們是如同以卵擊石的反叛者，但我們贏了！”

Marc Naddell,這位GTI的營銷總監補充道：“當我們采用12納米或7納米的工藝時，其他公司將會做什么呢？”

GTI的另一條發展途徑就是將自主研發的芯片授權給其他AI芯片制造商。楊林目前的工作重心并沒有放在這上面，但他看到許多潛力。“Graphcore等其他初創公司做的東西與我們極其相似，但如果他們想做大，就必須找我們。”

根據最新數據，Graphcore籌措到的金額超過1億美元。資金支持對芯片初創企業至關重要，因為一家公司從設計到芯片的初步“流片”，再到開發和維護客戶基礎，平均需要投入數億美元。

GTI沒有向記者透露公司籌集到的資金數額，但他們表示，他們已經“從美國、日本、韓國、中國的機構與企業投資者手中獲得三輪融資”，并補充道：“就目前的員工配置與支出率來說，籌措的資金可供公司運營至少三年時間。