目前，物聯網和人工智能（AI）都是發展大勢。而 AI 芯片正處于從通用型向專用型發展和轉化的過程當中，特別是在物聯網邊緣側，通用型 AI 芯片的計算效率較低，繼而帶來了成本和功耗的失配。此外，AI 芯片要面對很多不同場景，很難有一款通用型產品能滿足不同客戶的需求。
目前來看，有越來越多的專用型 AI 芯片或模組的案例涌現出來，如智能家居、機器人、智能音箱等，都對專用型 AI 芯片提出了越來越多的需求。
因此，當今做 AI 芯片是符合市場發展需求的，在這方面，越來越多的公司更加務實，將其作為長期的發展戰略，而不是抱著投機的心態去做 AI 芯片。云知聲就是這樣一家本土企業。2018 年 5 月，該公司正式發布首款物聯網專用 AI 芯片之后，不足半年的時間，今年 1 月其再次對外宣布多模態 AI 芯片的研發計劃。
物聯網芯片設計難在哪兒？
隨著應用的發展，物聯網的場景化特點會愈加突出，此時，只提供單一芯片已經很難滿足客戶需求，必須要將芯片、應用，以及服務等有機地融合在一起，從而提供一整套的解決方案，才能滿足實際的應用需求。
與此同時，在 IC 設計層面，與傳統模式和流程相比，會更加復雜，對此，云知聲聯合創始人/ IoT 事業部副總裁李霄寒博士表示：“在最初的設計階段，就要考慮應用算法，以及到底需要多大的算力，如何使軟件能更好地運行等因素。這樣，就需要 IC 設計團隊與算法提供者有更緊密的合作。此時，軟件和硬件的耦合會非常緊密，這會影響到開發流程。傳統的 IC 設計主要是根據應用來設計相關參數，而未來物聯網應用當中的芯片，特別是 AI 芯片，在設計階段，就要根據實際的應用場景，設計出相應的功能，然后再去合理調配軟件和硬件資源，這對設計者的綜合水平和能力提出了更高的要求。”
在物聯網的邊緣側，對 AI 芯片的性能、功耗和成本提出了更好的平衡要求。對此，李霄寒表示，性能仍然是要優先考量的，也是最重要的，在此前提下，再去追求功耗與成本的平衡，而在邊緣側，成本比功耗更加重要一些。
那么，對于邊緣側 AI 芯片設計者來說，如何能實現以上這些因素的平衡呢？李霄寒認為：首先，設計者的算法積累很重要，因為好的算法能讓硬件發揮最大的效能；其次，IC 設計能力自然也很重要，特別是要能與業界實現良好的配合，以挖掘出更多的 IC 設計潛力；還有一點，也是經常被忽略的，那就是對場景的了解，即經歷過整個流程，并有產品的量產，才能對很多實際的考量因素有清晰的認知，也就是 KnowHow，其會指導你的芯片設計流程。這一點非常重要。
芯片發展路線
據悉，云知聲于 2015 年開始量產 IVM 模組，其采用了市場上的通用型芯片。由于當時市場上還沒有通用型的 AI 芯片，所以多是以多核的 CPU 來實現 AI 加速器的功能。也就是在 2015 年，該公司決定自行做 AI 芯片，并開始了相關的規劃和研發工作。
經過兩年多的研發，2018 年5 月，云知聲發布了其 UniOne 第一代產品——雨燕，這是一款單模態的語音專用的 AI 芯片。據悉，該公司不僅提供雨燕芯片，還提供相應的開源解決方案，包含芯片、引擎、應用，甚至還有云端服務，以及手機 APP 代碼。據李霄寒介紹，這樣做，有利于客戶快速部署其產品，省去了找第三方開發各種應用的時間和成本。
據悉，目前已經有近 10 家客戶導入了雨燕芯片，而且在今年上半年，很快就能在市場上看到相應的量產產品。
當今的 AI 芯片領域，存在著多種架構，每家都有不同的神經網絡和機器學習產品，那么，云知聲的 AI 芯片是采用怎樣的架構和IP呢？據悉，第一代雨燕芯片采用的是該公司自行研發的 DeepNet 1.0，而其正在研發的新一代多模態 AI 芯片則采用了升級版本—— DeepNet 2.0。
向多模態演進
在物聯網應用初期，很多 AI 芯片都是以單模態功能切入市場的，最為普遍的就是語音應用。但是，未來的應用會是多模態融合的，機器人就是一個典型的多模態應用實例，還有如車載芯片，因此，多模態是市場發展的必然趨勢。云知聲在原有單模態語音 AI 芯片的基礎上，正在研發多模態芯片，主要針對語音和圖像的處理需求，其相應的產品就是基于 DeepNet 2.0的。
據悉，云知聲以 DeepNet 2.0 IP 為核心的 AI 架構，算力可以達到 4T。DeepNet 2.0 是多模態神經網絡處理器 IP，其主要特點是可以支持多種推理網絡兼容，如 LSTM、CNN、RNN 以及 TDNN 等；支持可重構計算；還支持 Winograd 處理，將乘法計算量降至原先的一半以下，大幅提升了計算效率。李霄寒表示，DeepNet 2.0 是相對通用的 IP 核，既可以滿足音頻應用需求，也可以實現對圖像的處理。
另外，DeepNet 2.0 還支持多 NPU 的組網，組成模塊化的網絡，來支持算力的需求。
對于架構，李霄寒表示，雖然每家的架構都有各自的特點和實現方法，但其上面的軟件會逐步達成統一，也就是說，支持機器學習的算法會逐漸形成統一的框架。未來，有可能形成在不同 AI 芯片硬件上面，可以運行所有神經網絡的模型，這在不久的將來是完全有可能出現的。
一直以來，一提起云知聲，業內人士第一反應就是：這是一家做語音方案的公司，對此，李霄寒表示：“大家給云知聲貼的這個標簽是片面的，并沒有反應出我們公司全部能力。實際上，云知聲在圖像處理方面也有多年的技術積累。我們在這塊很早就開始布局了，并在 2018 年開始發力，將相應的算法融入到了實際的產品當中。”
據悉，為了在智能語音、圖像處理等多模態技術方面實現快速突破，云知聲很早便在內部搭建了號稱云知聲版“TensorFlow + GKE (Google Kubernetes Engine) ”的 Atlas 機器學習計算平臺，基于該平臺可以實現各種算法的快速迭代，而且可以靈活調整算法和算力，極大地提升了研發效率。
在核心競爭力方面，云知聲采用的都是自家多年積累的 IP。對此，李霄寒表示：“我們在研發、推廣芯片產品的同時，逐步建立、鍛煉出了一支強有力的隊伍。我們在做語音專用的 DeepNet 1.0 的時候，市場上還沒有相關的產品，只有自己研發。而且，在推向時候以后，反響不錯，我們才實實在在地意識到這是一款很不錯的產品，非常適合我們的算法和場景。因此，在此基礎上，我們發展出了 DeepNet 2.0，與 DeepNet 1.0 相比，DeepNet 2.0 在功能上有了極大的增強，特別是算力方面，達到了 4T，另外，DeepNet 2.0 可以支持多種 NPU，這也就意味著可以支持多模態。”
就在今年 1 月初，云知聲正式對外宣布，其正在研發數款多模態 AI 芯片，分別是面向物聯網的雨燕-Lite，這是第一代雨燕的升級版本；面向智慧城市的海豚（Dolphin）；面向智慧出行的車規級芯片雪豹（Leopard）。
發展三階段
對于云知聲的發展歷程，李霄寒做出了這樣的總結：公司于 2012 年成立，至今已有 6 年多的時間，該公司將其發展歷史分成了 3 個階段。
李霄寒表示：“公司成立之初的兩年，是技術優勢構建階段。在該階段，云知聲主要提供軟件算法、引擎，服務等；從 2015 年開始，我們進入到了產品優勢構建階段，也就是大家所熟知的“云端芯”的產品體系。從那時起，云知聲就不是只提供算法這么簡單了，而是開始提供應用產品了，起初以軟件為主，而且是整合了各種軟件服務的產品。而智能醫療是我們的主戰場，可以提供一整套的軟硬件方案。在 2015 年之前，云知聲是不具備硬件設計能力的，為了補齊短板，我們在深圳成立了一家分公司，專門進行硬件設計和研發；做出產品以后，我們進入了規模優勢構建階段，基于我們的芯片，實現大規模的量產，而且在相應的應用領域，排名行業第一。我們一直在觀察市場和時代需求，以建設我們相應的能力，進而幫助客戶解決問題。這也是我們于 2015 決定做芯片的主要原因，市場需求在那里，我們就去做。而且當時市場上還沒有專用的 AI 芯片，為了滿足客戶對軟硬件的整體需求，我們必須自己研發 AI 芯片。”
加快腳步 只爭朝夕
未來，不同的應用場景和領域會對 AI 芯片有不同的規范和標準要求，包括功耗、接口等方面，都會形成相應的標準。“未來，AI 算法很可能都會有相應的標準出臺”，李霄寒表示：“硬件和軟件之間的算法接口，很可能在不久的將來制定標準，這樣，就可以實現在同一AI 芯片上運行不同廠家的算法，這種可能性是完全存在的。而對于我們公司來說，要爭取走得足夠快，爭取成為標準的實際制定者。實際上，我們在家電領域已經實現過類似的目標，云知聲是第一家在白色家電領域實現專用語音芯片落地的供應商，相應的測試標準實際上是由我們制定的。我們做出測試規范之后，客戶就用該標準去要求所有的供應商。未來我們依然會按照這樣的模式發展，爭取成為更多行業標準的實際制定者。”
對于端和邊緣側 AI 芯片市場，李霄寒認為，邊緣側的 AI 芯片市場足夠大，而且仍然處于發展初期，遠沒有到大家在一個紅海里拼殺的程度。關鍵還是要做好供給側的事情，市場的需求很大，也有很多廠商在跟進，但在現階段，大家的產品做的還都不夠好，雖然云知聲走在了市場的前列，但依然有很大的提升空間。
“對于云知聲來說，要只爭朝夕呀！”李霄寒說。
人物簡介
李霄寒博士于 1994 年考入中國科學技術大學少年班， 2003 年獲得中科大信號與信息系統博士學位。他曾先后服務于聯想、摩托羅拉中國、 Nuance 中國、盛大語音創新院等國內外知名公司，先后擔任技術經理、主任工程師以及研發總監職位。
他在 2001 年獲得“微軟學者”稱號，在 2005 年參與世界第一款嵌入式非特定人中文語音識別軟件研發并將其廣泛用于摩托羅拉系列產品中；隨后在 2006 年參與世界第一款嵌入式說話人識別軟件的研發。李霄寒博士在 2002 年代表微軟，在 2010 年代表盛大參加“ NIST 國際說話人識別評測”大賽，共獲得七個單項第一、兩次總分第一名的優異成績。
目前他作為云知聲聯合創始人及 IoT 事業部副總裁，分管產品研發。李霄寒博士負責帶隊研發的業界第一款物聯網 AI 芯片在 2018 年上半年成功流片。