作為AI芯片的典型,目前華為、蘋果等廠商都開始在NPU上發力。除此以外,開發者也在努力推進著手機端AI應用的發展。

NPU(Neural Processing Unit,神經網絡處理器),一直都是華為發布會上的熱門詞匯,這次的麒麟9000同樣將NPU標記在芯片結構圖的C位。而庫克在介紹最先進的A14處理器時,也著重提到了NPU。

早在2013年,高通公司就提出了“Zeroth”處理器的概念,這款處理器可以模仿類似人腦的認知能力,并實現自我學習的功能。

在高通的設想中,Zeroth的終極目標就是形成標準化的新型處理架構,并且第一次提出了NPU的概念,這種芯片已經具備了AI芯片的雛形。

2017年,華為海思推出了麒麟970,這款芯片首次內置了獨立NPU。

在此之后,幾乎所有的手機廠商都將AI作為新的亮點,一顆SoC芯片如果沒有足夠的AI算力,似乎都不能被拿到臺面上介紹。

如今距離提出NPU的概念已經過去了七年,AI芯片在手機端的發展似乎并不如人意。

如何理解NPU

傳統CPU進行累加計算時,效率非常低,但當GPU做類似的計算,效率就會高很多。同樣的道理,GPU主要被用來進行圖像處理,并沒有針對神經網絡計算進行特殊優化,這時候使用專業針對神經網絡計算的NPU,就可以大大提高計算效率并減少功耗。

假設我們面前有一條沒有橋的河,我們應當如何過河?這時候大腦就會涌出各種想法并且比較各種方法的優劣。

NPU的工作就類比大腦,在手機中模擬所有可行的方案,并從中挑選一個最優解。有了NPU之后,手機的AI性能就能得到大幅的提升。

從麒麟970的單核NPU、到最新的麒麟9000的2+1三核NPU,NPU的升級也伴著華為的AI技術的發展,最能直觀體會到的就攝像功能帶來的進步。

比如取景時的智能場景識別功能,可以讓系統快速識別拍攝的物體和場景,并自動做出優化調教。再比如被廣大消費者驚嘆的“月亮模式”,以及強大的智能防抖功能,再包括最新的物體識別。

這些功能都是通過NPU來彌補華為手機在CMOS尺寸以及ISP(圖像信號處理)上與其他廠商的差距。

在麒麟970推出之后,AI功能逐漸拓展,從手持超級夜景到語音助手、節能優化、智慧識別、識圖翻譯．．．．．．越來越多的應用場景都開始運用AI加速運算,這些都得益于NPU的支持。

硬件層面,NPU可以代替CPU進行處理,讓SoC具備了更強的本地AI運算能力(類似于“硬解”)。相比較CPU的“軟解”,“硬解”效率更高、速度更快、功耗也更低。

但即便NPU功能十分強大,如今NPU在手機日常的應用領域還處于初級階段,它的重要性還遠不如CPU、GPU和ISP,屬于錦上添花的存在。

例如高通驍龍AI Engine引擎之中就沒有獨立的NPU單元,而聯發科在Helio P60/P90引入的NeuroPilot AI技術最早也是通過多個單元協同計算(APU+CPU+GPU)。

AI芯片只是第一步

有了AI芯片的支持,或許能增強手機AI能力,但目前的AI芯片卻不能很好地適配所有的軟件。

比如,很多直播APP都有實時美顏功能,可以利用降噪、顏色空間轉換實現磨皮、濾鏡等基礎功能,但使用不同的軟件可能會造成耗電量過高的異常,這就是軟件層面的不適配。

從整個市場上來看,目前AI芯片還處于算法主導到產品主導的過渡期,由于各家AI芯片的設計不同,AI方案架構方面都有不小區別,像寒武紀的“DIANNAO”、谷歌的TPU,再到華為的達芬奇架構,目前AI芯片的設計可謂百花齊放。除此以外,還有單一針對卷積神經網絡的ASIC加速器,以及支持簡單編程的通用型AI芯片。

這些種類繁多的AI芯片,推動了AI技術在手機端的普及,但不可避免會帶來一些問題。

AI應用需要開發者的努力

雖然各家的AI芯片都開始集成獨立的神經網絡處理單元,但是在設計上有很大不同,這意味著在運行機器學習應用方面,幾家AI芯片在性能和能耗上有很大差別。因此,第三方開發者是否針對幾家的芯片設計進行優化,或只支持某一種設計,會對系統性能產生重大影響。

目前,大多數移動AI芯片在機器學習方面做了較為普適性的優化,而對一些特定的計算方式則沒有進行太多優化。

就算開發者開發出同一款AI應用,其兼容性可能會存在很多問題。當AI應用的開發進入到實際的應用和業務層面,開發者面臨著標準不同、API配適、軟件優化等很多的難題。也就導致開發者必須針對不同廠商的設備進行逐個優化。加之安卓生態比較混亂,移動AI開發者很可能受到更多阻礙。

就拿之前提到獲得AI技術加持的照相功能來講,除了在畫面上的提升,還是有很多人都會吐槽華為手機存在過分美顏、過度銳化、顏色失真等問題,但這些問題在iPhone上就很少被提及。

一直以來,蘋果在照片成像上的AI技術都調教的恰到好處,不論是自帶相機還是第三方相機,“拍照真實”也成為iPhone的賣點之一,很多專業攝影師已經選擇將iPhone作為便攜街拍設備。相比而言,“傻瓜式”的安卓手機更偏向攝影小白。

不過隨著安卓手機廠商和應用開發者不斷對系統以及APP進行優化,現在的安卓手機拍照也變得更加智能。

所以,AI芯片只是提供了手機AI應用的基石,真正要挖掘出移動端AI的魅力,還需要開發者針對AI芯片的能力開發出合適的應用。

結語

目前,以AI芯片為基礎打造一個AI應用生態圈的愿望真的十分美好,但這個過程還有很長的路要走。硬件走在了前面,軟件也要跟得上。

在未來,NPU或許也會像當年FPU之于CPU一樣,成為移動Soc芯片的標準。或許在未來我們能在智能手機上體會到更棒的AI應用。

至少在現在,以NPU為首的AI芯片們,還有很長的路要走。