一、AIoT概述

　　AIoT(Artificial Intelligence &?Internet of Things)中文譯為人工智能物聯網，是將人工智能(AI)與物聯網(IoT)兩者有機結合的一種技術。AI在這個系統中充當了大腦的角色，賦予了物聯網更多的可能性，將萬物互聯提升到萬物智聯，如目前的智能醫護助手、人體測溫攝像頭、智能配送機器人都是在AI的加持下得以實現。

　　據2019年的市場調查報告顯示，2020年中國AIoT硬件市場及相關產業的規模將突破萬億元。目前AIoT的主流方案以邊緣計算和云計算結合為主，相比之下，邊緣計算有部署靈活、穩定性強、網絡依賴度低、安全性強更有利于保護隱私的特點。作為布局AIoT的重要產品，ZLG發布了M1808 AI核心板。本文將針對M1808核心板的AI性能參數做具體講解。

　　二、M1808平臺簡介

　　M1808平臺是由M1808-T核心板和M1808-EV-Board評估底板組成，是基于Rockchip 的RK1808 AIoT處理器開發。RK1808處理器芯片采用CPU（Central Processing Unit，中文譯為中央處理單元）+NPU（Network Process Unit，中文譯為神經網絡處理單元）雙架構，其中CPU為1.6GHz雙核Cortex-A35架構，NPU的峰值算力高達3.0TOPs，支持INT8/INT16/FP16混合運算，最大程度兼顧性能、功耗、運算精度，支持TensorFlow/MXNet/PyTorch/Caffe等一系列框架的網絡模型轉換，兼容性強。VPU視頻處理單元支持1080P視頻編解碼，支持麥克風陣列，并具有硬件VAD功能，支持低功耗偵聽遠場喚醒，還支持攝像頭視頻信號輸入，并具有內置ISP。M1808平臺具有高性能、低功耗、易編程、集成NPU等特點。

　　三、AIoT硬件平臺AI性能對比

　　算力和功耗是衡量硬件平臺AI性能的重要參數。為了充分驗證M1808的高性能、低功耗特點，表格1提供了M1808與其他產品的AI性能參數對比。通過對比可知，M1808 AI核心板能夠最大程度的兼顧算力與功耗。這也使其在AIoT硬件平臺上具有領先地位。

　　表格 1

　　四、常見AI功能的算力花銷

　　考慮到讀者對3.0 TOPs的算力很難有一個清晰的概念，在表格2中我們列出了常見AI功能所需要的算力花銷：

　　表格 2

　　由表格可知，除了自動駕駛這種多模型融合、實際場景十分復雜多變的情形，大部分單一功能的實現所需的算力要求在1TOPS這個數量級。M1808作為目前具有代表性的嵌入式AI平臺，具備了3.0 TOPs的基礎算力，基本可以滿足大部分場景的使用，如人臉門禁、掃臉支付、智能餐桌等。此外，如果對照片處理的實時性要求不高，比如山火識別，面對這種對網絡模型的查全率要求很高的場景，就可以使用上結構更深的模型，來達到精度更高的效果。

　　五、神經網絡推理速度

　　l為了更直觀地認識M1808的AI計算能力，在圖表1中，我們分別在三種相同的神經網絡模型下，對比M1808與常見手機芯片的網絡神經網絡運行時間。運行時間的長短可以反應出硬件平臺AI計算能力。可以看到，對比當今主流的手機芯片，M1808的AI算力也毫不遜色，足以滿足大部分AI功能需求。

　　圖表 1

　　六、軟件層面

　　除了提供強大的AI算力，M1808也提供了對應的AI開發套件來支持研發人員的開發工作。目前M1808的套件支持主流的tensorflow、tensroflow lite、caffe、darknet、onnx、pytorch等框架訓練的模型，可以對其進行模型轉換以便將模型部署到開發板上，我們還提供了自動量化及模型運行效率的評估功能，減少模型適配的工作量。

　　同時，M1808也提供了一些常用的AI模型可供開發人員調用，目前支持以下功能：人臉識別，司機疲勞駕駛檢測系統，人臉關鍵點定位，人臉檢測，物體檢測，物體分類，紐扣方向的功能。目前的人臉識別精度在lfw上達到了99.7%，一萬人臉庫的情景下達到每秒10幀左右，支持年齡跨度、人臉部分遮擋和摘戴眼鏡等戶外及室內場景，更多的功能正在開發測試完善中，敬請期待。

　　以上即為M1808的算法算力性能介紹，大家是會能夠真切的感受到這款AI核心板的性能呢？若是想了解我司基于M1808提供的算法可查閱往期文章《立功科技嵌入式平臺“軟”實力——人臉識別算法篇》，若是再想更近距離的感受M1808性能的強大，歡迎咨詢小致，可有機會實際感受M1808 AI核心板的強勁性能。