人工智能的發展為人們生活帶來便捷與改變，然而以云為中心的構架方式并非在任何情況下都是最理想的解決方案，比如對信息安全的擔憂以及功耗對產品設計帶來的挑戰等。受此影響，以分布式為特點的嵌入式人工智能技術開始受到關注，未來它的發展將使設備端具有更高的智能。
嵌入式人工智能技術受重視
以邊緣計算為特點的嵌入式人工智能技術開始受到重視，邊緣計算的作用可以優化資源、提升效率。
當前，人工智能的計算大多數是在數據中心運行，即運行在“云”上。但是隨著技術的發展，人們發現一個巨大的機會正在遠離數據中心的互聯網邊緣產生——嵌入式人工智能正受到越來越廣泛的重視。
物聯網擁有海量的終端設備，未來如果這些網絡節點所抓取的數據都需要上傳云端進行智能處理或者深度學習，對網絡帶寬將提出巨大挑戰。“另一個挑戰就是功耗。設備端大量采用電池供電，比如智能移動設備、新能源汽車等都對設備功耗提出越來越高的要求。”瑞薩電子(中國)有限公司市場策略中心綜合營銷部副部長王均峰表示。因此，以邊緣計算為特點的嵌入式人工智能技術開始受到重視。
對此，中科創達技術總監王璠表示，和云計算一樣，邊緣計算的作用也是優化資源、提升效率。舉個例子，一些嵌入式的小型設備基礎信息采集處理是在端完成的，即傳感器手機數據傳送到網關后，就進行數據過濾和處理，沒必要每條原始數據都傳送到云端，這省去了大量的成本。云端計算的AI致力于更好地解決問題，而嵌入式的AI則致力于更加經濟地解決問題。
移動計算廠商加快布局
與互聯網公司專注于云端的人工智能技術不同，設備端的技術發展主要得益于移動計算廠商的投入。
今年3月，ARM發布面向人工智能應用的DynamIQ技術。在近日舉辦的技術論壇上，ARM再次展示基于DynamIQ技術的全新處理器，Cortex-A75處理器、Cortex-A55處理器和Mali-G72圖形處理器。ARM副總裁暨計算產品事業部總經理Nandan Nayampally表示：“我們需要賦予從網絡節點到云端的計算具有更快速、更高效和更安全的分布式智能。”采用DynamIQ技術的Cortex-A系列處理器在優化應用后，可實現比基于Cortex-A73的設備高50倍的人工智能性能，并最多可提升10倍CPU與SoC上指定硬件加速器之間的響應速度。
在日前舉行的GMIC（全球移動互聯網大會）上，美國高通公司中國區董事長孟樸也重點提出了人工智能話題。他表示：“未來機器學習會在云端和終端協調發展。我們不認為所有的人工智能，都是在云里面實現，因為個人隱私的問題、信息安全問題，還有傳輸上的時延問題等。高通旗艦處理器驍龍835擁有高性能的圖形處理能力，還有數字信號處理器DSP，加上軟件算法，將使終端實現機器學習能力。相信今后人工智能、機器學習，在終端的發展會和在云端的發展一樣，同步加速進行。”
針對邊緣運算日益增加的需求，NVIDIA推出新款開發板Jetson TX2，將整套人工智能系統縮小在一塊電路板之上，這讓Jetson TX2可在終端設備上更好地運行深度學習功能等，進而開發出更高的智能化裝置。相較前一代產品Jetson TX1，Jetson TX2的效能提升了兩倍，耗電量則不到7.5瓦，能源效率提升了兩倍多。
資料顯示，賽靈思推出的reVISION堆棧技術，具備了可重組和所有形式鏈接的特性，讓開發者能充分運用堆棧技術，快速研發與部署升級方案，對開發未來需求的智能視覺系統至關重要。不僅如此，該技術使開發者在結合機器學習、計算機視覺、傳感器融合與連接的應用時，能夠獲得顯著優勢。舉例而言，相較于其他嵌入式GPU與傳統SoC，reVISION將機器學習推論的每秒每瓦影像效能提升了6倍，計算機視覺每秒每瓦每幀處理速度提升了42倍，而延遲卻只有1/5。
自動駕駛與數據安全將率先導入應用
嵌入式人工智能將在邊緣計算產品中，得到十分廣泛的應用。目前，嵌入式AI已經開始進入市場，特別是在自動駕駛與數據安全領域得到快速的滲透與應用。
“輔助駕駛系統如果在云端計算，設備端采集到數據后上傳，計算完成后再返回終端，這樣會不可避免地帶來一定延時，而在駕駛場景中，這種延時意味著危險系數的提高。”瑞薩電子(中國)有限公司應用技術中心汽車電子部副部長趙坤表示。同時，數據安全也是關注的一個要點，上傳到云端的計算意味著隱私被泄露的風險提升。
所以，嵌入式人工智能將在邊緣計算產品中，得到十分廣泛的應用。根據剛發布的《邊緣計算產業聯盟白皮書》，邊緣計算有三個發展階段。
一是聯接。實現終端及設備的海量、異構與實時連接，網絡自動部署與運維，并保證聯接的安全、可靠與維護性。遠程自動抄表就是其中的應用場景，解決了電表數量巨大的問題。
二是智能。邊緣側引入數據分析與業務自動處理能力，智能化執行本地業務邏輯，可以大幅度提升效率并且降低成本。電梯的預測性維護就是該應用之一。
三是自治。引入人工智能，邊緣計算不但可以自主進行業務邏輯分析與計算，還可以動態實時完成自我優化、調整執行策略。