第一款具備支持從16位到4位高靈活度位寬的專用硬件解決方案
帶寬最低的神經網絡(NN)解決方案
其架構可支持多種操作系統，包括 Linux和 Android
2017年9月21日 ─ Imagination Technologies 宣布推出完整、獨立式的硬件IP神經網絡加速器，通過神經網絡(NN)專用的PowerVR架構實現，可提供業界領先的面積效率。為移動、監控、汽車與消費系統開發SoC的公司將能以非常低的功耗，在最小的芯片面積中集成新款 PowerVR Series2NX NNA神經網絡加速器，以實現神經網絡的高性能運算。
包括卷積神經網絡(CNN)、循環神經網絡(RNN)和長短期記憶網絡(LSTM)在內的神經網絡正推動各個產業的爆發性技術進展。NNA是一種基本類型的處理器，預計會跟CPU和GPU一樣重要，而這兩類處理器Imagination均已能供應。NNA的潛在應用不計其數，其中包括AR/VR頭戴設備中的特征檢測與眼球追蹤；汽車安全系統中的行人檢測與駕駛員警覺性監控；智能監控系統中的臉部辨識與人群行為分析；網絡詐欺檢測、內容建議(content advice)、以及預測性UX；虛擬助理應用中的語音識別與回應；以及無人機中的防撞與對象追蹤等。
根據嵌入式視覺聯盟(https://www.embedded-vision.com)于2017年1月進行的嵌入式視覺開發人員調查顯示，79%的受訪者表示他們已經利用或正計劃利用神經網絡來執行其產品或服務中的計算機視覺功能。隨著科技持續的快速進展，更多的公司都將能夠利用神經網絡來開發產品與服務。Imagination的客戶已為安全、移動、汽車與機頂盒等多個市場開發與部署基于NN的系統。
嵌入式視覺聯盟創始人Jeff Bier表示：“很多系統與應用程序開發人員正采用深度神經網絡算法把新的感知功能帶到他們的產品之中。在許多案例中，主要的挑戰在于能為這些要求嚴苛的算法提供足夠的處理性能，同時滿足嚴格的產品成本與功耗限制。像PowerVR 2NX NNA 這類的專用處理器，是專為神經網絡算法所設計，將能在許多新應用中推動這些強大算法的部署?！?/p>
隨著神經網絡日益普及，2NX NNA 這樣的專用硬件解決方案 —— 與單純的DSP解決方案相比，它可提供8倍的性能密度提升 —— 將能以最低的功耗與成本達到最高的性能。此外，一直以來，神經網絡非常耗費帶寬，因此內存的帶寬需求會隨著神經網絡模型規模的增長而增加。這會為SoC設計人員和OEM公司在設計系統時，因為要提供NNA所需的帶寬而帶來重大的挑戰。PowerVR 2NX能最小化外部DDR內存的帶寬需求，確保系統的性能不會受到帶寬的限制。PowerVR 2NX NNA專用硬件的普及應用，將能推動各種基于神經網絡技術的應用程序進一步發展。
PowerVR 2NX NNA可實現最高效率的解決方案
PowerVR 2NX是從頭開始全新設計的架構，可提供：
?業界最高的單位毫瓦推理 (inference/mW) IP內核，以提供最低的功耗*
?業界最高的單位面積推理 (inference/mm2) IP內核，可實現最具成本效益的解決方案*
?業界最低帶寬的解決方案*——支持權重與數據的高靈活性位寬，包括低至4位的低帶寬模式
?業界領先的性能，單一內核為每周期2048 MAC，并可采用多核設計進一步提升性能
?在硬件架構的基礎上提供了最全面的系統級的神經網絡解決方案
Imagination公司 PowerVR 產品與技術營銷資深總監 Chris Longstaff 表示：“神經網絡加速的專用硬件將成為未來SoC的標準IP模塊，就如同CPU和GPU一樣。我們很高興率先向市場推出完整的硬件加速器，能完全支持高精準度的靈活方式，使神經網絡能以最低的功耗與帶寬運作，并提供優于競爭對手方案的絕對性能與單位面積性能。我們提供的工具將能讓開發人員非?？焖俚貑⒂貌绦衅渖窠浘W絡，因此能快速增加營收?！?/p>
2NX包括硬件IP、軟件與工具，可為SoC提供完整的神經網絡解決方案。它能有效地執行所有常見的神經網絡運算層。依據推理任務的運算需求，它能獨立使用 ─ 無須額外的硬件 ─ 或是與CPU和GPU等其它的處理器結合運用。
神經網絡無所不在
PowerVR 2NX NNA是專為適應多種市場的推理引擎所設計，其高度可擴展架構適用于未來的更多應用市場。
移動：隨著Tensorflow Lite以及 Android API的即將發布，再加上Caffe2Go架構的快速進展，我們將看到智能手機AI應用程序數量的快速爆發。公司需要高效率的方式來執行包括影像辨識、語音辨識、計算攝影等在內各種的推理任務。PowerVR 2NX是現今唯一的一套IP解決方案，能以低功耗、小面積、MMU和對Android的支持，來滿足移動解決方案部署的所有需求。在GPU不可或缺的移動設備中，公司能把新的 PowerVR Series9XE或 9XM GPU與 2NX NNA在相同的芯片中搭配運用，以作為獨立式GPU。其優異的性能足以和業界的獨立式GPU競爭。
智能監控：家庭與商業場所安裝的監控攝影機數量正大量增加，將推動神經網絡視覺處理的需求。基于這些技術的智能型攝影機能被用來根據安全警示、零售分析、人口統計與互動數據來制定決策。考慮帶寬需求、數據機密性與其他因素，攝影機的設計必須加入一定程度的“網絡邊緣”(edge) 視頻信息分析處理的能力。由于這些攝影機通常沒有GPU或是僅有非常小的GPU，以及較低性能的CPU，因此它們需要一個高效率、高性能的獨立式神經網絡加速器。2NX NNA是理想的選擇，并且具備高度可擴展性，能同時滿足消費性與商用的需求。
汽車：汽車的神經網絡應用包括駕駛員警覺性監測、駕駛員視線追蹤、座位使用、路標檢測、駕駛路線分析、道路使用者檢測、駕駛員辨識以及其他。隨著未來幾年自動駕駛汽車與智能型運輸系統的數量將日益增加，這些應用將持續擴展。在汽車系統中，需要2NX NNA 這樣的完整硬件解決方案，才能滿足相關的性能需求。
家庭娛樂：機頂盒和電視將逐漸提供基于神經網絡的解決方案，例如能夠適應特定使用者偏好的能力，提供自動的兒童鎖，以及根據使用者行為自動暫停與錄制節目。憑借這些特性，公司能提升其差異性并增加營收。要在這些設備上構建神經網絡的關鍵是高效率的帶寬與低成本，以及支持NN API ─ 這些都是2NX NNA的重要特性。此外，還有許多新興的NNA娛樂應用，包括AR/VR。
睿悅信息Nibiru是一家移動VR與AR的技術與服務供應商，該公司的共同創始人兼副總裁 Tony Chia表示：“來自合作伙伴Imagination的創新技術是確保VR解決方案可為消費者提供高度沉浸式游戲與視覺體驗的重要關鍵。我們對神經網絡在VR/AR的潛在應用感到非常振奮，包括追蹤、控制、姿勢辨識、語音辨識、以及能增加更多的互動體驗。內置 PowerVR 2NX NNA的芯片組可提供所需的處理能力與功耗效率，把VR/AR體驗推升到全新的境界?！?/p>
簡化開發人員的工作
Imagination可為開發人員提供所有必要的工具，讓他們能快速、輕松地啟用和執行其神經網絡，并確保運算帶寬能與準確度完美平衡。PowerVR 2NX的開發資源包括映射 (mapping) 和微調工具、樣本網絡、評估工具與文件。完整的 PowerVR NX Mapping Tool 能從業界標準的機器學習框架，包括Caffe 和 Tensorflow，輕松進行轉換。高級的網絡設計人員將能在2NX NNA 上設計與構建神經網絡，以充分發揮其硬件特性。
Imagination也可提供通用的Imagination DNN (深度神經網絡) API，能在CPU、GPU與NNA之間輕松轉換。此單一的API能夠跨多種SoC配置執行，因此能在現有設備上輕松開發原型。c