依數據量及效能高低,Arm針對不同的機器學習處理需求推出對應產品。

.
圖片來源: 

Arm

繼去年推出兩款Ethos NPU處理器後,Arm再次擴大AI產品佈局,新發表Cortex-M55處理器及微型NPU神經網路處理器Ethos-U55,將AI加速推向數十億甚至更多的終端裝置上。

新的Cortex-M55採用Armv8.1-M架構、內建Arm Helium向量處理技術,並改善記憶體存取介面,以提升機器學習所需的數據存取速度及權重,還支援Arm TrustZone安全技術,以及Arm Custom Instructions客製化指令集。

和前一代架構的Cortex-M4相比,Cortex-M55的數位訊號處理(DSP)與機器學習效能均有提升,DSP效能提高5倍,在機器學習效能上也增加15倍。而鑑於ML推論效能提升,Cortex-M55將使終端裝置的機器學習能力,涵蓋震動偵測、關鍵字偵測、偵測器感知,還有異常偵測及物體偵測。

Arm也針對Cortex-M系列處理器推出微型NPU處理器Ethos-U55,適用於嵌入式裝置、IoT裝置的機器學習推論處理器,採用壓縮技術、降低耗電,並縮小機器學習模型,以符合體積較小、強調省電的嵌入式或物聯網裝置需求。

以Cortex-M55處理器和前一代的Cortex-M處理器比較,機器學習效能提升15倍,若以M55再搭配Ethos-U55,額外再加乘32倍,Arm聲稱整體機器學習推論效能將可提高480倍。Arm預期採用新處理器IP的晶片將在2021年上市並開始被使用。

Arm應用工程總監徐達勇表示,Cortex-M55搭配Ethos-U55,將提供手勢偵測、生物特徵識別、語音認知等機器學習能力,大幅提升終端裝置的智慧應用。終端裝置蒐集數據的同時,也具備機器學習模型推論能力,除了加快回應速度,也能降低對雲端AI、網路的依賴。

為減輕終端裝置的開發工作負擔,加速裝置端AI的發展,Arm也讓原有的Cortex-M開發工具支援Cortex-M55與Ethos-U55,整合了傳統CPU、DSP及ML的開發流程,並強調從TensorFlow Lite Micro開始,對新的機器學習框架進行整合與優化。

去年Arm針對智慧型手機、數位電視及家庭閘道器推出兩款NPU處理器,搭配Cortex-A系列處理器與Mali GPU,提供裝置端的即時影像辨識、物件分類。今年再推出Cortex-M55處理器,以及Cortex M專用的Ethos-U55,呼應Arm要讓AI無所不在的目標,讓數十億甚至更多的裝置也具備AI處理能力。