邊緣智慧需求猛增 AI MCU飛入尋常百姓家

作者 : 邵樂峰

傳統上,實現AI的方法主要依靠軟體,但大量例外情況的出現給傳統軟體技術帶來了巨大的困難...

人工智慧(AI)是一種強大的模式辨識技術,旨在瞭解智慧的本質,並設計具備類似人類智慧的智慧型機器。通俗地來講,AI裝置可以「看到」、「聽到」或「感知」某個物體、聲音或事件,並且像人類一樣做出相應的行動。此前,實現AI的方法主要依靠軟體,例如當我們需要辨識一隻貓時,往往需要程式人員編寫一組規則來描述貓的特徵,從而約束程式的運行,如貓必須有尖尖的耳朵、三角形的鼻子和長長的鬍鬚等。

但大量例外情況的出現對於傳統軟體技術帶來了巨大的困難,如「在鬍鬚和鼻子都看不見的情況下,怎樣從後面或者側面辨識一隻貓?」、「如何在黑暗中辨識一隻純黑的貓?」或是「貓被遮擋、有折耳或沒有腿的情況下如何辨識?」等等。然而AI技術能夠透過大量的、不同的貓照片進行訓練,進而提取出貓的深層次抽象特徵。這些用於訓練的照片既包括貓的普遍特徵,又包含大量例外,從而有助於AI技術準確地辨識出一張新圖片中的貓。

ADI中國技術支援中心資深工程師辛毅說:「傳統的軟體方式是閉著眼睛,相當於『盲人摸象』,需要告訴軟體技術所有貓的特徵,費時費力也不準確;而AI技術相當於大量的學習過程,可以睜開眼睛看各種各樣的貓,從而進行學習,訓練好之後,看到新的貓圖片就能馬上判斷,可以說是洞若觀火。」

除此之外,得益於強大的運算能力,AI技術在工業、醫療、消費類等諸多領域得到了廣泛應用。比如,採用AI技術的工業攝影機可以辨識和分類不同等級的產品;將AI技術用於時間序列分析,可以對多人體生命徵象訊號(心電、PPG、生物電阻抗)等進行分析監測,提出初步診療指導意見,減輕醫生的工作量;具備AI功能的消費類產品可以根據使用者的指示或機器視覺開展工作,如語音操控掃地機器人,而掃地機器人則可以借助AI來規劃自身的行進路線。

目前,由於物與物之間的互連會產生大量的資料處理需求,只有AI強大的運算能力才能夠勝任,這也使得物聯網(IoT)技術正與AI技術發生深度融合,AIoT概念應運而生。如果將IoT比喻成「遍佈全身的神經網路」,那麼AI就相當於人類的「大腦」,要達到類似於人類的智慧,裝置必然需要進行大量的矩陣運算。這意味著大量的儲存空間、強大的運算能力、高速的資料互動,成本很高,往往只有部署在雲端的大型伺服器才能夠勝任這一工作。

然而,IoT技術更強調「物與物互連」,且多數裝置需要電池供電,資料在物與物之間的流通並不能完全依賴於雲端,因此IoT通常意味著低成本和低功耗,這就使得AI與IoT的融合產生了一定的矛盾與困難,但也促成了「邊緣AI」(Edge AI)技術的誕生。

邊緣AI也可理解為終端AI技術,最早起源於1990年代的邊緣運算。簡單而言,邊緣AI技術在靠近使用者本地的終端網路邊緣執行AI運算,而不是將資料集中在雲端或資料中心進行處理,裝置可以在本地自行進行運算並做出決策,不一定要連接網際網路,非常適合通訊網路不好、交通不便,又需要快速決策和及時預警的場景,如森林火災、公路、鐵路或大壩塌方監測等。

根據IDC預測,2025年全球IoT連接數將成長至270億個,未來超過75%的資料和應用將在邊緣產生和處理。

辛毅援引《韓非子·說林上》中的一句話,「失火而取水於海,海水雖多,火必不滅矣,遠水不救近火也」,來闡釋邊緣AI的優點。他將雲端AI類比為大海,大海雖然水多、能力強,但對於特殊場景終究遠水解不了近渴;而邊緣AI則可以在語音辨識、人體資料分析等對即時性要求高的領域發揮重要作用。

邊緣AI微控制器支援物聯實踐

作為ADI在邊緣AI領域最具代表性的解決方案之一,MAX78000系列由兩個微控制器(MCU)核心(ARM Cortex-M4F和RISC-V)加上一個卷積神經網路(CNN)加速器構成。其中,資料的載入和啟動由MCU核心負責,AI推論由卷積神經網路加速器專門負責。

根據ADI MCU產品線資深業務經理李勇的介紹,Cortex-M4F內部配有Flash和SRAM,主要處理應用和通訊,而RISC-V是一顆採用32位元精簡指令集的小核心,主要配合CNN工作。由於CNN工作時需要輸入圖片、聲音、波形等原始資料,RISC-V核心會將資料搬運至儲存空間,再用於CNN。經過硬體運算,CNN將原始資料通過矩陣乘法和加法得到特徵值,再放入記憶體進行比對。

與傳統的軟體AI方案相比,這種快速、低功耗的決策實施使得複雜的AI推論能耗降低到前期方案的百分之一以內,採用AI技術的電池供電系統可大幅延長其執行時間,有助於實現之前無法逾越的新一代電池供電AI應用。

資料顯示,MAX7800X具備更高的資料輸送量,可將速度提高100倍以上,成本遠低於FPGA等方案,略高於MCU,但可以處理更複雜的細節。功耗方面,相較於MCU+DSP解決方案,邊緣AI客製的硬體加速器可以將功耗降低99%以上,實現功耗、速度、成本的最佳化平衡。

應用方面,以視覺辨識為例,經過訓練,MAX7800X可以用在考勤打卡、智慧門鎖等電池供電的IoT裝置上的人臉辨識;攝影機上整合MAX78002後可以實現垃圾分類、產品分裝、快遞分揀等功能,相關案例包括雞蛋計數相機、可辨識冰箱內飲料數量的車載冰箱以及用於山火監測等。

MAX7800X系列的關鍵字辨識功能,則可以辨識出使用者的語音指示來進行操作,廣泛應用於智慧音箱、電動窗簾、智慧照明等語音控制的IoT裝置上。考慮到聲音也是一種振動,MAX7800X因此還被用於振動辨識,例如可提取使用者語音指令關鍵字的智慧頭盔、工業中的管道震動分析是否發生洩漏等。

根據功能,ADI將MCU產品分為三類:第一類是低功耗通用MCU,具備小體積、低功耗、大儲存的特點,適用於工業、IoT、醫療、消費類等應用;第二類是安全MCU,採用安全系統架構,具有很強的抗攻擊加密能力,可以用在對安全性能要求較高的智慧型機器或終端,如POS機、讀卡器等;第三類就是前文提及的AI MCU,其特色是可以將AI推論從雲端推向邊緣端,助力電池供電的人工智慧和IoT裝置,如智慧家居、人臉打卡、語音控制等。

活動簡介

人工智慧(AI)無所不在。這一波AI浪潮正重塑並徹底改變科技產業甚至整個世界的未來。如何有效利用AI協助設計與開發?如何透過AI從設計、製造到生產創造增強的體驗?如何以AI作為轉型與變革的力量?打造綠色永續未來?AI面對的風險和影響又是什麼?

AI⁺ 技術論壇聚焦人工智慧/機器學習(AI/ML)技術,涵蓋從雲端到邊緣、從硬體到軟體、從演算法到架構的AI/ML技術相關基礎設施之設計、應用與部署,協助您全面掌握AI最新技術趨勢與創新,接軌AI生態系佈局,讓機器學習更快速、更經濟、更聰明也更有效率。

贊助廠商

加入LINE@,最新消息一手掌握!

發表評論