傳統上,實現AI的方法主要依靠軟體,但大量例外情況的出現給傳統軟體技術帶來了巨大的困難...
人工智慧(AI)是一種強大的模式辨識技術,旨在瞭解智慧的本質,並設計具備類似人類智慧的智慧型機器。通俗地來講,AI裝置可以「看到」、「聽到」或「感知」某個物體、聲音或事件,並且像人類一樣做出相應的行動。此前,實現AI的方法主要依靠軟體,例如當我們需要辨識一隻貓時,往往需要程式人員編寫一組規則來描述貓的特徵,從而約束程式的運行,如貓必須有尖尖的耳朵、三角形的鼻子和長長的鬍鬚等。
但大量例外情況的出現對於傳統軟體技術帶來了巨大的困難,如「在鬍鬚和鼻子都看不見的情況下,怎樣從後面或者側面辨識一隻貓?」、「如何在黑暗中辨識一隻純黑的貓?」或是「貓被遮擋、有折耳或沒有腿的情況下如何辨識?」等等。然而AI技術能夠透過大量的、不同的貓照片進行訓練,進而提取出貓的深層次抽象特徵。這些用於訓練的照片既包括貓的普遍特徵,又包含大量例外,從而有助於AI技術準確地辨識出一張新圖片中的貓。
ADI中國技術支援中心資深工程師辛毅說:「傳統的軟體方式是閉著眼睛,相當於『盲人摸象』,需要告訴軟體技術所有貓的特徵,費時費力也不準確;而AI技術相當於大量的學習過程,可以睜開眼睛看各種各樣的貓,從而進行學習,訓練好之後,看到新的貓圖片就能馬上判斷,可以說是洞若觀火。」
除此之外,得益於強大的運算能力,AI技術在工業、醫療、消費類等諸多領域得到了廣泛應用。比如,採用AI技術的工業攝影機可以辨識和分類不同等級的產品;將AI技術用於時間序列分析,可以對多人體生命徵象訊號(心電、PPG、生物電阻抗)等進行分析監測,提出初步診療指導意見,減輕醫生的工作量;具備AI功能的消費類產品可以根據使用者的指示或機器視覺開展工作,如語音操控掃地機器人,而掃地機器人則可以借助AI來規劃自身的行進路線。
目前,由於物與物之間的互連會產生大量的資料處理需求,只有AI強大的運算能力才能夠勝任,這也使得物聯網(IoT)技術正與AI技術發生深度融合,AIoT概念應運而生。如果將IoT比喻成「遍佈全身的神經網路」,那麼AI就相當於人類的「大腦」,要達到類似於人類的智慧,裝置必然需要進行大量的矩陣運算。這意味著大量的儲存空間、強大的運算能力、高速的資料互動,成本很高,往往只有部署在雲端的大型伺服器才能夠勝任這一工作。
然而,IoT技術更強調「物與物互連」,且多數裝置需要電池供電,資料在物與物之間的流通並不能完全依賴於雲端,因此IoT通常意味著低成本和低功耗,這就使得AI與IoT的融合產生了一定的矛盾與困難,但也促成了「邊緣AI」(Edge AI)技術的誕生。
邊緣AI也可理解為終端AI技術,最早起源於1990年代的邊緣運算。簡單而言,邊緣AI技術在靠近使用者本地的終端網路邊緣執行AI運算,而不是將資料集中在雲端或資料中心進行處理,裝置可以在本地自行進行運算並做出決策,不一定要連接網際網路,非常適合通訊網路不好、交通不便,又需要快速決策和及時預警的場景,如森林火災、公路、鐵路或大壩塌方監測等。
根據IDC預測,2025年全球IoT連接數將成長至270億個,未來超過75%的資料和應用將在邊緣產生和處理。
辛毅援引《韓非子·說林上》中的一句話,「失火而取水於海,海水雖多,火必不滅矣,遠水不救近火也」,來闡釋邊緣AI的優點。他將雲端AI類比為大海,大海雖然水多、能力強,但對於特殊場景終究遠水解不了近渴;而邊緣AI則可以在語音辨識、人體資料分析等對即時性要求高的領域發揮重要作用。
邊緣AI微控制器支援物聯實踐
作為ADI在邊緣AI領域最具代表性的解決方案之一,MAX78000系列由兩個微控制器(MCU)核心(ARM Cortex-M4F和RISC-V)加上一個卷積神經網路(CNN)加速器構成。其中,資料的載入和啟動由MCU核心負責,AI推論由卷積神經網路加速器專門負責。
根據ADI MCU產品線資深業務經理李勇的介紹,Cortex-M4F內部配有Flash和SRAM,主要處理應用和通訊,而RISC-V是一顆採用32位元精簡指令集的小核心,主要配合CNN工作。由於CNN工作時需要輸入圖片、聲音、波形等原始資料,RISC-V核心會將資料搬運至儲存空間,再用於CNN。經過硬體運算,CNN將原始資料通過矩陣乘法和加法得到特徵值,再放入記憶體進行比對。
與傳統的軟體AI方案相比,這種快速、低功耗的決策實施使得複雜的AI推論能耗降低到前期方案的百分之一以內,採用AI技術的電池供電系統可大幅延長其執行時間,有助於實現之前無法逾越的新一代電池供電AI應用。
資料顯示,MAX7800X具備更高的資料輸送量,可將速度提高100倍以上,成本遠低於FPGA等方案,略高於MCU,但可以處理更複雜的細節。功耗方面,相較於MCU+DSP解決方案,邊緣AI客製的硬體加速器可以將功耗降低99%以上,實現功耗、速度、成本的最佳化平衡。
應用方面,以視覺辨識為例,經過訓練,MAX7800X可以用在考勤打卡、智慧門鎖等電池供電的IoT裝置上的人臉辨識;攝影機上整合MAX78002後可以實現垃圾分類、產品分裝、快遞分揀等功能,相關案例包括雞蛋計數相機、可辨識冰箱內飲料數量的車載冰箱以及用於山火監測等。
MAX7800X系列的關鍵字辨識功能,則可以辨識出使用者的語音指示來進行操作,廣泛應用於智慧音箱、電動窗簾、智慧照明等語音控制的IoT裝置上。考慮到聲音也是一種振動,MAX7800X因此還被用於振動辨識,例如可提取使用者語音指令關鍵字的智慧頭盔、工業中的管道震動分析是否發生洩漏等。
根據功能,ADI將MCU產品分為三類:第一類是低功耗通用MCU,具備小體積、低功耗、大儲存的特點,適用於工業、IoT、醫療、消費類等應用;第二類是安全MCU,採用安全系統架構,具有很強的抗攻擊加密能力,可以用在對安全性能要求較高的智慧型機器或終端,如POS機、讀卡器等;第三類就是前文提及的AI MCU,其特色是可以將AI推論從雲端推向邊緣端,助力電池供電的人工智慧和IoT裝置,如智慧家居、人臉打卡、語音控制等。
從無線連接、更快的處理和運算、網路安全機制、更複雜的虛擬實境(VR)到人工智慧(AI)等技術,都將在未來的每一個嵌入式系統中發揮更關鍵功能。「嵌入式系統設計研討會」將全面涵蓋在電子產業最受熱議的「智慧」、「互連」、「安全」與「運算」等系統之相關硬體和軟體設計。
會中將邀請來自嵌入式設計相關領域的研究人員、代表廠商以及專家,透過專題演講、產品展示與互動交流,從元件、模組到系統,從概念設計到開發工具,深入介紹嵌入式系統設計領域的最新趨勢、創新和關注重點,並深入分享關於嵌入式系統設計的經驗、成果以及遇到的實際挑戰及其解決方案。
加入LINE@,最新消息一手掌握!