看好物聯網(IoT)與人工智慧(AI)合作夥伴的重要性及其帶來的進展,在日前一場由艾睿電子(Arrow Electronics)主辦的AI活動吸引了眾多業界嘉賓的參與。從機器學習(ML)、物聯網到智慧城市等應用,現場技術人員和專題演講主講人透過各種展示與簡報,為與會嘉賓開啟了通往這些驚人的AI創新應用之門。我們正朝向一個令人期待的未來,屆時AI將觸及並改善每一次的客戶互動、每一個產品以及每一項服務。預計到2025年,市場上將有大約500億台連網裝置。

AI導入IoT解決方案的應用越來越多,包括智慧工廠、智慧零售與智慧城市等。作為AI的基礎——機器學習和其他學習技術,也將在滿足企業和消費者需求的過程中發揮著越來越重要的作用。AI是指涉及人類智慧的各種典型操作,並由電腦執行。機器學習則是AI的子集,重點在於機器接收一系列資料並自行學習的能力,能夠在接收更多與當前處理有關的資訊後修改演算法。深度學習則採用具有各種不同處理單元的龐大神經網路模型,透過大量的資料分析,並利用運算處理和訓練技術來學習複雜的模型。

Arrow歐洲、中東和非洲(EMEA)地區物聯網總監Andrew Bickley為此次的AI大會揭開序幕。Bickley指出,目前在AI領域佔據主導地位的微軟(Microsoft)、英特爾(Intel)與輝達(Nvidia)正成為整個產業眾所矚目的焦點。「而Arrow則從創建、應用級到安全雲端,提供了端對端的合作夥伴AI系統。」(圖1)

Andrew Bickley, F1

圖1:Arrow EMEA物聯網總監Andrew Bickley在演講中強調AI合作夥伴的重要性。

作為AI系統基礎的軟體應用,並非象徵某個問題解決方案的一組不變指令集,而是一種表達、使用和修改知識庫的「環境」。這一類系統都包含一個知識庫和一個推論引擎。推論引擎是利用知識庫解決特定問題案並提供解釋的模組。

當今的企業每天都離不開新技術,同時面臨管理巨量數位資料的壓力,這種情況前所未有,但推動數位轉型對於其商業策略和生產力意義重大。Bickley說:「資料是一種新的驅動力。」為了盡可能地提高效率、減少不良決策導致的錯誤、最佳化產品與流程創新,以及最終實現更好的業績表現,分析大數據(big data)已經成為企業數位化的關鍵步驟。

5G將成為一個重要的通訊管道,它將各種數位轉換技術整合在一起,以滿足即時且高效的通訊需求。例如Quectel RG500Q和RM500Q 5G模組已準備好在5G市場上吸引目光焦點。這兩款5G模組還支援LTE-A和GNSS網路,可望成為商業和行動寬頻應用——如固定無線接取、行動熱點裝置以及公共安全和監控應用的理想選擇(圖2)。

Quectel stand, F2

圖2:Quectel展示其RG500Q和RM500Q 5G模組。

微軟大力投資AI

微軟斥資超過10億美元,透過OpenAI人工智慧實驗室(OpenAI Artificial Intelligence Lab)投資AI市場。這項投資用於為一系列的Azure雲端服務開發管理日益先進的AI模型。

來自德國慕尼黑的微軟EMEA市場IoT解決方案架構經理Graziano Galante說,「物聯網和AI生活正在改變技術。AI是電腦科學中一個驚人的領域,並正全面改寫我們的生活。」他接著說:「AI的潛力相當誘人。AI與先進分析意謂著機會越來越大,其目標在於翻轉商業模式,從簡化IoT過渡到民主化IoT。」

物聯網裝置快速成長以及隨之產生的巨量資料需要即時智慧,因此,在更接近資料所在位置執行計算與分析的需求越來越迫切。相較於其邊緣解決方案,Azure IoT Edge提供了更大的靈活性和控制力,使其得以修改邊緣應用的執行時間並進行除錯。例如,Azure Cognitive Services讓應用得以實現看、聽、回應、翻譯與推論等(圖3)。

Graziano Galante, F4

圖3:微軟EMEA市場IoT解決方案架構經理Graziano Galante介紹如何透過AI聯手合作夥伴共創商業價值。

英特爾打造硬體生態系統

英特爾生態系統提供了多種硬體解決方案,包括CPU、GPU、FPGA和ASIC。針對AI應用而設計的ASIC晶片包括用於推論的Nervana NNP-I、用於訓練的NNP-T,以及Movidus視覺處理單元(VPU)。Nervana系列是英特爾首款專為複雜的深度學習而開發之ASIC,為雲端與資料中心客戶提供了強大的可擴展性和高效率。

英特爾的Nervana NNP-T產品在運算、通訊和記憶體之間達到了最佳平衡,因而無論是從小型叢集到效能最佳化資料中心(POD)的最大型超級電腦,都可實現近乎線性的擴展與高能效。

英特爾Movidius Myriad則用於多媒體應用、電腦視覺以及邊緣推論。新一代英特爾Movidius VPU將帶來高效的專用架構改進,旨在提供領先業界的性能——預期新一代產品的推論性能將較上一代產品提高10倍以上,能效也比競爭對手的處理器更高6倍。

而在以資料為導向的新興領域,如邊緣運算、連網和雲端等,客戶需要的是能夠聚合並處理越來越多的資料流量以實現變革應用的解決方案。而在邊緣、網路和雲端層級採用AI進行資料分析的進步,也迫使硬體系統滿足不斷發展的標準,以支援不同的AI工作負載,並整合多種功能。

為了加速解決這些以資料為中心的問題,需要採用靈活的解決方案來處理資料。透過FPGA晶片提供可客製的連線性和加速化,同時為不同的工作負載提供更迫切需要的性能和功耗改善。

FPGA可實現即時推論(或模型評分)所要求的低延遲特性。FPGA電路可以針對不同類型的機器學習模型重新配置。由於採用了最佳的記憶體模型和數值精度,這種靈活性能夠加速應用。FPGA還可用於實現深度學習,包括高度可客製的資料路徑、高度平行且具確定性的運算,以及更靈活的系統整合。

此外,英特爾的OpenVINO工具套件則有助於開發快速追蹤的電腦視覺以及高性能的深度學習應用,可在硬體加速器中進行特定的學習,簡化各種英特爾平台之間的異質執行。

OpenVINO工具套件能夠協助開發人員和資料科學家為機器視覺應用快速開發高性能AI和深度學習。OpenVINO基於神經網路的邊緣運算概念,讓開發人員可以用它創建一系列不同的平台(圖4)。英特爾EMEA市場開發經理Paolo Righi說:「AI應用在兩個方面:訓練,即教導神經模型;以及推論,即瞭解哪個影像被辨識為示例。OpenVIVO的作用非常重要,因為它可以在不同的框架上作業,並針對所使用的平台(CPU、GPU或其組合)來最佳化程式碼。」

Intel Stand, F4

圖4:英特爾展示針對AI打造的硬體解決方案以及工具套件。

從邊緣到雲端聯手AI合作夥伴

然而,物聯網的發展和遠端維護,也提高了駭客入侵的可能性。面對敏感性資料和智慧財產權(IP)可能被竊取的風險,以及整個系統平台可能被操縱等安全攸關的挑戰,解決安全問題迫在眉睫。英飛凌在會中展示的可信賴平台模組(TPM)扮演著連網裝置數位身份等敏感性資料的「保險箱」,可望顯著降低由於網路攻擊造成的資料遺失或產線停機等風險。

「近期的目標將在於解決安全問題。」芯科科技(Silicon Labs)南歐區資深業務經理Patrizio Piasentin強調,「未來的通訊協議是什麼?哪一種技術能將風險降到最低?哪一種協議容易安裝?這些都是未來要考慮的問題。」

Silicon Labs的專有無線協議由於提供了低功耗藍牙(BLE)、Zigbee和Thread等連接選項而增添亮點。支援多重協議的新型Gecko Wireless SoC系列包括Flex Gecko、Blue Gecko和Mighty Gecko,還可為專有無線協議進行客製(圖5)。

Nvidia則提供一系列可用於訓練機器學習模型的GPU解決方案,可辨識各種不同的輸入。該GPU製造商在汽車、安全監控系統、機器人和智慧製造等推廣AI應用普及的領域佔據重要地位。

例如其Jetson Nano,是專為作為AI裝置(如機器人和自動機器等)的心跳和大腦思考而設計的開發板。其所提供的元件能夠控管演算法,以執行物體辨識以及甚至自動駕駛等操作,而不必依賴雲端架構的遠端伺服器下命令執行。Nvidia還開發了一套軟體用來創建演算法,能夠讓虛擬助理和聊天機器人使用起來不至於太笨拙。該軟體並已經由其GPU實現最佳化。

Silabs, Patrizio Paisentin, F5

圖5:Silicon Labs南歐區資深業務經理Patrizio Piasentin強調IoT應用在儲存容量、功耗、電池續航力、成本與使用壽命等方面都明顯存在限制。

結語

邊緣運算、AI、大數據等元素將伴隨我們一同邁向不遠的未來。為此,新開發的軟體和硬體解決方案必須能夠有效地因應IoT方案帶來的低延遲、安全性和通訊等商機。AI可應用於預測性維護以及製造業的其它許多用例,提供一系列技術來分析生產過程中收集的大量資料,並產生有用的資訊,才能實現並支援卓越的生產力。

(參考原文:Transform Your Business With AI,by Maurizio Di Paolo Emilio)

本文同步刊登於電子技術設計雜誌2020年1月號