邊緣AI vs.雲端AI：永續運算系統怎麼選？
作者 : Saumitra Jagdale，Open Cloudware創辦人
除非應用的重點是安全性和即時處理，否則雲端AI最適合永續運算系統。但這也並不表示邊緣AI極其適用於需要即時處理和更安全協定的永續運算系統...
針對決策最佳化以及營運各個方面的評估，資料(data)提供了一個改進傳統方法的機會。機會的範圍通常與可供處理的資料量成正比，因此，高效的運算系統在實現人工智慧(AI)相關機制的結構化架構方面發揮著重要作用。
儘管雲端運算不斷取得突破和最佳化，但目前的資料量卻過於龐大，無法以最高的效率進行運算。此外，在傳輸大量資料時，延遲和安全性等參數也成為重要因素。常言道：「善治病者，必醫其受病之處；善救弊者，必塞其起弊之源。」同樣地，為了滿足更快處理和大量運算日益成長的需求，必須從最傳統的概念入手，即在本地進行資料處理，從而形成邊緣AI處理的基礎。
邊緣AI能否實現可持續的大量運算？
邊緣AI是指在裝置本身實現適用於AI工作負載的架構(圖1)。本地運算資料解決了延遲問題，為即時資料處理鋪路，並促進具有即時決策功能的應用。
圖1：邊緣AI架構。
當裝置通訊未連接許多外部來源和目標時，出現安全威脅的機率較低。但這並不表示邊緣AI完全不容易受到網路攻擊，因為在節點裝置上可以透過遠端入侵技術直接發生擴散。然而，這類攻擊可以透過在裝置本身啟用加密和解密的加密晶片來進行防護。
儘管邊緣AI受到裝置尺寸的限制，因而在處理能力上存在邊界，但設計上的最佳化仍然可以在一定程度上提升運算能力。這些最佳化包括高效的深度學習演算法、更快的裝置軟體，以及具有平行處理能力的架構。
在運算系統上的「永續性」(sustainability)突顯出邊緣裝置的能耗問題，以及與系統上大量運算負載相關的問題。有一些成功的方法，例如對微電網進行風險敏感分析，可以為邊緣運算網路提供動力來解決能源調度問題。
圖2描述了一種高精度的能源分析演算法，以因應由於能源消耗和發電的隨機變化而增加的能源需求和供應風險。
圖2：基於多代理非同步優勢actor-critic演算法與共用神經網路的風險敏感能量分析模型。
此外，還有其他方法，例如利用微電網均衡本地基地台(邊緣裝置)之間的能量負載以達到最佳能耗，以及在自供電網路中實現有效的邊緣裝置啟用和停用模式，促進了邊緣運算系統的永續性。
圖3展示了另一種強化學習演算法，它側重於對使用再生能源的自供電無線網路進行有效的能量分配機制。本地邊緣裝置將模擬用電量和發電量的預測，同時，每個邊緣裝置會將時變特徵傳遞給虛擬代理以實現最佳化的能源分配。
圖3：用於可持續邊緣運算的自供電能量調度之多代理虛擬增強學習架構。
邊緣AI能否實現永續的大量運算？顯然，有許多方法可以管理邊緣運算系統的能耗，但這些方法都非常複雜，並且在一定程度上轉移了對主要應用的關注。因此，如果嵌入更簡單的方法來降低系統的功耗負載，邊緣AI就可以永續發展。
更深入地瞭解雲端AI架構
顯然，目前企業應用的需求只能透過雲端來實現，因此，本地基礎設施正在雲端基礎設施中被重塑和改造。AI作為資料利用技術的後繼者也最適合雲端架構，但這並不意味著它沒有缺點，其中之一是資料通訊的延遲，而即時處理是該應用的基本需求。
圖4：雲端AI機制的示意圖。
隨著應用複雜性的增加，由於裝置數量的靈活性、設計的多功能性以及無電源上限，支援AI工作負載的集中式雲端運算架構能以最佳化運行。因此，與邊緣AI不同的是，我們總是可以使用高效複雜的演算法來最佳化能耗機制。
雲端AI系統 vs 邊緣AI系統
一般來說，除非應用的重點是安全性和即時處理，否則雲端AI最適合永續運算系統。這並不意味著邊緣AI非常適合需要即時處理和更安全協定的永續運算系統。如果使用更簡單的能源管理機制來實現，邊緣AI就可能摘下即時安全應用的「永續性」獎盃。
(參考原文：Edge AI vs. Cloud AI: What’s Best for Sustainable Computing Systems?，by Saumitra Jagdale)
加入LINE@，最新消息一手掌握！
