AI實現網路安全:炒作還是現實?

作者 : Ludovic Rembert,PrivacyCanada.net創辦人

鑒於圍繞著人工智慧和機器學習的話題大肆炒作,很可能在無意中就高估了這些技術所帶來的威脅程度,同樣地也會輕易地高估目前所能提供的安全防護…

人工智慧(Artificial Intelligence;AI)和機器學習(Machine Learning;ML)曾經被認為是難以在現實世界中找到應用的技術,而今這兩項技術及其應用已經成為我們生活中的一部份。

根據研究機構Capgemini Research Institute統計,大約有五分之一的企業組織已在某種程度和某些領域中使用人工智慧技術了,而三分之二尚未使用人工智慧的企業也計畫陸續在近期開始導入。

企業組織針對網路安全利用AI,主要用於偵測、預測以及回應攻擊。(資料來源:Capgemini Research Institute

不過,這些技術並不僅僅是一種正向的力量。機器學習存在機會也帶來挑戰,這一點在網路安全(cybersecurity)領域表現得最為明顯。當網路安全團隊使用機器學習技術——尤其是神經網路(Neural Networks;NNs)——辨識威脅的同時,駭客們也在使用同樣的技術進行攻擊。

然而,鑒於圍繞著人工智慧和機器學習的話題炒作,可能在無意中就忽略了這些技術所帶來的威脅程度,同樣地也會輕易地高估目前所能提供的防護。

因此,本文將針對駭客與組織如何使用人工智慧和機器學習進行實際的評估。

威脅

當談及機器學習技術帶來的威脅時,一直存在許多臆測。有些猜測聲稱難以相信未來的能力。

例如,在此範疇中,我們看到以人工智慧驅動的惡意軟體類型,能主動偵測受害系統的弱點。機器學習帶來的真正威脅較有限——至少目前如此,而主要依靠訓練神經網路來模擬合理網路流量或通訊狀況。

IBM的人工智慧驅動概念驗證(PoC) DeepLocker可說是人工智慧被應用於網路攻擊的實際案例。DeepLocker系統能利用公開可用的資料,從網路安全工具中自行隱藏,以便在到達預期目標之前處於休眠狀態。無論是經由臉部或語音辨識,一旦偵測到目標後,將會執行其惡意負載。

惡意使用人工智慧的另一個實際案例是最近發生的事件,一個不知名的駭客組織成功使用DeepFakes——利用神經網路建立假的影片,欺騙一家英國能源公司轉帳至攻擊者的銀行帳戶。儘管這名駭客主要利用機器學習技術,但也必須瞭解從最基本的層面來看,這仍然只能算是被利用來作為相當「一般」的網路釣魚騙局,並非呈現一項全新威脅。

網路安全中的人工智慧

根據市場研究機構MarketsandMarkets Research的統計,2019年人工智慧網路安全市場(AI in Cybersecurity)的價值約88億美元,預計將在2026年快速成長到382億美元,CAGR達到23.3%。“AI in Cybersecurity”這一市場成長的主要驅動力來自物聯網(IoT)的日益普及、連網裝置數量增加、網路威脅案例的增加、對於資料的日益關注以及Wi-Fi網路脆弱對於安全威脅也日益增加。

2026年人工智慧網路安全市場規模預計將突破382億美元。(資料來源:MarketsandMarkets Research

人工智慧也大幅提升了企業組織的安全性。該市場研究機構即指出,人工智慧在網路安全市場的潛在機會包括中小企業對於雲端安全解決方案的需求不斷成長,以及社群媒體在業務功能中的使用增加。

相較於在攻擊系統中使用神經網路,在網路安全中使用這些技術似乎發展得更好,也更為廣泛地被使用。

乍看之下,當提到威脅預防時,機器學習系統似乎能提供許多好處。辨識異常的網路流量對於人類操作員來說是一個困難且緩慢的過程,而神經網路——特別是它所採用的方式將更有助於加快這一過程。

然而,同樣值得瞭解的是,這些系統主要依靠神經網路,而不是真正的人工智慧。機器學習網路安全系統則被用於發現不尋常的網路活動,因為這些可能是即將發生攻擊的早期跡象。

這些系統的主要優勢在於其速度,而不是對所攻擊機制的機智反應能力。例如,網站安全系統可以掃描網路活動,以偵測出用於探測弱點的機器人,但目前它們無法直接回應可疑的攻擊。

面臨的挑戰

這並不是說機器學習無法在網路安全或駭客攻擊中找到更多的應用。然而,目前機器學習系統的效用仍然受到許多挑戰的限制。

其中最重要的是訓練這些系統所需的運算資源以及大量的資料。最近的研究試圖評估機器學習類型在檢測「洋蔥路由器」(The Onion Router;TOR)匿名流量方面的價值,就是一個很好的說明。

這項研究顯示,部署機器學習技術來分析所收到的請求,能夠對於匿名流量的資料外流提供良好的防護功能。然而,研究人員也指出,這項研究中所使用的資料集遠遠小於一般網路安全環境中的典型資料集。

對於尋求使用機器學習技術的駭客與網路安全人員來說,這個頗具規模的問題仍然是他們面臨的最大挑戰。即使是惡意軟體掃描器一般也無法在足夠大的資料集上進行訓練,以克服訓練偏差,這是因為一般組織無法取得所需的全域資料集。

  • 目前,人工智慧和機器學習的主要應用(同樣地,對駭客與網路安全專業人員而言)是自動分析網路流量。諸如Google與Facebook等主要科技業者一直在利用機器學習辨識大量資料集的趨勢和類型,其目的就在於開發出能夠隨著時間推移而進展的演算法,並在未來的虛擬現實中現實。
  • 具體來說,Facebook一直在利用機器學習開發臉部辨識技術,而Google也正利用機器學習演算法來掃描每秒鐘所執行的各種新查詢。最後,這二種技術途徑都將被用來協助瞭解世界的行為如何變化。因此,系統可以為這兩個群體提供威脅情報,但目前人工智慧工具的自主性仍然極其受限制。

未來

鑒於以上所有的觀察,對於人工智慧與機器學習系統所宣稱的說法,讓人很容易抱持質疑的態度。顯然地,一方面,這種系統將變得更加普遍,特別是在IoT網路中的應用。

然而,目前這些系統在打擊網路威脅的能力,或是執行新型網路攻擊的能力方面仍然有其限制。

(參考原文:AI-based cybersecurity: Hype or reality?by Ludovic Rembert)

本文同步刊登於EDN Taiwan 202211月號雜誌

加入LINE@,最新消息一手掌握!

發表評論