與此同時,發表在arXiv網站的研究報告《學習的生物學機制:煙草天蛾嗅覺學習的運算模型及其在神經網 路中的應用(Biological Mechanisms for Learning: A Computational Model of Olfactory Learning in the Manduca sexta Moth, with Applications to Neural Nets)》,對生物是如何學習的(或至少某些生物是如何學習的)提供了新見解。

模擬生物神經系統效能的最常見途徑一直是創造機器學習能力越來越高階且越來越複雜的AI。但是,表現有時優於AI的生物系統卻並不那麼複雜,而且僅依靠很少經驗的活體生物學習速度往往比需要大量資料收集的AI學習速度快得多。

從這些觀察出發,華盛頓大學的研究人員決定設計一個相對簡單的神經網路模型,類比飛蛾神經系統相對簡單的結構。

20180418NT01P1 飛蛾大腦神經網路運作方式可能有助於使機器學習的速度更簡單快速。(圖片來源:維基百科共用資源)

華盛頓大學幾十年來一直在進行昆蟲生物學研究——該研究小組之所以選擇飛蛾,是因為該校實驗室已完全繪製了它們的神經系統。他們已經瞭解飛蛾在聞過幾次氣味後就可以識別這種氣味,然而,儘管飛蛾的神經系統相對簡單,但人們仍不清楚其學習機制。

大多數神經網路是以反向傳播的原則工作。對於這種技術,神經元之間的權重(基本上是它們之間的連接強度)是透過將輸出回饋回系統的過程不斷地被重新計算,從而可以對輸入和輸出進行相互比較和調整。

生物系統很少這麼做。相反地,它們通常被組織為前饋級聯(feed-forward cascades)。

天蛾級聯的開始是一組大約30,000個化學受體神經元(RN),它將訊號饋送到觸角葉(AL)中。AL包含大約60個孤立的細胞群(稱為纖維球),每個細胞專注於單一氣味刺激特徵。研究人員表示,AL本質上是嘈雜的,研究人員並將AL比作前端放大器,「以提供增益控制並強化氣味呈現」。

來自AL的訊號被傳遞到被稱為蘑菇體(MB)的結構。MB包含約4,000個與形成記憶相關的細胞(Kenyon細胞),訊號經過另兩個輔助結構(每個結構包含數十個細胞),其功能被認為是從MB讀取訊號。研究人員寫道,這些稀疏結構起著雜訊濾波器的作用,雜訊並未消除,但為了有效學習而被充分降低。

如果沒有被形容為神經調節劑的章胺(octopamine),該過程完全不起作用。這種化學物質的釋放是由獎勵引起的——例如,飛蛾發現了食用糖。當飛蛾獲得獎勵時,釋放的章胺刺激AL和MB中的增強活性,這種增強活性的實際效果是加強了飛蛾神經系統中相關神經元之間的聯繫。這種機制被稱為赫布學習(Hebbian learning);神經元連接強度可改變的程度被稱為赫布可塑性(Hebbian plasticity)。

華盛頓大學的研究人員建立了一個模擬上述所有機理的數學模型,且他們的飛蛾神經模型能夠以最少的類比氣味輸入進行快速學習。其結果與他們在飛蛾中觀察到的行為相似,這強烈意味著他們得到了一個準確的模型。

如果是這樣,這將對生物學和神經網路研究產生影響。模型的行為與實際生物系統的行為非常相似,這促使研究人員期望現在可以更清楚地瞭解活體生物的工作機制。研究人員指出,飛蛾的嗅覺/神經系統在結構上與許多其他生物類似。

他們的工作也為探索機器學習提供了一條新途徑。他們在論文中寫道:「具體而言,我們的實驗闡明了依靠級聯網路、稀疏性和赫布可塑性從雜訊資料中快速學習的機制。」

(參考原文: The key to smarter, faster AI likely found by modeling moth brains,by Brian Santo)