亚愽娱乐app

    當前位置:首頁 > 科學傳播 > 科普文章

科普文章

余山:從腦網絡到人工智能 ——類腦計算的機遇與挑戰

  • 發表日期:2016-04-19 【 【打印】【關閉】
  •   20163月,AlphaGo與職業圍棋選手的對局引發了人們對于人工智能的高度關注。計算機在一個公認的非常復雜的計算與智力任務中,打敗了人類的頂尖選手,靠的是類人腦的智能嗎?從系統的結構看,AlphaGo結合了深度神經網絡訓練與蒙特卡洛模擬[1]。廣義的說,深度神經網絡是類腦的計算形式,而蒙特卡洛方法則是發揮機器運算速度的優勢,模擬出數量巨大的可能性用以進一步判斷,這現在看來不是大腦工作的機制。所以AlphaGo 可以說是結合了類腦與非類腦的計算與智能,完美發揮其各自特長所取得的成功。除了AlphaGo 所運用的深度神經網絡之外,現在研究的類腦計算和智能還有哪些方面?可能會在不久的將來帶來什么樣的突破呢? 

      什么是類腦計算?    

      一般地說,類腦計算是指借鑒大腦中進行信息處理的基本規律,在硬件實現與軟件算法等多個層面,對于現有的計算體系與系統做出本質的變革,從而實現在計算能耗、計算能力與計算效率等諸多方面的大幅改進。過去幾十年來通訊與計算機技術的長足發展帶來了信息化革命,但現有計算系統仍然面臨2個嚴重的發展瓶頸:一是系統能耗過高,二是對于人腦能輕松勝任的認知任務(比如語言及復雜場景的理解等)處理能力不足,難以支撐高水平的智能。大腦在這兩個方面的明顯優勢使得借鑒大腦成了一個非常有前景的方向。類腦計算是生命科學,特別是腦科學與信息技術的高度交叉和融合,其技術內涵包括對于大腦信息處理原理的深入理解,在此基礎上開發新型的處理器、算法和系統集成架構,并將其運用于新一代人工智能、大數據處理、人機交互等廣泛的領域。類腦計算技術有望使人工信息處理系統以非常低的能耗,產生出可以與人腦相比擬的智能。很多人認為,這一方向的實質進展將可能真正開啟智能化革命的序幕,從而對社會生產生活帶來深刻地變革[2]     

      腦信息處理基本規律的研究 

      類腦計算的研究大致可以分為神經科學的研究、特別是大腦信息處理基本原理的研究,類腦計算器件(硬件)的研究和類腦學習與處理算法(軟件)的研究3個方面。在神經科學領域,過去幾十年間,特別是過去10年左右的時間,取得了非常快速的發展。現在對于大腦的工作原理已經積累了豐富的知識,這為類腦計算的發展提供了重要的生物學基礎。人腦是一個由近千億的神經元通過數百萬億的接觸位點(突觸)所構成的復雜網絡。感覺、運動、認知等各種腦功能的實現,其物質基礎都是信息在這一巨大的網絡當中的有序傳遞與處理。通過幾代神經科學家的努力,目前對于單個神經元的結構與功能已經有較多了解。但對于功能相對簡單的神經元如何通過網絡組織起來,形成我們現在所知的最為高效的信息處理系統,還有很多問題尚待解決。腦網絡在微觀水平上表現為神經突觸所構成的連接,在介觀水平上表現為單個神經元之間所構成的連接,在宏觀水平上則表現為由腦區和亞區所構成的連接。在不同尺度的腦網絡上所進行的信息處理既存在重要差別,又相互緊密聯系,是一個統一的整體。目前神經科學的研究熱點就主要集中于在上述各層面解析腦網絡的結構,觀察腦網絡的活動,最終闡明腦網絡的功能,即信息存儲、傳遞與處理的機制。要實現這一目標,需要突破的關鍵技術是對于腦網絡結構的精確與快速測定,腦網絡活動的大規模檢測與調控,以及對于這些海量數據的高效分析,此外也亟需在實驗數據的約束下,建立適當的模型和理論,形成對腦信息處理的完整認識[3]   

      類腦計算硬件的研究 

      類腦計算器件研究的初衷是在不影響性能的前提下,大大降低功耗,或者在相似功耗下,極大提高速度。現代計算機雖然具有驚人的運算能力與運算速度,但與之相伴的是高昂的能量消耗。大型計算機的功耗往往在兆瓦量級以上,與之相比,成年人大腦的功耗只有大約20 W。巨大的能耗嚴重限制了系統進一步向微型化的方向發展(因為難以散熱),也會使得復雜的嵌入式應用和遠程應用,比如宇航探索,缺乏足夠的計算能力支持(因為難以攜帶足夠的能源)。現代計算機能耗高的一個重要原因是計算機普遍采用的馮.諾依曼架構。馮氏架構中,信息處理單元與存儲單元是分離的,這樣在運算過程中,勢必要經常將數據在處理單元與存儲單元之間進行傳遞,這一看似簡單的過程卻能貢獻系統近50%的功耗。與之相比,在生物腦中,信息的處理是在神經網絡中實現,而數據本身則是分布式的存儲于網絡的各個節點(比如由神經元內的離子濃度表征)以及節點之間的連接(比如由突觸的強弱表征)上,運算和存儲在結構上是高度一體化的。這樣,用少量甚至單個電子器件模仿單個神經元的功能,而將數量巨大的電子“神經元”以類腦的方式形成大規模并行處理的網絡,以進行計算,就成為了非常有吸引力的方向。目前研究的熱點包括尋找更適合的器件以模擬單個神經元(比如憶阻器),設計非馮氏體系為基礎的處理器等。近來IBM公司研發的TrueNorth芯片是這一領域的代表性進展,由于使用了非馮氏結構體系和其他一系列措施,實現了對于功耗近2個數量級的降低(圖1[4]。另外的重要進展還包括研發專用處理器,針對深度神經網絡等類腦算法進行專門優化,以提高速度、降低功耗[5],由于這一領域的算法已在圖像、語音識別等方面有成熟的應用,此類專用處理器有望能較早投入實際運用。

     

      類腦學習與處理算法的研究 

      能夠大大降低能耗或是加快速度的類腦的處理器對于實現更高水平的智能無疑會有很大的幫助,但要真正實現類人水平的通用人工智能,除了需要這樣的硬件基礎外,關鍵還需要理解生物腦對于亚愽娱乐app做的計算,即類腦的處理及學習算法。對于此研究方向,一個常見的顧慮是:現在神經科學對于大腦工作機制的了解還遠遠不夠,這樣是否能夠開展有效的類腦算法研究?對此,我們可以從現在獲得廣泛成功的深度神經網絡獲得一些啟示。從神經元的連接模式到訓練規則等很多方面看,深度神經網絡距離真實的腦網絡還有相當距離,但它在本質上借鑒了腦網絡的多層結構(即“深度”一詞的來源),而大腦中,特別是視覺通路的多層、分步處理結構是神經科學中早已獲得的基本知識。這說明,我們并不需要完全了解了腦的工作原理之后才能研究類腦的算法。相反,真正具有啟發意義的,很可能是相對基本的原則。這些原則,有的可能已經為腦科學家所知曉,而有的可能還尚待發現,而每一項基本原則的闡明及其成功的運用于人工信息處理系統,都可能帶來類腦計算研究的或大或小的進步。非常重要的是,這一不斷發現、轉化的過程不僅能促進人工智能的進展,也會同步加深我們對于大腦為何能如此高效進行信息處理這一問題的理解[6],從而形成一個腦科學和人工智能技術相互促進的良性循環。 

      如果這樣來看腦科學與類腦算法研究的關系,我們可能會發現很多可供借鑒的基本規律。下面簡單分析幾個例子。第一是我們可以向腦學習如何更好地實現算法設計的模塊化。模塊化設計早已被計算機科學所采用。在這樣的設計中,問題的解決分成幾個固定的部分(子問題),每一個計算模塊(子程序)只負責處理其中的一個。這一設計的優勢在于能使算法設計大大簡化,易于調試,易于修改,可以逐步完善并增加功能。更重要的是,因為表面上看起來不一樣的問題往往能分解成相似的子問題,這使得模塊可以重復利用,大大提高了效率并使得高度簡并的系統能夠勝任復雜多樣的任務[7]。模塊化設計的優勢顯而易見,但面對一系列具體問題,應該如何最有效率地劃分子問題,這本身是一個困難的任務。而這可能是我們能夠向大腦學習的重要知識之一。真實的大腦是模塊化設計的一個范例,每個腦區或亞區負責一個信息處理的環節或方面,而具體的模塊劃分是經過漫長自然選擇加以優化的結果,已經適應了高效處理真實世界的實際問題。深度神經網絡借鑒的對于視覺信息的多層、分步處理結構,某種意義上就是大腦模塊化設計的一個方面。另外近期的一項研究顯示,僅僅初步借鑒了非常粗略的腦功能模塊劃分(包括一系列視覺區域,一個記憶區域,一個決策區域以及一系列運動控制區域等),就能使得一個相對簡單的系統勝任多種不同的任務(圖2[8]

      

      AlphaGo 存在一個圍棋盤面的估值網絡和一個獨立的走棋網絡(雖然我們還不知道這是否是有意的類腦的設計,但這在原理上可能是類腦的劃分),也說明了合適的模塊化設計可能是其成功的一個重要因素。這些結果令人鼓舞,但我們對于大腦模塊化設計的借鑒也許才剛剛開始。現在神經科學的研究正在為我們給出非常詳盡的,包含數百個亞區的有關人腦的模塊化分區圖譜,包括每一個模塊和其他模塊之間的信息傳遞通路(圖3[9]。可以預見,這將對類腦信息處理算法的設計提供關鍵的啟示。比如對于語言區的精細亞區劃分及其功能的闡明,就可能對于語言處理算法的模塊化設計提供有益的借鑒。有關類腦算法設計的第二個例子是我們可以向大腦學習如何調節網絡的狀態,從而靈活調控信息處理過程,使得系統能夠適應不同的功能需求。

      腦中除了基本的興奮與抑制性的神經遞質外,還有眾多的神經調質,他們的作用在于根據當前的環境與行為目標隨時動態調節大范圍神經網絡的行為,使得相對固定的網絡結構能夠勝任復雜多變的情況,實現千差萬別的任務。近年來對于介觀及宏觀腦網絡動態活動規律的研究發現,腦網絡可能自發地組織于一個“臨界”狀態附近,這一狀態使得信息的存儲、傳遞和處理都能實現最優化[10]。重要的是,通過對這一狀態的微調,可以迅速調節網絡功能,從而適應不同任務的要求。對于神經調質以及網絡狀態調控等原理的借鑒,有望對設計更加靈活,更有適應能力的人工信息處理系統提供有益啟示。我們有可能從大腦的工作原理受到重要啟發的第3個例子是如何實現小樣本的學習和有效推廣。目前取得巨大成功的深度學習依賴于龐大的樣本數量,這與大腦卓越的“舉一反三”,即小樣本學習的能力形成鮮明對比[11]。原理上看,這意味著生物腦的學習過程并非從零開始,而是從學習之初,就擁有并運用了重要的先驗知識,這包含了物種在進化過程中學到的(生物學稱之為系統發生),以及個體在生活過程中學到的有關真實世界的關鍵知識[12]。讀取這些知識,以及借鑒如何將這些知識作為先驗信息注入神經網絡結構從而實現小樣本學習,可能會是神經科學以及類腦算法設計中一個富于成果的領域。    

      除了上面舉出的幾個例子,神經科學可能會對類腦算法設計提供重要啟示的領域還包括對于突觸可塑性的進一步認識,具體的各項腦功能在神經環路水平的機制等。幾乎可以說,每一項腦科學的原理性發現,都可能蘊含著一顆種子,有潛力在人工智能的領域成長為像深度神經網絡一樣的參天大樹。   

      總結而言,類腦計算是融合了腦科學與計算機科學、信息科學和人工智能等領域的交叉學科,我們有理由期待這一領域的研究將在不久的將來帶來更多的令人矚目的成就,推動智能技術向通用的人類水平的智能,即強人工智能的目標逐漸逼近。 

        

      參考文獻(References 

      [1] Silver D, Huang A, Maddison C J, et al. Mastering the game of Go with deep neural networks and tree search[J]. Nature, 2016, 529: 484-489. 

      [2] Bostrom N. Superintelligence[M]. New York: Oxford University Press, 2014. 

      [3] BRAIN Working Group. BRAIN 2025: A scientific vision[EB/OL]. [ 2016-03-29]. www.braininitiative.nih.gov. 

      [4] Merolla P A, Arthur J V, Alvarez-Icaza R, et al. Artificial brains: A million spiking-neuron integrated circuit with a scalable communication network and interface[J]. Science, 2014, 345: 668-673. 

      [5] Chen Y, Luo T, Liu S, et al. Dadiannao: A machine-learning supercomputer[C]//Proceedings of the 47th Annual IEEE/ACM International Symposium on Microarchitecture, 2014: 609-622. 

      [6] Yamins D L K, DiCarlo J J. Using goal-driven deep learning models to understand sensory cortex[J]. Nature Neuroscience, 2016, 19: 356-365. 

      [7] Baum E. What is thought? [M]. Massachusetts: MIT Press, 2003. 

      [8] Eliasmith C, Stewart T C, Choo X, et al. A large-scale model of the functioning brain[J]. Science, 2012, 338: 1202-1205. 

      [9] Jiang T. Brainnetome: A new-ome to understand the brain and its disorders[J]. NeuroImage, 2013, 80: 263-272. 

      [10] Shew W L, Plenz D. The functional benefits of criticality in the cortex[J]. Neuroscientist, 2013, 19: 88-100. 

      [11] Lake B M, Salakhutdinov R, Tenenbaum J B. Human-level concept learning through probabilistic program induction[J]. Science, 350: 1332-1338. 

      [12] Nikolic D. Practopoiesis: Or how life fosters a mind[J]. Journal of Theoretical Biology, 2015, 373: 40-61.亚愽娱乐app  

      (本文原載于《科技導報》2016年第7期,作者系亚愽娱乐app腦網絡組研究中心研究員)