NTT和東京大學(xué)設(shè)計(jì)了一種受大腦信息處理啟發(fā)的新學(xué)習(xí)算法，適用于使用模擬操作的多層人工神經(jīng)網(wǎng)絡(luò)(DNN)。

　　NTT Corp.和東京大學(xué)設(shè)計(jì)了一種受大腦信息處理啟發(fā)的新學(xué)習(xí)算法，適用于使用模擬操作的多層人工神經(jīng)網(wǎng)絡(luò)(DNN)。這一突破將減少AI的功耗和計(jì)算時(shí)間。這一發(fā)展的結(jié)果發(fā)表在英國(guó)科學(xué)雜志上自然通訊.

　　研究人員通過(guò)將算法應(yīng)用于使用光學(xué)模擬計(jì)算的 DNN，實(shí)現(xiàn)了世界上第一個(gè)高效執(zhí)行的光學(xué) DNN 學(xué)習(xí)的演示，有望實(shí)現(xiàn)高速、低功耗的機(jī)器學(xué)習(xí)設(shè)備。此外，他們還實(shí)現(xiàn)了世界上使用模擬操作的多層人工神經(jīng)網(wǎng)絡(luò)的最高性能。

　　過(guò)去，高負(fù)載學(xué)習(xí)計(jì)算是通過(guò)數(shù)字計(jì)算進(jìn)行的，但這一結(jié)果證明，通過(guò)使用模擬計(jì)算可以提高學(xué)習(xí)部分的效率。在深度神經(jīng)網(wǎng)絡(luò)(DNN)技術(shù)中，一種稱為深儲(chǔ)層計(jì)算的遞歸神經(jīng)網(wǎng)絡(luò)是通過(guò)假設(shè)光脈沖作為神經(jīng)元，非線性光環(huán)作為具有遞歸連接的神經(jīng)網(wǎng)絡(luò)來(lái)計(jì)算的。通過(guò)將輸出信號(hào)重新輸入到同一光電路，人為地加深了網(wǎng)絡(luò)。

　　DNN 技術(shù)支持先進(jìn)的人工智能 (AI)，例如機(jī)器翻譯、自動(dòng)駕駛和機(jī)器人技術(shù)。目前，所需的功率和計(jì)算時(shí)間正在以超過(guò)數(shù)字計(jì)算機(jī)性能增長(zhǎng)的速度增長(zhǎng)。使用模擬信號(hào)計(jì)算(模擬操作)的DNN技術(shù)有望成為一種實(shí)現(xiàn)類似于大腦神經(jīng)網(wǎng)絡(luò)的高效高速計(jì)算的方法。NTT 和東京大學(xué)之間的合作開發(fā)了一種適用于模擬操作 DNN 的新算法，該算法不假設(shè)理解 DNN 中包含的學(xué)習(xí)參數(shù)。

　　該方法通過(guò)基于網(wǎng)絡(luò)最后一層的學(xué)習(xí)參數(shù)和期望輸出信號(hào)(誤差信號(hào))誤差的非線性隨機(jī)變換來(lái)學(xué)習(xí)。這種計(jì)算使得在光學(xué)電路等事物中實(shí)現(xiàn)模擬計(jì)算變得更加容易。它不僅可以用作物理實(shí)現(xiàn)的模型，還可以用作機(jī)器翻譯和各種 AI 模型(包括 DNN 模型)等應(yīng)用程序的尖端模型。這項(xiàng)研究有望有助于解決與AI計(jì)算相關(guān)的新問(wèn)題，包括功耗和增加的計(jì)算時(shí)間。

　　除了考察本文提出的方法對(duì)具體問(wèn)題的適用性外，NTT還將促進(jìn)光硬件的大規(guī)模和小規(guī)模集成，旨在為未來(lái)的光網(wǎng)絡(luò)建立一個(gè)高速、低功耗的光計(jì)算平臺(tái)。