神經(jīng)網(wǎng)絡(luò)加速器基本上是一個(gè)中介拓?fù)浼軜?gòu)的神經(jīng)網(wǎng)絡(luò)加速器，其通過指令解析模塊將不同指令分發(fā)到不同的數(shù)據(jù)處理模塊。這些數(shù)據(jù)處理模塊共享片上的存儲。這種結(jié)構(gòu)的優(yōu)點(diǎn)有： 1） 結(jié)構(gòu)簡單，控制起來容易。對應(yīng)每個(gè)數(shù)據(jù)處理模塊都對應(yīng)一個(gè)復(fù)雜指令，在進(jìn)行神經(jīng)網(wǎng)絡(luò)加速的時(shí)候，只需要根據(jù)神經(jīng)網(wǎng)絡(luò)的中的不同數(shù)據(jù)計(jì)算部分，提取出可在硬件上進(jìn)行布置的部分，根據(jù)這部分完成指令編寫。同時(shí)一個(gè)神經(jīng)網(wǎng)絡(luò)的計(jì)算流圖決定了不同類型指令之間的依賴關(guān)系。 2） 可擴(kuò)展性強(qiáng)。數(shù)據(jù)處理模塊可以任意進(jìn)行擴(kuò)展，對應(yīng)著指令集也可以任意增加。每個(gè)模塊和指令的接口以及cache的接口形式是一定的，它們之間可以通過cache來進(jìn)行數(shù)據(jù)交互。指令集和模塊的增加和減少都不會(huì)影響到整體架構(gòu)。我們只要開發(fā)出新的模塊IP以及指令就夠了。