原標(biāo)題：燧原科技亮相Hot Chips大會，詳解邃思芯片架構(gòu)

燧原科技在Hot Chips大會上詳解了邃思芯片架構(gòu)，這一舉動展示了燧原科技在高性能微處理器和集成電路領(lǐng)域的研發(fā)實(shí)力。以下是對邃思芯片架構(gòu)的詳細(xì)解析：

一、邃思芯片概述

邃思芯片是燧原科技自主研發(fā)的一系列高性能AI芯片，包括訓(xùn)練芯片和推理芯片。這些芯片專為云端訓(xùn)練和推理場景設(shè)計(jì)，旨在提供高效、可靠的AI計(jì)算能力。

二、邃思訓(xùn)練芯片架構(gòu)（以邃思1.0和邃思2.0為例）

1. 邃思1.0

• 眾核結(jié)構(gòu)：采用燧原科技自研的GCU-CARE計(jì)算引擎，整個SOC擁有32個GCU-CARE計(jì)算引擎，組成4個計(jì)算群組。

• 全面支持常見AI張量數(shù)據(jù)格式：包括FP32/FP16/BF16, INT8/INT16/INT32，能夠更全面地支撐客戶業(yè)務(wù)。

• 高效數(shù)據(jù)架構(gòu)：GCU-DARE數(shù)據(jù)架構(gòu)面向數(shù)據(jù)流優(yōu)化，提供512GB/s的HBM和200GB/s的GCU-LARE互聯(lián)，數(shù)倍于傳統(tǒng)GPU、CPU。

• 分布式片上共享緩存：提供10TB/s的超大帶寬，可編程共享緩存，可控線程內(nèi)、線程間數(shù)據(jù)常駐共享，降低數(shù)據(jù)訪問延時(shí)并節(jié)約IO帶寬。

• 靈活互聯(lián)：四路GCU-LARE智能互聯(lián)，支持千卡級規(guī)模集群，為大中小型數(shù)據(jù)中心提供基于不同需求的人工智能訓(xùn)練產(chǎn)品組合。

• 發(fā)布時(shí)間：2019年12月

• 架構(gòu)特點(diǎn)：

• 應(yīng)用場景：支持CNN、RNN、LSTM、BERT等常用人工訓(xùn)練模型，可用于圖像、流數(shù)據(jù)、語音等訓(xùn)練場景。

2. 邃思2.0

• 發(fā)布背景：在邃思1.0的基礎(chǔ)上進(jìn)行了全面升級，成為國內(nèi)首家發(fā)布第二代人工智能訓(xùn)練產(chǎn)品組合的公司。

• 計(jì)算能力：單精度FP32峰值算力達(dá)到40TFLOPS，單精度張量TF32峰值算力達(dá)到160TFLOPS。

• 存儲與帶寬：搭載了4顆HBM2E片上存儲芯片，高配支持64GB內(nèi)存，帶寬達(dá)1.8TB/s。

• 互聯(lián)能力：GCU-LARE全面升級，提供雙向300GB/s互聯(lián)帶寬，支持?jǐn)?shù)千張?jiān)旗軨loudBlazer加速卡互聯(lián)。

• 軟件平臺：同步升級的馭算TopsRider軟件平臺，成為燧原科技構(gòu)建原始創(chuàng)新軟件生態(tài)的基石。

三、邃思推理芯片架構(gòu)（以邃思2.5為例）

• 發(fā)布時(shí)間：2021年12月

• 核心尺寸與工藝：Die核心尺寸為55mm×55mm，采用格芯12nm FinFET工藝打造。

• 架構(gòu)特點(diǎn)：

• 高性能計(jì)算核心：采用第二代GCU-CARA架構(gòu)，大幅提升單位面積的晶體管效率。

• 全面支持多種計(jì)算類型：張量、向量、標(biāo)量計(jì)算全支持，同時(shí)支持虛擬化、動態(tài)節(jié)能技術(shù)等。

• 高效數(shù)據(jù)壓縮格式：采用完全自研的Sparse Value Segment數(shù)據(jù)壓縮格式，減少數(shù)據(jù)傳輸過程中的帶寬和功耗。

• 高速內(nèi)存與帶寬：配備兩顆HBM2e顯存，容量16GB，帶寬819GB/s。

四、總結(jié)

燧原科技的邃思芯片架構(gòu)展示了其在AI芯片領(lǐng)域的深厚技術(shù)積累和創(chuàng)新能力。通過不斷優(yōu)化芯片架構(gòu)和提升性能，燧原科技為云端訓(xùn)練和推理場景提供了高效、可靠的解決方案，推動了AI技術(shù)的廣泛應(yīng)用和發(fā)展。