給內(nèi)存加上AI?三星是這樣做的


原標(biāo)題:給內(nèi)存加上AI?三星是這樣做的
三星在將AI技術(shù)融入內(nèi)存方面取得了顯著進(jìn)展,主要通過(guò)內(nèi)存內(nèi)處理(PIM)技術(shù)實(shí)現(xiàn)。以下是三星在這一領(lǐng)域的具體做法和成果:
一、技術(shù)背景與意義
隨著人工智能(AI)算法和應(yīng)用程序的快速發(fā)展,數(shù)據(jù)處理需求急劇增長(zhǎng)。傳統(tǒng)的內(nèi)存解決方案在容量、帶寬和能效方面已難以滿(mǎn)足AI應(yīng)用的需求。因此,三星等廠商開(kāi)始探索將AI處理能力直接集成到內(nèi)存中的方法,以減少數(shù)據(jù)移動(dòng)帶來(lái)的延遲和能耗,提高整體性能。
二、具體做法
HBM-PIM技術(shù)
三星首次成功將基于PIM的高帶寬存儲(chǔ)器(HBM-PIM)整合到商用化加速器系統(tǒng)中。HBM-PIM通過(guò)在高帶寬內(nèi)存(HBM)中集成內(nèi)存內(nèi)處理(PIM)功能,實(shí)現(xiàn)了AI處理能力的直接集成。
三星推出的首個(gè)HBM-PIM產(chǎn)品(Aquabolt-XL)將AI處理能力整合到三星HBM2 Aquabolt中,顯著增強(qiáng)了超級(jí)計(jì)算機(jī)和AI應(yīng)用的高速數(shù)據(jù)處理能力。
HBM-PIM在賽靈思(Xilinx)Virtex Ultrascale+(Alveo)AI加速器中進(jìn)行了測(cè)試,結(jié)果顯示其系統(tǒng)性能提升了近2.5倍,能耗降低了超過(guò)60%。
DRAM模組與移動(dòng)內(nèi)存
三星不僅將PIM技術(shù)應(yīng)用于HBM,還將其應(yīng)用范圍擴(kuò)大至DRAM模組和移動(dòng)內(nèi)存。例如,三星的加速DIMM(AXDIMM)能在DRAM模塊內(nèi)進(jìn)行“處理”,減少CPU和DRAM之間的大量數(shù)據(jù)交換,提升AI加速器系統(tǒng)的能源效率。
AXDIMM模塊能保留傳統(tǒng)DIMM的外形尺寸,因此可以在不修改系統(tǒng)的情況下直接替換。目前,AXDIMM正在客戶(hù)的服務(wù)器上進(jìn)行測(cè)試,能夠在基于AI的推薦應(yīng)用中提供大約2倍的性能,并使整個(gè)系統(tǒng)的能耗減少40%。
LPDDR5-PIM移動(dòng)存儲(chǔ)器
三星還開(kāi)發(fā)了LPDDR5-PIM移動(dòng)存儲(chǔ)器,該存儲(chǔ)器可在不連接數(shù)據(jù)中心的情況下提供獨(dú)立的AI功能。模擬測(cè)試表明,LPDDR5-PIM在用于語(yǔ)音識(shí)別、翻譯和聊天機(jī)器人等應(yīng)用時(shí),性能可提升1倍以上,同時(shí)能耗減少60%以上。
三、未來(lái)展望
三星計(jì)劃通過(guò)與其他行業(yè)領(lǐng)導(dǎo)者合作,在2022年上半年實(shí)現(xiàn)PIM平臺(tái)標(biāo)準(zhǔn)化,從而擴(kuò)展AI內(nèi)存產(chǎn)品組合。此外,三星還將繼續(xù)努力培養(yǎng)一個(gè)高度健全的PIM生態(tài)系統(tǒng),以確保整個(gè)內(nèi)存市場(chǎng)的廣泛適用性。
隨著技術(shù)的不斷發(fā)展,三星的PIM技術(shù)有望在未來(lái)進(jìn)一步提升AI應(yīng)用的性能和能效,推動(dòng)AI技術(shù)的普及和應(yīng)用。同時(shí),這也將促進(jìn)整個(gè)半導(dǎo)體行業(yè)的創(chuàng)新和發(fā)展。
責(zé)任編輯:David
【免責(zé)聲明】
1、本文內(nèi)容、數(shù)據(jù)、圖表等來(lái)源于網(wǎng)絡(luò)引用或其他公開(kāi)資料,版權(quán)歸屬原作者、原發(fā)表出處。若版權(quán)所有方對(duì)本文的引用持有異議,請(qǐng)聯(lián)系拍明芯城(marketing@iczoom.com),本方將及時(shí)處理。
2、本文的引用僅供讀者交流學(xué)習(xí)使用,不涉及商業(yè)目的。
3、本文內(nèi)容僅代表作者觀點(diǎn),拍明芯城不對(duì)內(nèi)容的準(zhǔn)確性、可靠性或完整性提供明示或暗示的保證。讀者閱讀本文后做出的決定或行為,是基于自主意愿和獨(dú)立判斷做出的,請(qǐng)讀者明確相關(guān)結(jié)果。
4、如需轉(zhuǎn)載本方擁有版權(quán)的文章,請(qǐng)聯(lián)系拍明芯城(marketing@iczoom.com)注明“轉(zhuǎn)載原因”。未經(jīng)允許私自轉(zhuǎn)載拍明芯城將保留追究其法律責(zé)任的權(quán)利。
拍明芯城擁有對(duì)此聲明的最終解釋權(quán)。