原標(biāo)題：給內(nèi)存加上AI？三星是這樣做的

三星在將AI技術(shù)融入內(nèi)存方面取得了顯著進(jìn)展，主要通過內(nèi)存內(nèi)處理（PIM）技術(shù)實(shí)現(xiàn)。以下是三星在這一領(lǐng)域的具體做法和成果：

一、技術(shù)背景與意義

隨著人工智能（AI）算法和應(yīng)用程序的快速發(fā)展，數(shù)據(jù)處理需求急劇增長(zhǎng)。傳統(tǒng)的內(nèi)存解決方案在容量、帶寬和能效方面已難以滿足AI應(yīng)用的需求。因此，三星等廠商開始探索將AI處理能力直接集成到內(nèi)存中的方法，以減少數(shù)據(jù)移動(dòng)帶來的延遲和能耗，提高整體性能。

二、具體做法

1. HBM-PIM技術(shù)

• 三星首次成功將基于PIM的高帶寬存儲(chǔ)器（HBM-PIM）整合到商用化加速器系統(tǒng)中。HBM-PIM通過在高帶寬內(nèi)存（HBM）中集成內(nèi)存內(nèi)處理（PIM）功能，實(shí)現(xiàn)了AI處理能力的直接集成。

• 三星推出的首個(gè)HBM-PIM產(chǎn)品（Aquabolt-XL）將AI處理能力整合到三星HBM2 Aquabolt中，顯著增強(qiáng)了超級(jí)計(jì)算機(jī)和AI應(yīng)用的高速數(shù)據(jù)處理能力。

• HBM-PIM在賽靈思（Xilinx）Virtex Ultrascale+（Alveo）AI加速器中進(jìn)行了測(cè)試，結(jié)果顯示其系統(tǒng)性能提升了近2.5倍，能耗降低了超過60%。

1. DRAM模組與移動(dòng)內(nèi)存

• 三星不僅將PIM技術(shù)應(yīng)用于HBM，還將其應(yīng)用范圍擴(kuò)大至DRAM模組和移動(dòng)內(nèi)存。例如，三星的加速DIMM（AXDIMM）能在DRAM模塊內(nèi)進(jìn)行“處理”，減少CPU和DRAM之間的大量數(shù)據(jù)交換，提升AI加速器系統(tǒng)的能源效率。

• AXDIMM模塊能保留傳統(tǒng)DIMM的外形尺寸，因此可以在不修改系統(tǒng)的情況下直接替換。目前，AXDIMM正在客戶的服務(wù)器上進(jìn)行測(cè)試，能夠在基于AI的推薦應(yīng)用中提供大約2倍的性能，并使整個(gè)系統(tǒng)的能耗減少40%。

2. LPDDR5-PIM移動(dòng)存儲(chǔ)器

• 三星還開發(fā)了LPDDR5-PIM移動(dòng)存儲(chǔ)器，該存儲(chǔ)器可在不連接數(shù)據(jù)中心的情況下提供獨(dú)立的AI功能。模擬測(cè)試表明，LPDDR5-PIM在用于語音識(shí)別、翻譯和聊天機(jī)器人等應(yīng)用時(shí)，性能可提升1倍以上，同時(shí)能耗減少60%以上。

三、未來展望

三星計(jì)劃通過與其他行業(yè)領(lǐng)導(dǎo)者合作，在2022年上半年實(shí)現(xiàn)PIM平臺(tái)標(biāo)準(zhǔn)化，從而擴(kuò)展AI內(nèi)存產(chǎn)品組合。此外，三星還將繼續(xù)努力培養(yǎng)一個(gè)高度健全的PIM生態(tài)系統(tǒng)，以確保整個(gè)內(nèi)存市場(chǎng)的廣泛適用性。

隨著技術(shù)的不斷發(fā)展，三星的PIM技術(shù)有望在未來進(jìn)一步提升AI應(yīng)用的性能和能效，推動(dòng)AI技術(shù)的普及和應(yīng)用。同時(shí)，這也將促進(jìn)整個(gè)半導(dǎo)體行業(yè)的創(chuàng)新和發(fā)展。