美光科技近日宣布,正式啟動向客戶送樣其最新研發(fā)的256GB SOCAMM2低功耗雙倍數(shù)據(jù)速率隨機(jī)存取存儲器模塊。這款業(yè)界容量領(lǐng)先的產(chǎn)品標(biāo)志著美光在服務(wù)器內(nèi)存領(lǐng)域的技術(shù)突破,為人工智能與高性能計(jì)算場景提供了更高效的內(nèi)存解決方案。
相較于前代192GB規(guī)格,新一代模塊容量提升達(dá)33%,單顆8通道CPU可支持高達(dá)2TB的LPDRAM總?cè)萘俊_@種容量躍升使得AI服務(wù)器能夠處理更大規(guī)模的上下文窗口,同時支持更復(fù)雜的實(shí)時推理任務(wù)。在統(tǒng)一內(nèi)存架構(gòu)中,該模塊通過優(yōu)化KV緩存卸載機(jī)制,將長上下文大語言模型推理的首個token生成速度提升至原有方案的2.3倍。
能效表現(xiàn)成為該產(chǎn)品的核心優(yōu)勢。通過采用創(chuàng)新封裝技術(shù),256GB SOCAMM2在相同容量下,功耗僅為傳統(tǒng)RDIMM模塊的三分之一,物理尺寸縮減至同等規(guī)格產(chǎn)品的1/3。這種設(shè)計(jì)突破不僅顯著降低了數(shù)據(jù)中心的整體能耗,更通過提升機(jī)架密度將單位空間內(nèi)存容量提升至新高度,有效降低客戶的總體擁有成本。
針對高性能計(jì)算場景,美光實(shí)驗(yàn)室數(shù)據(jù)顯示,在獨(dú)立CPU應(yīng)用中,LPDRAM架構(gòu)的每瓦性能較主流內(nèi)存模塊提升超過300%。這種能效優(yōu)勢在需要持續(xù)高負(fù)載運(yùn)算的科學(xué)計(jì)算、金融建模等領(lǐng)域具有顯著應(yīng)用價值。模塊化設(shè)計(jì)理念貫穿產(chǎn)品全生命周期,既支持液冷服務(wù)器架構(gòu)的兼容部署,也為未來容量擴(kuò)展預(yù)留了技術(shù)接口。
美光云端存儲事業(yè)部負(fù)責(zé)人Raj Narasimhan強(qiáng)調(diào):"這款產(chǎn)品凝聚了我們在3D封裝和低功耗設(shè)計(jì)領(lǐng)域的最新成果。通過單晶粒32Gb LPDRAM技術(shù)的率先商用,我們正在推動整個行業(yè)向更高密度、更低能耗的系統(tǒng)架構(gòu)演進(jìn)。"目前美光已形成完整的數(shù)據(jù)中心內(nèi)存產(chǎn)品線,覆蓋從8GB組件到256GB模塊的全規(guī)格矩陣,為不同量級的計(jì)算需求提供定制化解決方案。
隨著首批樣品進(jìn)入客戶測試階段,這款創(chuàng)新內(nèi)存模塊預(yù)計(jì)將在云計(jì)算服務(wù)商、AI訓(xùn)練中心等場景率先落地。行業(yè)分析師指出,在AI算力需求持續(xù)指數(shù)級增長的背景下,美光的技術(shù)突破有望重塑服務(wù)器內(nèi)存市場的競爭格局,特別是在能效敏感型應(yīng)用領(lǐng)域建立新的行業(yè)標(biāo)準(zhǔn)。











