3月5日消息,美光科技宣布開始向客戶送樣業界容量領先的 LPDRAM 模塊 256GB SOCAMM2,進一步鞏固其在低功耗服務器內存領域的領導地位。
據介紹,美光的 256GB SOCAMM2 為各種 AI 和通用計算工作負載提供更高的內存容量、更低的功耗,以及更快的性能。
為 AI 服務器擴展內存容量:256GB SOCAMM2 容量較前代最高規格 192GB SOCAMM2 提升三分之一,可為每顆 8 通道 CPU 提供 2TB LPDRAM 容量,從而支持更大的上下文窗口及更復雜的推理工作負載。
功耗更低、尺寸更小:與相同容量的 RDIMM 相比,SOCAMM2 的功耗僅為其三分之一,尺寸亦縮減至三分之一,有效提升機架密度并降低總體擁有成本。
提升推理與核心計算性能:在統一內存架構中,與現有解決方案相比,256GB SOCAMM2 用于 KV 緩存卸載時,可將長上下文、實時 LLM 推理的首個 token 生成時間加速 2.3 倍。在獨立 CPU 應用中,針對高性能計算工作負載,LPDRAM 的每瓦性能較主流內存模塊提升超 3 倍。
易維護、可擴展的模塊化設計:模塊化 SOCAMM2 設計可提升設備可維護性、支持液冷服務器架構,并能隨著 AI 與核心計算內存需求的持續增長,實現未來容量擴充。
美光高級副總裁暨云端存儲事業部總經理 Raj Narasimhan 表示:“美光 256GB SOCAMM2 為 AI 及高性能計算(HPC)提供更具能效的 CPU 附加內存解決方案。此次產品發布充分展現出美光在技術與封裝領域的突破,打造業界容量領先、低功耗、小尺寸的模塊化內存解決方案。美光在數據中心低功耗內存解決方案領域持續保持領先地位,這一獨特優勢使我們率先推出單晶粒 32Gb LPDRAM,協助推動業界加速采用更節能、更高容量的系統架構。”
美光現已面向客戶送樣 256GB SOCAMM2 產品,并提供業界最全面的數據中心 LPDRAM 產品組合,涵蓋 8GB 至 64GB 組件及 48GB 至 256GB 的 SOCAMM2 模塊。(宜月)






