頂點光電子商城2025年3月20日消息:近日,在GTC 2025大會上,美光公布了自家的SOCAMM內存模塊,將用于英偉達最新發布的Blackwell Ultra GB300產品線。
SOCAMM并非傳統內存條的簡單升級,而是將HBM3(高帶寬內存)與AI加速單元集成于同一基板,形成“存算一體”的革新架構。其核心技術亮點包括:通過12層HBM3堆疊,單模塊帶寬較上一代提升3倍,足以支撐萬億參數模型實時訓練;采用美光獨有的低功耗電路設計,在滿載運行時功耗降低至225W,顯著低于同類方案;內置硬件級數據調度器,自動優化張量傳輸路徑,減少GPU閑置等待時間。

英偉達GB300系列作為面向AI數據中心的旗艦產品線,對內存子系統提出三大極限需求:需容納百萬級上下文長度的LLM(大語言模型)參數;自動駕駛等場景要求響應延遲低于1ms;企業級訓練任務需保持99%以上的GPU利用率。
SOCAMM通過NVLink-C2C直連技術與GB300 GPU核心互聯,實現內存帶寬的“零損耗”傳輸。實測數據顯示,在ResNet-50訓練任務中,GB300系統吞吐量提升2.7倍,推理能效比達15.8 TOPS/W。
此次合作暴露了AI芯片競爭的下一戰場——內存架構創新。傳統馮·諾依曼架構下,數據在內存與計算單元間的“搬運”已成為算力瓶頸。SOCAMM的存算融合設計,為突破“內存墻”提供了新思路。
鄂公網安備 42011502001385號 鄂ICP備2021012849號