美光科技宣布成为全球首家也是唯一一家为AI服务器，同时推出HBM3E和SOCAMM产品的公司。

将和英伟达合作为GB300 Grace Blackwell Ultra超级芯片开发了SOCAMM，这是一种模块化LPDDR5X 存储解决方案。

SOCAMM已经量产，带宽比RDIMM高2.5倍，占用空间仅为标准RDIMM尺寸的三分之一，功耗仅为DDR5 RDIMM的三分之一，并且通过四个16芯片堆栈提供128GB容量。

美光的HBM3E 12H 36GB比HBM3E 8H 24GB容量增加50%，功耗比竞争对手降低20%。

即将推出的HBM4解决方案预计将比HBM3E性能提高50%以上。

美光与英伟达最新平台（ HGX B300、GB300、HGX B200、GB200 ）的深度整合，表明美光在AI芯片领域占据主导地位。

随着英伟达下一代AI系统在全球数据中心部署，这种关系将转化为可观的收入来源。

SOCAMM创新提供了四个重要的技术优势，这些优势直接影响AI性能指标。

首先，与RDIMM相比， 2.5倍带宽提升，直接提高了神经网络训练吞吐量和模型推理速度。

这是决定AI部署成本计算竞争优势的关键因素。

其次，与标准DDR5相比，功耗大幅降低67%，解决了AI基础设施中最紧迫的问题，散热和运营成本。

在超大规模部署中，这种功率效率在数千个节点上成倍增加。

第三，紧凑型SOCAMM尺寸的128GB 容量可实现更全面的模型，每个服务器节点的参数数量更大，这对于下一代基础模型至关重要。

最后，美光通过汽车级LPDDR5X解决方案将这项技术从数据中心扩展到边缘设备，创建了统一的内存架构，简化了跨计算环境的AI部署。

这些进步使美光能够在整个AI计算堆栈中，而不是仅在专门的应用程序中获取价值。

点击此处关注，获取最新资讯！