近日消息,美光在本月发布的技术博客中表示,其“生产可用”(原文 production-capable)的 12 层堆叠 HBM3E 36GB 内存现正向主要行业合作伙伴交付,以在整个 AI 生态系统中进行验证。
美光表示,其 12 层堆叠 HBM3E 容量较现有的 8 层堆叠 HBM3E 产品高出 50%,允许 Llama-70B 这样的大型 AI 模型在单个处理器上运行,可避免多处理器运行带来的延迟问题。
美光 12 层堆叠 HBM3E 内存具有 9.2+ Gb/s 的 I/O 引脚速率,可提供 1.2+ TB/s 的内存带宽。美光同时还宣称该产品较友商 8 层堆叠 HBM3E 竞品功耗明显更低。
HBM3E 并非孤立产品,而是集成在 AI 芯片系统中,这仰赖于内存供应商、产品客户与 OSAT 企业的通力合作。而美光是台积电 3DFabric 先进封装联盟的合作伙伴成员。
台积电生态系统与联盟管理处处长 Dan Kochpatcharin 近日表示:
台积电与美光一直保持着长期的战略合作伙伴关系。作为 OIP 生态系统的一部分,我们密切合作,使美光基于 HBM3E 的系统与 CoWoS 封装设计能够支持客户的人工智能创新。