[E-DailyJAEMIN SONG 记者] SK海力士提出了不仅包括高带宽内存(HBM),还同时利用DRAM、下一代NAND——高带宽闪存(HBF)以及企业级固态硬盘(eSSD)的“分层内存”方案。随着人工智能(AI)需要处理的数据量激增,该战略旨在根据用途将多种内存进行组合,从而提升性能并提高成本效益。
参观者正在参观SK海力士的展位。(照片来源:SK海力士)
SK海力士7日宣布,该公司于4日至6日(当地时间)参加了在美国加利福尼亚州圣克拉拉举行的存储器与存储设备展览会“FMS 2026”,并展示了下一代AI存储技术及产品。
展会首日的主题演讲中,SK海力士解决方案开发部门负责人金天成与下一代产品规划负责人姜旭成共同登台演讲。他们以“AI代理时代,基于分层内存的AI基础设施高效实现方案”为主题,阐述了未来内存架构的演进方向。
分层内存是一种根据用途将速度、容量和成本各异的内存进行布局并有机连接的结构。该方式并非将AI运算所需的所有数据都存储在价格相对较高的HBM中,而是将数据适当地分配存储在HBM、DRAM、HBF和SSD中,并在需要时快速进行数据迁移。通过减少数据迁移,可以同时提升AI基础设施的性能、降低成本并提高能效。
SK海力士的“375层NAND晶圆”、“375层1Tb TLC 154B 32DP”及“375层1Tb TLC 334B QDP”。(图片来源:SK海力士)
金部门长表示:“随着AI从以学习为中心向大规模推理,进而扩展至代理式AI,基础设施的竞争力不再仅由单个存储器产品的性能决定。”他指出:“如何将HBM、DRAM、基于NAND的HBF、SSD等各存储层置于何处,以及如何连接它们以最大限度地减少数据移动,将决定整体效率。”
他随后强调:“未来,能够实现涵盖所有存储层级的优化架构的能力,将成为AI基础设施竞争力的核心。”
SK海力士将HBF视为HBM与SSD之间备受瞩目的新型存储层。HBF与HBM一样,利用硅通孔(TSV)技术和逻辑工艺,是一种既能实现现有NAND存储设备的大容量,又能达到接近DRAM的数据传输性能的下一代NAND解决方案。
在合作伙伴展区,参观者正在查看HBM4模型和维拉鲁宾模型。(照片来源:SK海力士)
SK海力士解决方案AT负责人林义哲在活动最后一天与谷歌、闪迪等公司共同参与的小组讨论中,探讨了HBF的开发方向和技术可行性。林负责人表示:“HBF有望在超高速内存HBM与大容量存储设备SSD之间,确立其作为新内存层级的地位。”SK海力士正与主要合作伙伴共同推进硬件和软件的联合设计以及技术标准化工作。
在展位上,该公司集中展示了构成分层内存的产品系列。 展位上并排陈列了英伟达下一代AI加速器“Vera Rubin”模型和HBM4模型,同时展出了HBM4E 48千兆字节(GB)12层、HBM4 48GB 16层、HBM3E 36GB 12层以及AI服务器用内存模块SOCAMM2等产品。
在NAND领域,该公司公开了采用晶圆键合技术的375层4D NAND。该产品的特点是功耗比上一代产品降低了2.5倍。SK海力士计划于明年上半年开始量产基于375层NAND的高性能eSSD。
此外,相比现有176层产品性能提升约55%的基于四级单元(QLC)的大容量eSSD,也将从本月起向主要云服务提供商(CSP)提供样品。此举旨在满足AI数据中心对输入输出性能、高带宽及大容量存储的需求。
SK海力士利用CMM-Hybrid技术演示ReAct AI Agent Serving技术的场景。(图片来源:SK海力士)
此外,该公司还演示了基于Compute Express Link(CXL)的下一代内存技术。 该公司公开了利用“共享内存”(即多台服务器和图形处理单元(GPU)共享同一内存池)以及结合DRAM与SSD的“CMM-Hybrid”技术,高效存储和复用AI代理的键值(KV)缓存的技术。该方案将随着对话和任务历史记录增加而不断扩大的KV缓存分散存储在基于CXL的内存中,从而提升AI推理速度和内存利用率。
负责人姜表示:“SK海力士拥有涵盖从HBM到CXL内存、eSSD等AI基础设施全层级的完整产品组合”,并称:“从产品设计阶段开始,与客户共同探讨并提供其所需的最佳解决方案,这将成为SK海力士的职责。”
SK海力士7日宣布,该公司于4日至6日(当地时间)参加了在美国加利福尼亚州圣克拉拉举行的存储器与存储设备展览会“FMS 2026”,并展示了下一代AI存储技术及产品。
展会首日的主题演讲中,SK海力士解决方案开发部门负责人金天成与下一代产品规划负责人姜旭成共同登台演讲。他们以“AI代理时代,基于分层内存的AI基础设施高效实现方案”为主题,阐述了未来内存架构的演进方向。
分层内存是一种根据用途将速度、容量和成本各异的内存进行布局并有机连接的结构。该方式并非将AI运算所需的所有数据都存储在价格相对较高的HBM中,而是将数据适当地分配存储在HBM、DRAM、HBF和SSD中,并在需要时快速进行数据迁移。通过减少数据迁移,可以同时提升AI基础设施的性能、降低成本并提高能效。
金部门长表示:“随着AI从以学习为中心向大规模推理,进而扩展至代理式AI,基础设施的竞争力不再仅由单个存储器产品的性能决定。”他指出:“如何将HBM、DRAM、基于NAND的HBF、SSD等各存储层置于何处,以及如何连接它们以最大限度地减少数据移动,将决定整体效率。”
他随后强调:“未来,能够实现涵盖所有存储层级的优化架构的能力,将成为AI基础设施竞争力的核心。”
SK海力士将HBF视为HBM与SSD之间备受瞩目的新型存储层。HBF与HBM一样,利用硅通孔(TSV)技术和逻辑工艺,是一种既能实现现有NAND存储设备的大容量,又能达到接近DRAM的数据传输性能的下一代NAND解决方案。
SK海力士解决方案AT负责人林义哲在活动最后一天与谷歌、闪迪等公司共同参与的小组讨论中,探讨了HBF的开发方向和技术可行性。林负责人表示:“HBF有望在超高速内存HBM与大容量存储设备SSD之间,确立其作为新内存层级的地位。”SK海力士正与主要合作伙伴共同推进硬件和软件的联合设计以及技术标准化工作。
在展位上,该公司集中展示了构成分层内存的产品系列。 展位上并排陈列了英伟达下一代AI加速器“Vera Rubin”模型和HBM4模型,同时展出了HBM4E 48千兆字节(GB)12层、HBM4 48GB 16层、HBM3E 36GB 12层以及AI服务器用内存模块SOCAMM2等产品。
在NAND领域,该公司公开了采用晶圆键合技术的375层4D NAND。该产品的特点是功耗比上一代产品降低了2.5倍。SK海力士计划于明年上半年开始量产基于375层NAND的高性能eSSD。
此外,相比现有176层产品性能提升约55%的基于四级单元(QLC)的大容量eSSD,也将从本月起向主要云服务提供商(CSP)提供样品。此举旨在满足AI数据中心对输入输出性能、高带宽及大容量存储的需求。
此外,该公司还演示了基于Compute Express Link(CXL)的下一代内存技术。 该公司公开了利用“共享内存”(即多台服务器和图形处理单元(GPU)共享同一内存池)以及结合DRAM与SSD的“CMM-Hybrid”技术,高效存储和复用AI代理的键值(KV)缓存的技术。该方案将随着对话和任务历史记录增加而不断扩大的KV缓存分散存储在基于CXL的内存中,从而提升AI推理速度和内存利用率。
负责人姜表示:“SK海力士拥有涵盖从HBM到CXL内存、eSSD等AI基础设施全层级的完整产品组合”,并称:“从产品设计阶段开始,与客户共同探讨并提供其所需的最佳解决方案,这将成为SK海力士的职责。”