[E-DailyJAEMIN SONG 记者] 三星电子推出了“SOCAMM2”,作为应对能够自主推理和行动的代理式人工智能(AI)时代的服务器内存解决方案。该公司计划将当前基于LPDDR5X的产品升级至未来的LPDDR6,从而进一步提升带宽、容量和能效。
三星电子基于LPDDR的服务器内存模块“SOCAMM2”。(图片来源:三星电子)
三星电子19日通过半导体技术博客表示,随着代理型AI的普及,系统内存也面临着必须同时满足容量、带宽、能效和空间效率等新需求,且这一需求正日益增长。
代理式AI不仅限于回答单次提问,而是为了实现既定目标,通过反复进行推理、执行和结果验证的技术。它会利用外部工具检索或计算信息,随后根据结果调整计划并执行下一步操作。
在此过程中,大规模语言模型(LLM)会被多次调用,先前的对话内容、工具执行结果以及中间信息会持续被用于后续的判断。在多个AI代理分工协作的多代理环境中,需要存储和共享的信息量进一步增加。因此,能够同时在内存中保留大量数据并实现快速传输的服务器内存的重要性也日益凸显。
三星电子提出的解决方案SOCAMM2,是将具备低功耗、高带宽特性的LPDDR实现为可拆卸式服务器内存模块的产品。传统的焊接式LPDDR一旦安装到主板上,就难以更改容量或进行升级。
SOCAMM2无需更换主板即可更换或扩展内存模块,从而能够根据AI工作负载的变化灵活配置容量。服务器维护和生命周期管理也变得更加轻松。
采用水平式外形设计也是其一大特点。该设计在高效利用处理器和AI加速器周边有限空间的同时,还能优化散热片布局和服务器内部气流。在保持LPDDR低功耗和小型化特性的基础上,还能降低因搭载大容量内存而产生的功耗和发热负担。
三星电子基于LPDDR5X的SOCAMM2因技术上的独特性而荣获CES 2027创新奖。三星电子计划今后以LPDDR6为基础,进一步提升带宽、容量和能效,以应对各种代理式AI工作负载。
三星电子表示:“SOCAMM2是一款能够根据不断变化的AI基础设施内存需求进行扩展的系统内存解决方案”,并称“将基于LPDDR6进行演进,以满足下一代AI基础设施的需求”。
三星电子19日通过半导体技术博客表示,随着代理型AI的普及,系统内存也面临着必须同时满足容量、带宽、能效和空间效率等新需求,且这一需求正日益增长。
代理式AI不仅限于回答单次提问,而是为了实现既定目标,通过反复进行推理、执行和结果验证的技术。它会利用外部工具检索或计算信息,随后根据结果调整计划并执行下一步操作。
在此过程中,大规模语言模型(LLM)会被多次调用,先前的对话内容、工具执行结果以及中间信息会持续被用于后续的判断。在多个AI代理分工协作的多代理环境中,需要存储和共享的信息量进一步增加。因此,能够同时在内存中保留大量数据并实现快速传输的服务器内存的重要性也日益凸显。
三星电子提出的解决方案SOCAMM2,是将具备低功耗、高带宽特性的LPDDR实现为可拆卸式服务器内存模块的产品。传统的焊接式LPDDR一旦安装到主板上,就难以更改容量或进行升级。
SOCAMM2无需更换主板即可更换或扩展内存模块,从而能够根据AI工作负载的变化灵活配置容量。服务器维护和生命周期管理也变得更加轻松。
采用水平式外形设计也是其一大特点。该设计在高效利用处理器和AI加速器周边有限空间的同时,还能优化散热片布局和服务器内部气流。在保持LPDDR低功耗和小型化特性的基础上,还能降低因搭载大容量内存而产生的功耗和发热负担。
三星电子基于LPDDR5X的SOCAMM2因技术上的独特性而荣获CES 2027创新奖。三星电子计划今后以LPDDR6为基础,进一步提升带宽、容量和能效,以应对各种代理式AI工作负载。
三星电子表示:“SOCAMM2是一款能够根据不断变化的AI基础设施内存需求进行扩展的系统内存解决方案”,并称“将基于LPDDR6进行演进,以满足下一代AI基础设施的需求”。