[E-DailyJAEMIN SONG 记者] SK海力士公布了“CPO(Co-Packaged Optics)”技术路线图,这是一种通过光信号在半导体芯片之间传输数据的下一代光互连技术。该公司正致力于掌握这项技术,以突破高带宽内存(HBM)的局限,解决整个人工智能(AI)系统中的数据瓶颈问题。
(从左至右)SK海力士洪承勋团队长与弗吉尼亚大学李圭相教授就下一代光互连(CPO)技术研究交换意见。(照片来源:SK海力士)
SK海力士20日宣布,与全球研究团队共同撰写的《面向高性能计算与人工智能的CPO技术》论文已发表在国际学术期刊《自然·电子学》上。SK海力士AI基础设施团队负责人洪承勋与美国弗吉尼亚大学电气与计算机工程系教授李圭相作为通讯作者参与了该研究。 伊利诺伊大学厄巴纳-香槟分校、南洋理工大学、麻省理工学院(MIT)以及延世大学的研究团队也共同参与了该研究。
CPO是一种将光收发器封装在与处理器相同的封装内,利用光信号而非电信号在芯片之间传输数据的技术。传统的铜线布线随着连接距离的延长和传输速度的提升,信号损耗和功耗也会随之增加。相比之下,CPO通过将电信号的传输距离最小化,能够提高数据传输速度和能效。
通过光互连器,将计算资源(XPU Pool)与内存资源(Memory Pool)通过光信号直接连接的光学中心架构概念图。(图片来源:SK海力士)
尽管AI加速器的运算性能每两年约提升3倍,但同期芯片间互连的带宽增幅仅停留在约1.4倍。 据解释,随着连接数千个图形处理单元(GPU)和HBM的超大型AI集群日益普及,系统间的数据传输速度正逐渐成为限制整体性能的因素,这种“带宽瓶颈”的影响正日益凸显,其影响甚至超过了芯片本身的性能。
研究团队提出了实现下一代AI基础设施的目标:每个节点带宽超过100太比特(Tb)/s,每比特能耗低于1皮焦耳(pJ),芯片间延迟时间少于10纳秒(ns)。 此外,研究团队还梳理了从2D封装到2.5D中介层、再到3D异构集成的技术发展路径,以及为实现商业化需解决的课题。
(图片来源:SK海力士)
从长远来看,其构想是将光连接扩展至内存接口。通过光中介层将处理器与内存直接连接,多个AI加速器即可共享大规模内存资源。SK海力士计划借此将内存供应商的角色从HBM等单个产品,扩展至机架和机柜级别的AI系统设计。
李教授表示:“即使计算芯片的性能得到提升,但如果芯片之间的数据传输能力跟不上,整个系统的性能就无法提高”,并指出“用光代替铜线传输数据的技术是最有前景的扩展路径”。
洪团队负责人表示:“存储企业也正在超越单纯的单一产品供应,向共同提升客户AI系统整体竞争力的合作伙伴转型。”
SK海力士20日宣布,与全球研究团队共同撰写的《面向高性能计算与人工智能的CPO技术》论文已发表在国际学术期刊《自然·电子学》上。SK海力士AI基础设施团队负责人洪承勋与美国弗吉尼亚大学电气与计算机工程系教授李圭相作为通讯作者参与了该研究。 伊利诺伊大学厄巴纳-香槟分校、南洋理工大学、麻省理工学院(MIT)以及延世大学的研究团队也共同参与了该研究。
CPO是一种将光收发器封装在与处理器相同的封装内,利用光信号而非电信号在芯片之间传输数据的技术。传统的铜线布线随着连接距离的延长和传输速度的提升,信号损耗和功耗也会随之增加。相比之下,CPO通过将电信号的传输距离最小化,能够提高数据传输速度和能效。
尽管AI加速器的运算性能每两年约提升3倍,但同期芯片间互连的带宽增幅仅停留在约1.4倍。 据解释,随着连接数千个图形处理单元(GPU)和HBM的超大型AI集群日益普及,系统间的数据传输速度正逐渐成为限制整体性能的因素,这种“带宽瓶颈”的影响正日益凸显,其影响甚至超过了芯片本身的性能。
研究团队提出了实现下一代AI基础设施的目标:每个节点带宽超过100太比特(Tb)/s,每比特能耗低于1皮焦耳(pJ),芯片间延迟时间少于10纳秒(ns)。 此外,研究团队还梳理了从2D封装到2.5D中介层、再到3D异构集成的技术发展路径,以及为实现商业化需解决的课题。
从长远来看,其构想是将光连接扩展至内存接口。通过光中介层将处理器与内存直接连接,多个AI加速器即可共享大规模内存资源。SK海力士计划借此将内存供应商的角色从HBM等单个产品,扩展至机架和机柜级别的AI系统设计。
李教授表示:“即使计算芯片的性能得到提升,但如果芯片之间的数据传输能力跟不上,整个系统的性能就无法提高”,并指出“用光代替铜线传输数据的技术是最有前景的扩展路径”。
洪团队负责人表示:“存储企业也正在超越单纯的单一产品供应,向共同提升客户AI系统整体竞争力的合作伙伴转型。”