[E-DailyChoi Oh-hyun 记者] 随着全球科技巨头“摆脱英伟达”的步伐加快,三星电子和SK海力士能否因此获得新的增长动力,正备受关注。 这是因为随着微软(MS)、谷歌、亚马逊等公司相继加快自主人工智能(AI)芯片的研发步伐,市场预期高带宽内存(HBM)的供应渠道也将相应扩大。三星电子除了内存业务外,还可瞄准代工(半导体委托生产)订单的扩大。不过,鉴于不同客户对内存规格和半导体封装技术的要求各不相同,定制化开发能力预计将成为新的竞争变量。
三星电子·SK海力士。(照片=韩联社)
据15日业界消息,微软近日宣布,从明年起将把自主研发的AI加速器“Azure Maia”芯片作为其产品和服务的主力AI推理系统。据路透社报道,微软计划明年部署超过100万颗“Maia 300”芯片。继今年年初发布“Maia 200”之后,微软正加速推进下一代产品的发布。 据悉,“Maia 300”将搭载8块容量为288千兆字节(GB)的第六代高带宽内存(HBM4)。仅按简单换算,这相当于增加了800万块HBM的需求。与早期产品“Maia 100”(64GB)相比,内存容量增长了4.5倍。
其他科技巨头也在加快自主研发AI芯片的步伐。谷歌正持续优化其自主研发的AI半导体——张量处理单元(TPU)。预计下一代TPU 8i的HBM容量将达到288GB,较现有的第七代Ironwood(192GB)增加50%。 亚马逊的Trainium 3同样拥有144GB的HBM容量,较前代Trainium 2(96GB)增长了50%。以2027年投产为目标,Trainium 4也正在开发中。Meta同样正在推进其自主AI加速器MTIA的开发。
科技巨头们之所以将生死攸关的赌注押在自主研发AI芯片上,原因在于成本和效率。随着AI产业的重心从训练转向提供实际服务的推理,能效、响应延迟和投资回报率变得至关重要。利用针对自家AI服务进行优化的ASIC,可以减少不必要的运算并提高能效。 其中也暗含着降低对英伟达的依赖、实现半导体供应链多元化的意图。尽管初期需要投入开发成本,但一旦进入大规模量产阶段,从长远来看,每颗芯片的单价将比GPU大幅降低。
此前主要集中在英伟达GPU上的HBM需求,正向科技巨头的自研ASIC扩展,这为韩国内存半导体企业开辟了新市场。三星电子和SK海力士去年在全球HBM市场分别占据39%和48%的份额,市场占有率极为突出。据悉,微软前代产品Maia 200所搭载的HBM3E由SK海力士独家供应。 SK海力士能否在Maia 300项目中再次获得微软的订单,备受关注。谷歌的TPU也采用了三星电子和SK海力士的HBM。
市场研究机构Counterpoint Research预测,2024年至2028年间,用于AI服务器ASIC的HBM总位需求将增长35倍。 预计同期单颗ASIC的平均HBM容量也将增长约5倍。分析认为,随着自主AI芯片出货量的扩大,加上单芯片内存容量的增加,将共同推动HBM需求的增长。
特别是三星电子也在代工业务中看到了新的机遇。这是因为即使科技巨头设计了自己的AI芯片,实际生产仍会委托给外部半导体制造商。据悉,微软的Maia 300将采用台湾台积电(TSMC)的先进工艺。不过,作为行业领头羊的台积电,其先进工艺的生产能力已接近极限,无法满足全部需求,因此未能满足需求的订单很可能流向三星电子。
ASIC市场的增长前景也十分乐观。Gartner去年8月预测,全球定制化ASIC市场规模将从去年的677亿美元扩大至2030年的2036亿美元,增长约3倍。另有预测指出,到2027年,在高性能云AI加速器市场中,ASIC的出货量将超过GPU。
在此背景下,客户定制化技术能力的重要性预计将进一步凸显。 这是因为科技巨头设计的AI芯片,从运算架构到内存容量、数据传输速度乃至封装方式都各不相同。一位业内人士表示:“虽然生产多少内存很重要,但能否快速、稳定地按客户需求定制所需性能,正变得越来越重要。”在此过程中,由于各客户HBM规格的差异,开发成本和技术应对负担也有可能增加。
三星电子和SK海力士均已着手为下一代市场做准备。SK海力士开发总监安贤最近在半导体大会上展望下一代HBM时表示:“从长远来看,定制化趋势将不断扩大”,并称“SK海力士已为多项核心技术做好了充分准备”。三星电子也计划从明年起,根据不同客户的需求,依次供应定制化HBM样品。
据15日业界消息,微软近日宣布,从明年起将把自主研发的AI加速器“Azure Maia”芯片作为其产品和服务的主力AI推理系统。据路透社报道,微软计划明年部署超过100万颗“Maia 300”芯片。继今年年初发布“Maia 200”之后,微软正加速推进下一代产品的发布。 据悉,“Maia 300”将搭载8块容量为288千兆字节(GB)的第六代高带宽内存(HBM4)。仅按简单换算,这相当于增加了800万块HBM的需求。与早期产品“Maia 100”(64GB)相比,内存容量增长了4.5倍。
其他科技巨头也在加快自主研发AI芯片的步伐。谷歌正持续优化其自主研发的AI半导体——张量处理单元(TPU)。预计下一代TPU 8i的HBM容量将达到288GB,较现有的第七代Ironwood(192GB)增加50%。 亚马逊的Trainium 3同样拥有144GB的HBM容量,较前代Trainium 2(96GB)增长了50%。以2027年投产为目标,Trainium 4也正在开发中。Meta同样正在推进其自主AI加速器MTIA的开发。
科技巨头们之所以将生死攸关的赌注押在自主研发AI芯片上,原因在于成本和效率。随着AI产业的重心从训练转向提供实际服务的推理,能效、响应延迟和投资回报率变得至关重要。利用针对自家AI服务进行优化的ASIC,可以减少不必要的运算并提高能效。 其中也暗含着降低对英伟达的依赖、实现半导体供应链多元化的意图。尽管初期需要投入开发成本,但一旦进入大规模量产阶段,从长远来看,每颗芯片的单价将比GPU大幅降低。
此前主要集中在英伟达GPU上的HBM需求,正向科技巨头的自研ASIC扩展,这为韩国内存半导体企业开辟了新市场。三星电子和SK海力士去年在全球HBM市场分别占据39%和48%的份额,市场占有率极为突出。据悉,微软前代产品Maia 200所搭载的HBM3E由SK海力士独家供应。 SK海力士能否在Maia 300项目中再次获得微软的订单,备受关注。谷歌的TPU也采用了三星电子和SK海力士的HBM。
市场研究机构Counterpoint Research预测,2024年至2028年间,用于AI服务器ASIC的HBM总位需求将增长35倍。 预计同期单颗ASIC的平均HBM容量也将增长约5倍。分析认为,随着自主AI芯片出货量的扩大,加上单芯片内存容量的增加,将共同推动HBM需求的增长。
特别是三星电子也在代工业务中看到了新的机遇。这是因为即使科技巨头设计了自己的AI芯片,实际生产仍会委托给外部半导体制造商。据悉,微软的Maia 300将采用台湾台积电(TSMC)的先进工艺。不过,作为行业领头羊的台积电,其先进工艺的生产能力已接近极限,无法满足全部需求,因此未能满足需求的订单很可能流向三星电子。
ASIC市场的增长前景也十分乐观。Gartner去年8月预测,全球定制化ASIC市场规模将从去年的677亿美元扩大至2030年的2036亿美元,增长约3倍。另有预测指出,到2027年,在高性能云AI加速器市场中,ASIC的出货量将超过GPU。
在此背景下,客户定制化技术能力的重要性预计将进一步凸显。 这是因为科技巨头设计的AI芯片,从运算架构到内存容量、数据传输速度乃至封装方式都各不相同。一位业内人士表示:“虽然生产多少内存很重要,但能否快速、稳定地按客户需求定制所需性能,正变得越来越重要。”在此过程中,由于各客户HBM规格的差异,开发成本和技术应对负担也有可能增加。
三星电子和SK海力士均已着手为下一代市场做准备。SK海力士开发总监安贤最近在半导体大会上展望下一代HBM时表示:“从长远来看,定制化趋势将不断扩大”,并称“SK海力士已为多项核心技术做好了充分准备”。三星电子也计划从明年起,根据不同客户的需求,依次供应定制化HBM样品。