[E-DailyYun Junghoon 记者]人工智能(AI)基础设施企业Vessel AI将于明年上半年在韩国引进英伟达的下一代AI计算系统“Vera Rubin NVL72”。其战略是将现有的基于Blackwell的GPU集群升级为下一代系统,并结合自主研发的分布式GPU运行及推理优化技术,从而加快进军全球NeoCloud市场的步伐。
Vessel AI首席执行官安在万于15日在江南DreamPlus举行的“Vessel AI新云战略发布会”上发表讲话(照片来源:Yun Junghoon 记者)
Vessel AI于15日在首尔江南DreamPlus举行的“NeoCloud战略发布会”上宣布,计划于2027年上半年构建基于Vera Rubin NVL72的GPU集群,并正式启动服务。
英伟达的Vera Rubin NVL72是一款新一代机架级计算系统,通过高速互连将72个Rubin GPU和36个Vera CPU连接起来,并搭载了HBM4高带宽内存。该系统被视为应对AI代理普及所导致的推理和学习需求激增的核心基础设施。
Vessel AI加速业务转型和下一代基础设施建设,背后是AI市场需求的爆发式增长。目前,据Vessel AI统计,客户对GPU的需求已超过3万张,其中海外需求占比高达70%至80%。
Vessel AI首席执行官安在万解释道:“在韩国,要求采购的GPU数量不是几百张,而是几千张的企业也不在少数”,并表示“与韩国相比,美国市场的规模至少大几十倍,最多接近100倍”。
他接着补充道:“目前GPU需求极其旺盛,一旦确定新GPU的采购计划,1~2周内就会售罄。”
(照片来源:Yun Junghoon 记者)
为应对这种需求激增,Vessel AI正全力扩充基础设施。该公司计划将目前约7000张的GPU库存,在年内增至1万张,2027年增至5万张,到2030年更将大幅增至20万张。
为此所需的融资工作也进展顺利。目前正在推进规模达4000亿韩元的GPU融资,明年将与全球投资银行(IB)及韩国主要证券公司合作,推动规模达2万亿韩元的追加融资。此外,公司还计划到2028年将韩国国内的AI数据中心规模扩大至500MW。
Vessel AI的核心竞争力不仅在于硬件的获取,更在于能够将分散的GPU资源像单一计算环境一样进行管理的“流体计算(Fluid Computing)”技术。该技术可对分散在不同数据中心的GPU进行统一管理,并根据任务自动分配最优资源,从而减少GPU的闲置时间,最大限度地提高运行率。
Vessel AI首席技术官(CTO)全智焕表示:“GPU是容易出现故障的设备,据说Meta Llama在为模型训练运营数万张GPU集群时,每30秒就会发生一次故障。”他补充道:“使用流体计算技术,可将GPU运营所需的手动操作减少约30%,并能提前检测到80%以上的故障征兆。”
推理优化成果也日益显现。通过应用自主技术,AI模型的缓存命中率提高了约2倍,部分工作负载的推理处理性能最高提升了近3倍。该公司还参与了Upstage的AI模型“Solar Pro”推理服务,目前每天可稳定处理约1450亿个令牌。
Vessel AI首席技术官(CTO)全智焕正在介绍将于明年引进的英伟达DGX VeraRubin VNL72集群(图片来源:Vessel AI)
该公司还正在巩固与韩国本土科技巨头及电信运营商的合作关系。目前正与SKTelecom(017670)开展涉及1000块英伟达B200 GPU的合作项目,同时也在与NHN Cloud共同构建基于B200的集群。
安代表特别强调了与韩国本土运营商的合作关系。他表示:“我们并非必然与韩国电信运营商或云服务企业处于竞争关系”,并解释道:“在数据中心和硬件运营方面,我们与云服务运营商展开合作;Vessel AI则凭借过去5至6年积累的大规模GPU运营软件能力,通过分工协作产生协同效应。”
随后他表示:“客户购买的不仅仅是简单的GPU硬件,而是稳定且成熟的大规模训练与推理计算能力”,并表示:“我们将依托故障预测和资源优化这两大技术护城河,跃升为代表韩国的全球顶级新云服务商。”
Vessel AI于15日在首尔江南DreamPlus举行的“NeoCloud战略发布会”上宣布,计划于2027年上半年构建基于Vera Rubin NVL72的GPU集群,并正式启动服务。
英伟达的Vera Rubin NVL72是一款新一代机架级计算系统,通过高速互连将72个Rubin GPU和36个Vera CPU连接起来,并搭载了HBM4高带宽内存。该系统被视为应对AI代理普及所导致的推理和学习需求激增的核心基础设施。
仅GPU即时需求就达3万块……“一到货1~2周内即告售罄”
Vessel AI加速业务转型和下一代基础设施建设,背后是AI市场需求的爆发式增长。目前,据Vessel AI统计,客户对GPU的需求已超过3万张,其中海外需求占比高达70%至80%。
Vessel AI首席执行官安在万解释道:“在韩国,要求采购的GPU数量不是几百张,而是几千张的企业也不在少数”,并表示“与韩国相比,美国市场的规模至少大几十倍,最多接近100倍”。
他接着补充道:“目前GPU需求极其旺盛,一旦确定新GPU的采购计划,1~2周内就会售罄。”
为应对这种需求激增,Vessel AI正全力扩充基础设施。该公司计划将目前约7000张的GPU库存,在年内增至1万张,2027年增至5万张,到2030年更将大幅增至20万张。
为此所需的融资工作也进展顺利。目前正在推进规模达4000亿韩元的GPU融资,明年将与全球投资银行(IB)及韩国主要证券公司合作,推动规模达2万亿韩元的追加融资。此外,公司还计划到2028年将韩国国内的AI数据中心规模扩大至500MW。
“流体计算”等技术护城河……“与韩国电信运营商及云服务商开展互利合作”
Vessel AI的核心竞争力不仅在于硬件的获取,更在于能够将分散的GPU资源像单一计算环境一样进行管理的“流体计算(Fluid Computing)”技术。该技术可对分散在不同数据中心的GPU进行统一管理,并根据任务自动分配最优资源,从而减少GPU的闲置时间,最大限度地提高运行率。
Vessel AI首席技术官(CTO)全智焕表示:“GPU是容易出现故障的设备,据说Meta Llama在为模型训练运营数万张GPU集群时,每30秒就会发生一次故障。”他补充道:“使用流体计算技术,可将GPU运营所需的手动操作减少约30%,并能提前检测到80%以上的故障征兆。”
推理优化成果也日益显现。通过应用自主技术,AI模型的缓存命中率提高了约2倍,部分工作负载的推理处理性能最高提升了近3倍。该公司还参与了Upstage的AI模型“Solar Pro”推理服务,目前每天可稳定处理约1450亿个令牌。
该公司还正在巩固与韩国本土科技巨头及电信运营商的合作关系。目前正与SKTelecom(017670)开展涉及1000块英伟达B200 GPU的合作项目,同时也在与NHN Cloud共同构建基于B200的集群。
安代表特别强调了与韩国本土运营商的合作关系。他表示:“我们并非必然与韩国电信运营商或云服务企业处于竞争关系”,并解释道:“在数据中心和硬件运营方面,我们与云服务运营商展开合作;Vessel AI则凭借过去5至6年积累的大规模GPU运营软件能力,通过分工协作产生协同效应。”
随后他表示:“客户购买的不仅仅是简单的GPU硬件,而是稳定且成熟的大规模训练与推理计算能力”,并表示:“我们将依托故障预测和资源优化这两大技术护城河,跃升为代表韩国的全球顶级新云服务商。”