[E-DailyKim Hyun-ah 记者]Kakao(035720)正配合人工智能(AI)服务的扩展,从服务器运营方式入手进行变革。具体而言,平时提高自有基础设施的利用率,仅在需求激增时才额外使用外部云服务。该战略旨在继降低AI推理成本之后,进一步提升服务器运营效率,从而构建一种即使用户数量增加,成本负担也不会急剧增加的运营结构。
Kakao首席执行官郑真雅此前在宣布业务分拆的新闻发布会上表示:“通过优先在设备端处理以及智能模型路由,在保持性能的同时,将服务器推理成本降低最多90%”,并称“将构建一种服务架构,即使用户数量增加,推理成本也不会呈线性增长”。 该构想并非将所有请求都交由大型AI模型处理,而是将设备端可处理的请求通过轻量级模型解决,仅将复杂的请求转交至服务器的AI模型处理。
开发者大会“if(kakao)2026”第二天
Kakao正试图通过一种新方式来降低AI服务扩展带来的成本负担:不再将所有请求都交由高性能服务器AI处理,而是将简单任务在设备端解决,仅将复杂请求发送至服务器。来源=Kakao
此次,Kakao不仅在AI模型的推理方式上,甚至在支撑其运行的基础设施运营体系方面,也着手推进成本优化。与其无条件增加服务器,不如提高现有资源的利用率,仅在需要额外资源时才调用外部计算资源。
Kakao演讲者白正泰于14日在开发者大会“if(kakao)2026”上介绍了云成本管理体系FinOps的推进方向。演讲者郑元天则讲解了公司内部Kubernetes平台DKOS的资源自动调配功能及混合云应用案例。
Kakao决定将各服务的资源使用量与成本挂钩,以此区分必要资源与过度配置的资源。通过将服务器、数据库(DB)和通用平台与服务目录关联,掌握各服务消耗了多少资源以及产生了多少成本。
成本管理标准也将进行调整。不再仅关注整体服务器成本的增幅,而是衡量每处理1000次正常请求的成本、每传递100万条消息的成本等与服务绩效相关的成本(Unit Economics)。其宗旨是,即使AI功能不断扩展,也要综合分析实际处理量和成本,从而判断基础设施投资的效率。
Kakao以减少20%至30%的计算资源为目标,正在同步推进单台服务器的效率优化和整个集群的资源重新分配。
目标是通过此举将计算资源节约20%至30%。不过,这并非整个服务已达成的实际成果,而是预期目标,目前正逐步扩大应用范围。
14日,Kakao演讲人白正泰在开发者活动“if(kakao)2026”上,阐述了云成本管理体系FinOps的推进方向。
为此,已将公有云节点连接至现有的Kubernetes集群。这样一来,开发人员无需将服务单独部署到独立的云环境中,即可按照原有方式在需要时利用外部计算资源。
Kakao已在流量激增频繁的KakaoTalk“送礼”队列服务中验证了这种混合架构。节假日或纪念日期间,流量可能激增至平时的16倍。为此,公司利用基于历史数据的预测、基于AI的流量激增模式检测以及实时阈值预警等手段进行应对。
目前,已通过手动配置部分功能来验证其运行状况,并正在推进自动化工作。自动化完成的目标时间是2026年11月底。
随着AI竞争从模型性能扩展到运营成本和盈利能力,基础设施效率的重要性也在不断提升。关键在于Kakao能否同时降低推理成本和服务器运营成本,从而减轻因AI服务扩展带来的成本负担。
Kakao首席执行官郑真雅此前在宣布业务分拆的新闻发布会上表示:“通过优先在设备端处理以及智能模型路由,在保持性能的同时,将服务器推理成本降低最多90%”,并称“将构建一种服务架构,即使用户数量增加,推理成本也不会呈线性增长”。 该构想并非将所有请求都交由大型AI模型处理,而是将设备端可处理的请求通过轻量级模型解决,仅将复杂的请求转交至服务器的AI模型处理。
此次,Kakao不仅在AI模型的推理方式上,甚至在支撑其运行的基础设施运营体系方面,也着手推进成本优化。与其无条件增加服务器,不如提高现有资源的利用率,仅在需要额外资源时才调用外部计算资源。
Kakao演讲者白正泰于14日在开发者大会“if(kakao)2026”上介绍了云成本管理体系FinOps的推进方向。演讲者郑元天则讲解了公司内部Kubernetes平台DKOS的资源自动调配功能及混合云应用案例。
减少闲置服务器,按服务计算成本Kakao关注的问题在于
,虽然预先配置了服务器,但实际上未能充分利用的情况并不少见。随着AI功能和服务的增加,计算资源需求也会增长,但如果始终保留所有必要的服务器,成本负担就会加重。反之,如果仅因利用率低就无条件减少服务器,将难以应对故障或流量激增的情况。
Kakao决定将各服务的资源使用量与成本挂钩,以此区分必要资源与过度配置的资源。通过将服务器、数据库(DB)和通用平台与服务目录关联,掌握各服务消耗了多少资源以及产生了多少成本。
成本管理标准也将进行调整。不再仅关注整体服务器成本的增幅,而是衡量每处理1000次正常请求的成本、每传递100万条消息的成本等与服务绩效相关的成本(Unit Economics)。其宗旨是,即使AI功能不断扩展,也要综合分析实际处理量和成本,从而判断基础设施投资的效率。
计算资源削减20%至30%的目标实际的资源节约工作也在进行中。演讲者郑元天解释道,根据Kakao的调查结果,工作负载被分配的计算资源比实际使用量多出约30%。Kakao正在引入一项功能:根据实际使用量自动减少资源请求量,将剩余任务集中到部分服务器上,随后回收空闲服务器。
目标是通过此举将计算资源节约20%至30%。不过,这并非整个服务已达成的实际成果,而是预期目标,目前正逐步扩大应用范围。
平时使用自有服务器,流量激增时使用云服务服务器调配方式也将发生改变。Kakao计划将各服务的闲置资源汇集到公共资源池中进行共享;当多个服务的需求同时增加、难以应对时,将从公有云中额外获取所需资源。这是一种常需求由自有数据中心处理、临时需求由外部资源应对的混合云战略。
为此,已将公有云节点连接至现有的Kubernetes集群。这样一来,开发人员无需将服务单独部署到独立的云环境中,即可按照原有方式在需要时利用外部计算资源。
Kakao已在流量激增频繁的KakaoTalk“送礼”队列服务中验证了这种混合架构。节假日或纪念日期间,流量可能激增至平时的16倍。为此,公司利用基于历史数据的预测、基于AI的流量激增模式检测以及实时阈值预警等手段进行应对。
目前,已通过手动配置部分功能来验证其运行状况,并正在推进自动化工作。自动化完成的目标时间是2026年11月底。
随着AI竞争从模型性能扩展到运营成本和盈利能力,基础设施效率的重要性也在不断提升。关键在于Kakao能否同时降低推理成本和服务器运营成本,从而减轻因AI服务扩展带来的成本负担。