[E-DailyHan Kwangbeom 记者 申永彬] 入选面向全民的免费AI基础设施项目“全民AI”的3个联合体将于今年10月同步推出测试版服务,正式展开服务竞争。SKTelecom(017670) 、Kakao(035720) 、KTCorporation(030200)分别提出了通信渠道联动、贴近生活的数据整合、门户搜索及优化路由作为核心差异化优势。
4日,在首尔韩国新闻中心举行的“全民AI”项目启动座谈会的问答环节中,由三家公司组成的联盟表示,将于10月启动封闭测试及基础聊天机器人服务,并将在12月正式上线之际着手全面提升服务水平。
三个联盟分别具体披露了各公司为在全球AI竞争中实现明确差异化服务而制定的核心战略。
SK电信联盟强调了其作为电信运营商特有的可及性,以及与专业合作伙伴的结合这一优势。SK电信AI事业本部本部长金智勋解释道:“在数据和服务方面的优势之外,我们还将利用‘电话和短信’这一渠道所具备的差异化应用场景。” 参与SKT联盟的Liner代表金镇宇补充道:“这种模式中,稳定的通用服务发挥‘砧’的作用,而深入挖掘求职准备等特定领域的服务合作伙伴则发挥‘锤’的作用。”目前正在混合使用包括K2在内的约3种模型进行测试。
Kakao联盟则以贴近日常生活的数据联动和“便捷性”为卖点,打出了一张王牌。 Kakao AI副总裁金世雄表示:“虽然目前很难立即超越美国大型科技公司AI的性能,但今年和明年我们将专注于打造国民真正方便使用的AI。”他接着强调:“特别是在金融、医疗、公共服务等政府主导的领域,如果数据与服务能够充分连接,就能实现国外AI无法做到的事情。”应用模型计划以LG ExaOne和Kakao Kanana等作为主要支柱进行运营。
KT联盟则主打与门户网站“Daum”及专业垂直领域运营商的数据整合。KT AX事业本部本部长李镇亨表示:“我们正与Daum共同推进旨在提升搜索精度的‘Ieum Inside’战略,同时正在优化Upstage等初创企业的商业模式,并筹备与Saltlux联动的公共服务。” 加入该联盟的Daum代表李建洙表示:“我们将结合购物、美食、房地产等韩国垂直领域运营商的实时数据与RAG(搜索增强生成)技术,提供精准的实时信息。” KT计划根据不同任务,将核心引擎(Upstage)、NPU卸载(KT Mideum)、公共代理(Saltlux)等共计7个模型进行自动路由并运营。
为支持这一服务构想,政府再次确认了提供破格预算支持的方针。 科学技术信息通信部AI政策室长金京万表示:“明年2500亿韩元的预算中,约1700亿韩元将用于租赁约2000块英伟达B200 GPU的费用,300亿韩元将分别直接分配给3个联合体,每个联合体各100亿韩元,用于系统构建和协作。” 剩余的500亿韩元将用于扩展外部专业代理服务。
此外,政府在推进旨在构建国产NPU(AI半导体)生态系统的专项政策的同时,还计划就提高用户可及性,进一步协商三家企业服务之间的联合品牌及统一服务名称的引入事宜。
以下是“全民AI”项目启动座谈会问答实录全文。
-各联合体推出测试版服务的具体时间是什么时候?在测试版中计划首先推出哪些服务?
△SK电讯AI事业本部部长金智勋=预计测试版将于中秋节后的10月推出。首批推出的功能将首先展示今天提到的聊天机器人和搜索联动功能。
△KT AX事业本部部长李镇亨=基本功能原本计划在9月底至10月初推出。不过,我们服务的特点在于必须与生态系统中的搜索功能紧密联动,这样民众才能切实感受到其效果。 目前正在与政府协商测试版的时间安排。如果需要进行封闭测试,时间表可能会稍有推迟。如果按原定计划,基本功能本身可在9月底或10月初推出。
△金世雄 Kakao 副总裁=我们计划于10月中旬启动,届时将以基础聊天机器人形式开始测试服务。
△科技信息通信部人工智能政策室长金京万=我们预计,测试版服务初期将以封闭形式进行,重点在于完成度测试等。根据业务计划,正式上线时间为12月。鉴于这是首次推出的服务,在个人信息等多个方面需要谨慎对待,因此正在考虑初期针对有限的体验用户群体进行充分测试。具体时间表将与三家公司再次协商后告知。
-Kakao已提出了月活跃用户(MAU)目标,那么SKT和KT的用户目标又是多少?此外,政府为何未公开各联盟的详细评分?
△金智勋 SK电信AI事业本部部长=SKT联盟将今年年底的MAU目标定为500万人,与Kakao相同,明年则以1000万人为目标。
△KT AX事业本部部长李镇亨=我们联盟中包含Daum搜索服务,而Daum自身的MAU规模相当大。具体MAU数值将取决于其中有多少用户流向我们这边。今年预计在500万人左右。明年计划做好系统准备,以容纳更多用户。
△科技信息通信部人工智能政策室长金京万=政府确实将公平性和客观性放在首位。不过,我们也充分考虑了参与企业的意愿。通常情况下,排名第一的企业可能希望公开评分,但其他企业往往不愿公开。此次我们也征询了参与企业的意见,这成为不公开评分的一个依据。 入选的3家运营商得分几乎持平,差距微乎其微。相反,与其他参与运营商相比则存在一定差距,且这些企业也不希望公开得分。评估标准在公告中已有详细说明。项目稳定性、如何扩展生态系统等——也就是今天各联盟发布的内容,可视为主要评估要素。
-明年“全民AI”的2500亿韩元预算,具体计划如何进行支持?今后各联盟的后续支持将如何决定?
△科技信息通信部人工智能政策室长金京万=明年预算已拨款2500亿韩元,主要可分为三部分。首先,约1700亿韩元是用于GPU使用的费用。 我们的计算基准是租赁约2000块B200显卡的费用。由于这一规模已充分超过当前国内聊天机器人服务所需的GPU运算量,因此预计足以覆盖明年的项目需求。300亿韩元将以直接分配的形式,分别拨付给3个联盟,每个联盟100亿韩元。 各联盟可将这笔资金用于系统运营或构建,以及与各参与企业开展合作。剩余的500亿韩元计划用于智能代理的扩展。该项目虽以聊天机器人为基础,但公共智能代理或个人定制服务等智能代理的扩展具有更深远的意义。我们希望构建一种结构,让外部开发的智能代理能够自然地搭载在三个平台上并提供服务。 预计到明年3月左右,就能实际观察到哪些服务的使用量较高。由于GPU支持很可能根据实际使用量进行增配,因此用户基数大且活跃度高的联盟将能获得更多资源。不过,政府所期望的并非单纯的竞争,而是既竞争又协作,并共同稳步成长的局面。
-虽然表示要降低对进口AI的依赖,但GPU等硬件对英伟达的依赖度很高。“全民AI”计划中,打算在多大程度上利用国产AI加速器?
△科技信息通信部人工智能政策室长金京万=我们正在单独推进旨在激活国产加速器的政策。如果国民广泛使用“全民AI”,推理量也将大幅增加,这将在加速器需求方面发挥打开相当大市场的作用。 除“全民AI”外,我们还在单独推进多项旨在扩大国产NPU应用的政策。我们认为,通过该项目大幅增加用户数量,并在这一过程中广泛应用国产模型和国产加速器,是理想的发展方向。关于加速器的相关政策,我们正在单独筹措预算,致力于构建生态系统。
△百俊浩 菲里奥萨AI代表=国内NPU正在快速升级,以充分支持自主基础模型和代理式AI。我们将努力确保NPU具备足够的高性能和经济性,让国民能够无障碍地使用。我们认为,“全民AI”中生成的代币应有相当一部分以国内NPU为核心生成。我们将与联盟携手努力,推动这一目标的实现。
△KT AX事业本部部长李镇亨=国产NPU中不乏专为推理优化的产品。当GPU与NPU合理混合使用时,可以实现相当高效的架构。 例如,将预填充(prefill)和解码(decode)分开处理,同时合理利用GPU和NPU的方式。我们将Rebellion NPU搭载于国内模型进行测试,其性能表现相当出色。计划通过合理混合使用GPU和NPU来提高效率,从运营成本的角度来看,预计未来NPU的使用比重将逐渐增加。
-副总理裴京勋曾表示:“如果与国外AI没有差异,‘全民AI’就会失败。”各联盟认为与国外AI的核心差异点是什么?
△Kakao副总裁金世雄=我们追求的是便捷的人工智能。综合考虑当前的模型、智能代理、平台及整个生态系统,我认为仅凭性能要立即超越美国科技巨头的AI并不容易。当然,我们必须迎头赶上。但这并非仅靠单项技术进步就能实现,而是需要整个生态系统共同提升。 今年和明年,我们将专注于打造国民真正能够便捷使用的AI。特别是金融、医疗、公共服务等政府管辖的领域,如果“全民AI”能够充分连接相关数据和服务,我认为它将能够实现进口AI无法做到的事情。
△SK电信AI事业本部部长金智勋=关于在数据和服务方面能明确占据优势这一点,在座各位应该都深有同感。此外,三个联盟中都包含电信运营商。我们尤其希望发挥“电话和短信”这一渠道所具备的差异化应用场景。
△莱纳公司代表金镇宇=在运营B2C服务时,既要充分具备稳定性、速度、便捷性等基本功能,同时还需准备在用户真正需要时能深入介入的功能。例如,对于求职者而言,就像写好求职信一样,必须深入挖掘结果质量会产生重大影响的领域。相反,日常对话必须让任何人都能轻松、快速地使用。 SKT联盟中拥有许多能够深入挖掘此类特定领域的服务合作伙伴。这种模式下,这些合作伙伴扮演“锤子”的角色,而稳定的通用服务则扮演“砧”的角色。公共部门开放的API和数据,也能成为打造这类精准服务的重要要素。
△李镇亨 KT AX事业本部部长=我们最头疼的问题是如何与国外的AI产品实现差异化。仅靠通用搜索或通用对话,很难将已经习惯ChatGPT的用户重新吸引回来。因此,第一点是“搜索”。我们正与Daum合作,推进旨在提升搜索准确性的“Ieum Inside”战略。 第二是模型竞争力。我们将利用“Token Factory”,助力像Upstage自主研发的基础模型这样具备全球竞争力的初创企业模型持续发展。此外,还计划积极运用像NC AI的3D生成模型这样能够与全球服务形成差异化的国内技术。最后,我们认为公共服务是国民最熟悉且易于使用的领域之一,因此正与Saltlux等企业共同筹备相关服务。
△Daum代表李建洙=即使是全球生成式AI,对于购物、美食、寻找租房或公寓等实际生活中的问题,也常常无法给出准确的答案。在这些领域,准确的数据库和实时性至关重要。绝不能推荐不存在的公寓房源,也不能虚构不存在的商品。我们重视的是基于实际数据库的RAG(检索增强生成)和实时信息。 例如,如果直接向全球AI询问今天举行的AI座谈会相关问题,可能难以给出准确答案,但Daum搜索中会实时更新记者撰写的报道。AI可以基于这些信息进行回答。此外,像Danawa、Musinsa、Zigbang这样的韩国垂直领域企业所拥有的实时数据,就连谷歌也未能完全掌握。我认为,将这些数据进行整合,正是我们与全球AI形成差异化的起点。
-Kakao已公开了ExaOne和Kanana的使用比例,SKT和KT计划以何种比例使用哪些模型?
△SK电讯AI事业本部部长金智勋=政府最初提出的指导方针是50·30·20的形式。 特定模型的使用上限为50%。目前公司内部正在测试多种模型。实际测试结果显示,不同服务形式下各模型的性能存在差异,因此并未规定必须将特定模型的使用比例固定在49%或50%。我们正在考虑包括K2在内的约3种模型混合使用的方案。目前尚未确定确切比例,而是根据实际使用场景,分析哪种模型更适合。
△李镇亨 KT AX事业本部部长=共采用7种模型。其中5种负责提供常规回答,其余2种分别是安全防护模型和STT·TTS相关模型。与SKT一样,我们将遵守政府指导方针,但不会通过强行设定比例从而影响性能的方式进行运营。 Upstage模型在核心引擎中发挥重要作用,而擅长处理长上下文的模型则会自动被路由至相应任务。KT的“信念”模型经过国产NPU优化,将采用卸载方式使用;在公共智能代理中,则计划采用在相关服务开发方面经验丰富的Saltlux的模型,以此针对不同任务选择最优模型。
-“全民AI”服务若推出3项,国民是否需要分别单独注册?政府是否有计划建立统一入口或整合使用方式?
△科技信息通信部人工智能政策室长金京万=在公开座谈会之前,我们就这一问题与3个联盟的参与者进行了讨论。 目前正在探讨共同品牌和联合营销等方案。由于各平台将强调各自的特色和特点来运营服务,因此注册本身可能需要分别进行。不过,关于在此基础上如何打造共同品牌,我们将与3家运营商及联盟进行进一步协商。关于提高可及性的服务名称或通用方式,我们也在讨论多种构想。