互联网

LG U+携手Opt AI,共同推进AI“代币优化”

使用相同的GPU,吞吐量最高可提升4倍 降低AI运营成本与能耗 基于设备端AI优化,将应用范围扩展至服务器GPU 由LG电子出身的李在浩代表于2021年创立 掌握模型轻量化和推理加速技术

Kim Hyun-ah
2026-10-02 09:37:52
[E-DailyKim Hyun-ah 记者]LG Uplus(032640)与AI模型优化专业企业OptAI携手,着手开发提升AI服务运营效率的技术。

随着AI服务的增加,GPU和电力消耗也在迅速增长。在保持相同性能的同时,以更少的资源运行AI已成为一项重要课题。

LG Uplus首席技术官李相叶(左)与OptAI代表李在浩就令牌优化技术合作合影留念。照片来源:LG Uplus

两家公司关注的重点技术是“令牌优化”。

令牌是AI在理解问题并生成回答的过程中处理的数据单位。令牌优化是一项通过减轻AI模型负担或改进运算方式,使同一GPU能够处理更多请求的技术。

LG U+将通过实际运营AI服务来验证并应用该技术。OptAI则负责开发使AI模型更小、运行更快的技术。

两家公司计划通过此举,在降低GPU和功耗的同时,提升AI响应速度和服务质量。

此前,双方在设备端AI领域也曾开展过合作。LG U+将轻量化技术应用于基于ExaOne的小型语言模型,使其能够在智能手机的AI专用半导体NPU上运行。

结果显示,在保持与现有CPU方案相似性能的同时,功耗降低了78%,模型大小缩减了82%。

此次,双方将合作范围扩展至服务器GPU环境。双方将共同研究一项技术,旨在优化AI模型的运算过程,以便在运营大规模AI服务时,使用同一GPU处理更多用户的请求。

目前相关研究已取得成果。双方针对AI生成回答的过程进行了适应实际服务环境的优化,使同一GPU可处理的令牌量较此前最高提升了4倍。

OptAI是一家成立于2021年11月的AI优化初创企业,由曾任职于#LG电子的李在浩(Lee Jae-ho)担任首席执行官。该公司掌握将AI模型针对NPU、GPU、CPU等硬件进行轻量化和优化的技术,并与LG电子、LG U+等企业展开合作。通过设备端AI优化平台“OptHancer”,正将业务扩展至智能手机、汽车、机器人等领域。

双方还于1日共同举办了“高效AI技术研讨会”。Furiosa AI、Vessel AI、韩国电子技术研究院(KETI)、汉阳大学等机构出席了会议,并就AI模型优化、AI半导体以及实际服务应用案例等内容进行了分享。

LG U+计划今后将所掌握的技术分阶段应用于自身的AI服务和大型AI基础设施中。

LG U+首席技术官李相燁表示:“AI竞争力不仅在于提升性能,更取决于如何利用相同资源高效处理尽可能多的令牌,”并称“我们将与各类合作伙伴携手,扩大令牌优化技术的研究范围。”

OptAI代表李在浩表示:“在生成式AI时代,确保运营效率与提升高性能同样重要”,并表示:“我们将进一步完善可在实际服务环境中验证的AI优化技术。”

Economy

Corporation

IT·Science

Economy

中国点燃的“钠离子”竞争……继LFP之后,钠离子成为韩国电池行业的追赶目标

随着中国低价电池攻势继磷酸铁锂(LFP)之后进一步扩展至钠离子电池领域,韩国电池企业也在加快追赶步伐。LG能源解决方案已在南京和韩国梧昌设立钠离子电池生产线,着手进行商业化准备。 在价格竞争力至关重要的储能系统(ESS)市场,为了不将主导权让给中国,韩国电池业界也正将应对力度从研发(R&D)提升至建设生产线和客户验证等层面。据2日业界消息,LG能源解决方案已完成适用于长周期ESS市场的钠离子电池客…
2026-10-02 16:19:04

Corporation

“将于6日开始”……国政听证会临近,流通及食品行业紧张情绪加剧

随着下周国会听证会的临近,零售和食品行业主要企业相关人士的证人资格接连获得确认,紧张气氛日益高涨。预计在此次国会听证会上,平台个人信息保护、Homeplus企业破产重整以及食品原材料垄断等行业主要议题将再次成为焦点。 汝矣岛国会议事堂。(照片=韩联社) 据2日政界消息,国政听证会将于6日至27日进行,为期3周。流通食品行业的热点问题预计将在科学技术信息广播通信委员会、政务委员会、农林…
2026-10-02 11:06:55

IT·Science

三星生物工会将于26日起举行为期3周的第二次全面罢工……薪资谈判“各执一词”

SAMSUNG BIOLOGICS(207940) 工会将于26日起展开为期3周的第二次全面罢工。继今年5月为期5天的首次全面罢工之后,围绕加薪、绩效奖金及人事制度等问题,劳资双方的分歧仍未弥合,因此时隔约5个月再次预告将进行全面罢工。公司方面表示虽难以接受工会的诉求,但仍为通过对话达成共识留有余地。 三星生物制药工会于4月22日举行集会。(照片=金镇洙 记者) 工会要求“固定工资…
2026-10-02 17:09:02