[E-DailyYun Junghoon 记者]专注于提升AI推理效率的企业#NOTA于12日宣布,已与半导体初创公司HyperExcel就大规模语言模型(LLM)优化技术供应签署了后续合同。这是自2025年9月首次签约以来连续第二年获得该订单。
(图片来源:诺塔)
根据此次合同,Nota将向HyperExcel的LLM推理专用半导体“Bertha LPU(LLM处理单元)”提供主要LLM模型及运算优化技术。Nota将此前以GPU、CPU、NPU为中心的优化范围扩展至LPU架构,从而强化了应对芯片架构多样化的软件业务。
双方计划将诺塔的优化技术与HyperAccel的硬件及开发环境相结合,大幅扩展可在Bertha上运行的LLM范围。近期,在数据中心及企业级AI市场中,除了芯片的运算性能外,是否支持企业所需的特定模型以及运行效率,也被视为决定是否采用的关键指标。
诺塔将通过其AI优化平台“NetsPresso”,基于HyperAccel的SDK(HyperAccel SDK)及嵌入式领域专用语言(eDSL)“Legato”进行优化。 特别是,该公司计划针对LPU架构对负责LLM核心运算的内核进行改造,并根据模型特性应用量化技术,以最大限度地提高内存使用效率。
此次合作表明,NOTA的业务领域已超越单纯的AI模型轻量化,正向半导体专用执行环境及运算内核优化领域扩展。
HyperExcel首席执行官金周永表示:“随着LLM推理市场的快速增长,在实际服务环境中灵活运行各种模型的能力已成为半导体领域的核心竞争力”,并称“我们将通过与Nota的合作,扩大Verda LPU对模型的支持范围,并提升市场响应能力”。
诺塔(NOTA)代表蔡明洙表示:“AI半导体的成败不仅取决于硬件本身,更取决于能否通过软件生态系统快速运行客户所需的模型”,并强调:“此次后续合同是与现有客户之间的技术信任转化为新订单的典型案例,我们将持续扩大与全球AI半导体企业的合作。”
根据此次合同,Nota将向HyperExcel的LLM推理专用半导体“Bertha LPU(LLM处理单元)”提供主要LLM模型及运算优化技术。Nota将此前以GPU、CPU、NPU为中心的优化范围扩展至LPU架构,从而强化了应对芯片架构多样化的软件业务。
双方计划将诺塔的优化技术与HyperAccel的硬件及开发环境相结合,大幅扩展可在Bertha上运行的LLM范围。近期,在数据中心及企业级AI市场中,除了芯片的运算性能外,是否支持企业所需的特定模型以及运行效率,也被视为决定是否采用的关键指标。
诺塔将通过其AI优化平台“NetsPresso”,基于HyperAccel的SDK(HyperAccel SDK)及嵌入式领域专用语言(eDSL)“Legato”进行优化。 特别是,该公司计划针对LPU架构对负责LLM核心运算的内核进行改造,并根据模型特性应用量化技术,以最大限度地提高内存使用效率。
此次合作表明,NOTA的业务领域已超越单纯的AI模型轻量化,正向半导体专用执行环境及运算内核优化领域扩展。
HyperExcel首席执行官金周永表示:“随着LLM推理市场的快速增长,在实际服务环境中灵活运行各种模型的能力已成为半导体领域的核心竞争力”,并称“我们将通过与Nota的合作,扩大Verda LPU对模型的支持范围,并提升市场响应能力”。
诺塔(NOTA)代表蔡明洙表示:“AI半导体的成败不仅取决于硬件本身,更取决于能否通过软件生态系统快速运行客户所需的模型”,并强调:“此次后续合同是与现有客户之间的技术信任转化为新订单的典型案例,我们将持续扩大与全球AI半导体企业的合作。”