[E-DailyKim Hyun-ah 记者] 人工智能模型优化企业NOTA将机器人用人工智能(AI)针对高通的神经网络处理单元(NPU)进行了优化,使实际机械臂的工作速度提高了3倍。
#诺塔22日表示,通过在高通工业级系统级芯片(SoC)“高通骁龙Dragonwing IQ-9075”的NPU上对视觉语言行为模型(VLA)进行优化,机器人手臂的作业时间从原来的36秒缩短至12秒。
诺塔首席执行官蔡明洙。图片来源:E-Daily数据库
此次实证测试的任务是:机械臂理解人类的语音指令后,拾取魔方并将其移至对面的垫子上。
AI决定下一步动作的推理速度最高提升了7倍。实际作业成功率仅从优化前的93%微降至92%,降幅仅为1个百分点。据解释,这说明在提升速度的同时,基本保持了原始模型的性能。
特别是,该系统无需依赖高性能GPU或外部服务器,而是直接在连接至机器人的高通NPU上处理AI推理。通过同步优化AI模型和运行环境,实现了从摄像头图像识别、语音指令理解到动作生成全流程在机器人内部的处理。
VLA是一种能够理解图像和语言,并据此生成机器人实际动作的AI模型。由于其运算量和内存占用较大,若要在电力和运算资源受限的机器人上运行,不仅需要优化模型本身,还需对半导体和运行环境进行优化。
Nota采用了VLA模型轻量化、NPU计算图优化、多NPU运行环境以及动作生成加速等技术。随后将其与实际机械臂连接,对AI推理速度、作业速度、准确度及作业成功率进行了综合验证。
AI推理速度也会影响机器人的响应能力。这是因为如果判断延迟,即使周围环境已经发生变化,机器人仍可能根据先前的情况进行动作。特别是对于学习了机器人连续动作的AI模型而言,减少推理延迟对于实际作业的稳定性也至关重要。
诺塔计划以此成果为契机,将移动端和边缘AI领域积累的优化技术扩展至机器人和类人机器人等物理AI领域。
NOTA是一家由韩国科学技术院(KAIST)研究团队于2015年通过学生创业成立的、专注于AI模型轻量化和优化的企业。该公司从减少智能手机键盘输入错误的技术起步,逐步将业务领域扩展至可在小型设备上高效运行AI的模型优化技术。2025年11月,该公司在科斯达克(KOSDAQ)上市。
其核心技术是AI模型自动压缩与优化平台“NetsPresso”。该平台在最大限度减少AI模型性能下降的同时,缩减模型大小和运算量,从而支持在电力和计算资源受限的设备端环境中运行AI。
该公司正与三星电子、LG电子、Naver以及英伟达、高通、Arm、瑞萨等全球半导体及科技企业展开合作。
诺塔还与LG电子、Mobilin共同参与了政府“K-设备端AI半导体技术开发项目”中人形机器人领域的国家重点课题。在该项目中,该公司负责将视觉-语言-行为模型针对国产NPU和实际机器人环境进行优化。
Nota首席执行官蔡明洙表示:“这是一个不仅局限于改善AI模型规模或推理速度,更展示了如何将其转化为实际机器人的响应能力和作业性能的案例”,并称:“我们将把涵盖各种AI模型和硬件的优化技术扩展到机器人和类人机器人等物理AI领域。”
#诺塔22日表示,通过在高通工业级系统级芯片(SoC)“高通骁龙Dragonwing IQ-9075”的NPU上对视觉语言行为模型(VLA)进行优化,机器人手臂的作业时间从原来的36秒缩短至12秒。
此次实证测试的任务是:机械臂理解人类的语音指令后,拾取魔方并将其移至对面的垫子上。
AI决定下一步动作的推理速度最高提升了7倍。实际作业成功率仅从优化前的93%微降至92%,降幅仅为1个百分点。据解释,这说明在提升速度的同时,基本保持了原始模型的性能。
特别是,该系统无需依赖高性能GPU或外部服务器,而是直接在连接至机器人的高通NPU上处理AI推理。通过同步优化AI模型和运行环境,实现了从摄像头图像识别、语音指令理解到动作生成全流程在机器人内部的处理。
VLA是一种能够理解图像和语言,并据此生成机器人实际动作的AI模型。由于其运算量和内存占用较大,若要在电力和运算资源受限的机器人上运行,不仅需要优化模型本身,还需对半导体和运行环境进行优化。
Nota采用了VLA模型轻量化、NPU计算图优化、多NPU运行环境以及动作生成加速等技术。随后将其与实际机械臂连接,对AI推理速度、作业速度、准确度及作业成功率进行了综合验证。
AI推理速度也会影响机器人的响应能力。这是因为如果判断延迟,即使周围环境已经发生变化,机器人仍可能根据先前的情况进行动作。特别是对于学习了机器人连续动作的AI模型而言,减少推理延迟对于实际作业的稳定性也至关重要。
诺塔计划以此成果为契机,将移动端和边缘AI领域积累的优化技术扩展至机器人和类人机器人等物理AI领域。
NOTA是一家由韩国科学技术院(KAIST)研究团队于2015年通过学生创业成立的、专注于AI模型轻量化和优化的企业。该公司从减少智能手机键盘输入错误的技术起步,逐步将业务领域扩展至可在小型设备上高效运行AI的模型优化技术。2025年11月,该公司在科斯达克(KOSDAQ)上市。
其核心技术是AI模型自动压缩与优化平台“NetsPresso”。该平台在最大限度减少AI模型性能下降的同时,缩减模型大小和运算量,从而支持在电力和计算资源受限的设备端环境中运行AI。
该公司正与三星电子、LG电子、Naver以及英伟达、高通、Arm、瑞萨等全球半导体及科技企业展开合作。
诺塔还与LG电子、Mobilin共同参与了政府“K-设备端AI半导体技术开发项目”中人形机器人领域的国家重点课题。在该项目中,该公司负责将视觉-语言-行为模型针对国产NPU和实际机器人环境进行优化。
Nota首席执行官蔡明洙表示:“这是一个不仅局限于改善AI模型规模或推理速度,更展示了如何将其转化为实际机器人的响应能力和作业性能的案例”,并称:“我们将把涵盖各种AI模型和硬件的优化技术扩展到机器人和类人机器人等物理AI领域。”