[E-DailyYun Junghoon 记者]专注于AI模型轻量化和优化解决方案的企业#NOTA将与LG电子、Mobillint携手,着手开发基于国产设备端AI半导体的类人机器人。通过将大型机器人AI模型针对国产神经网络处理单元(NPU)进行轻量化和优化,该公司将提供核心软件,使机器人即使在硬件资源受限的环境下也能实现快速、精准的自主控制。
(图片来源:诺塔)
Nota于8日宣布,已被最终选定为由韩国产业通商资源部和韩国产业技术规划评估院(KEIT)推进的“K-设备端AI半导体技术开发项目”中,类人机器人领域第3子项目的牵头机构。
此次课题有望成为诺塔将此前在移动端、边缘计算、数据中心等领域积累的AI优化技术能力正式扩展至“物理AI(Physical AI)”领域的转折点。特别是,将AI模型、NPU与实际机器人系统高效结合的“优化”被指定为独立的核心课题,且由诺塔负责主导,这表明AI优化软件已确立其作为下一代机器人产业核心技术的地位。
该项目最终目标是,通过搭载国产设备端AI半导体,打造一款即使在复杂的日常空间中也能自主感知环境、并执行达到人类水平的精细任务的自主型类人机器人。LG电子将负责整个项目的总协调及类人机器人系统的开发;Moblin特负责国产NPU硬件,而诺塔则专门负责将AI模型优化至NPU及机器人运行环境的核心软件开发。
由诺塔主导的“类人机器人AI模型优化”课题,重点在于将搭载于机器人上的视觉-语言-动作模型(VLA,Vision-Language-Action Model)进行轻量化处理,并实现与莫比林特NPU的联动。
类人机器人等物理AI必须实时处理通过摄像头等设备获取的视觉信息,并将其转化为即时的情境判断和行动。如果VLA模型的推理速度变慢,就无法及时反映不断变化的现场情况,安全性和作业准确度势必会大幅下降。因此,在有限的电池和运算资源范围内,在保持模型性能的同时最大限度地提高推理速度的优化工作至关重要。
NOTA将大量投入其自主研发的先进技术,包括令牌压缩、量化(Quantization)、剪枝(Pruning)、知识蒸馏(Knowledge Distillation)以及分层优化等。通过这些技术,计划在将VLA模型的性能下降降至最低的同时,大幅缩减模型大小、运算量和内存占用率。 将实现准确率、计算量与通信延迟(Latency)之间最佳平衡的轻量级模型转换为适应Moblinte NPU架构的形式,并整合构建实时推理环境及工作负载联动模块,以验证其实际效果。
当经过此类优化的VLA模型在机器人本地(On-device)运行时,即使不连接外部服务器(云)或通信网络,也能实现独立的判断和动作。由于省去了数据收发过程,通信延迟大幅降低,同时阻断了敏感内部信息向外泄露的可能性,安全性也显著提升。此外,预计计算效率的提升还将带来能耗降低的效果。
诺塔首席执行官蔡明洙表示:“此次项目是将诺塔积累的AI优化技术应用于国产NPU基础人形机器人的一项重要案例”,并表示:“基于我们在移动端、边缘计算和数据中心等多种环境中高效连接AI模型与硬件的技术实力,我们将以人形机器人为起点,在需要实时设备端AI的各类机器人、汽车、工业设备等物理AI领域,不断拓展技术应用和商业机会。”
Nota于8日宣布,已被最终选定为由韩国产业通商资源部和韩国产业技术规划评估院(KEIT)推进的“K-设备端AI半导体技术开发项目”中,类人机器人领域第3子项目的牵头机构。
此次课题有望成为诺塔将此前在移动端、边缘计算、数据中心等领域积累的AI优化技术能力正式扩展至“物理AI(Physical AI)”领域的转折点。特别是,将AI模型、NPU与实际机器人系统高效结合的“优化”被指定为独立的核心课题,且由诺塔负责主导,这表明AI优化软件已确立其作为下一代机器人产业核心技术的地位。
该项目最终目标是,通过搭载国产设备端AI半导体,打造一款即使在复杂的日常空间中也能自主感知环境、并执行达到人类水平的精细任务的自主型类人机器人。LG电子将负责整个项目的总协调及类人机器人系统的开发;Moblin特负责国产NPU硬件,而诺塔则专门负责将AI模型优化至NPU及机器人运行环境的核心软件开发。
由诺塔主导的“类人机器人AI模型优化”课题,重点在于将搭载于机器人上的视觉-语言-动作模型(VLA,Vision-Language-Action Model)进行轻量化处理,并实现与莫比林特NPU的联动。
类人机器人等物理AI必须实时处理通过摄像头等设备获取的视觉信息,并将其转化为即时的情境判断和行动。如果VLA模型的推理速度变慢,就无法及时反映不断变化的现场情况,安全性和作业准确度势必会大幅下降。因此,在有限的电池和运算资源范围内,在保持模型性能的同时最大限度地提高推理速度的优化工作至关重要。
NOTA将大量投入其自主研发的先进技术,包括令牌压缩、量化(Quantization)、剪枝(Pruning)、知识蒸馏(Knowledge Distillation)以及分层优化等。通过这些技术,计划在将VLA模型的性能下降降至最低的同时,大幅缩减模型大小、运算量和内存占用率。 将实现准确率、计算量与通信延迟(Latency)之间最佳平衡的轻量级模型转换为适应Moblinte NPU架构的形式,并整合构建实时推理环境及工作负载联动模块,以验证其实际效果。
当经过此类优化的VLA模型在机器人本地(On-device)运行时,即使不连接外部服务器(云)或通信网络,也能实现独立的判断和动作。由于省去了数据收发过程,通信延迟大幅降低,同时阻断了敏感内部信息向外泄露的可能性,安全性也显著提升。此外,预计计算效率的提升还将带来能耗降低的效果。
诺塔首席执行官蔡明洙表示:“此次项目是将诺塔积累的AI优化技术应用于国产NPU基础人形机器人的一项重要案例”,并表示:“基于我们在移动端、边缘计算和数据中心等多种环境中高效连接AI模型与硬件的技术实力,我们将以人形机器人为起点,在需要实时设备端AI的各类机器人、汽车、工业设备等物理AI领域,不断拓展技术应用和商业机会。”