Nota将机器人VLA推理放上高通边缘NPU

韩国AI优化公司Nota于9月22日宣布，已将一个视觉-语言-动作机器人模型完全运行在高通Dragonwing IQ-9075 NPU上，未使用GPU或外部服务器。该公司披露的演示围绕一个机械臂展开：机械臂响应语音指令移动一个立方体。在这项测试中，Nota称任务用时从原始配置下的36秒降至优化后的12秒；同时，任务成功率报告为92%，优化前为93%。

Nota称改变了什么

这项发布属于企业披露，并非经过独立验证的基准测试。Nota表示，这一变化并不只是硬件替换，而是一次优化工作，使机器人AI负载适合在边缘NPU上执行。该公司列出了多种方法：模型压缩、NPU图优化、使用多个NPU单元，以及动作加速。Nota将这些变化合并表述为，使VLA模型能够在高通处理器上本地运行，而不是依赖机器人系统之外的GPU或服务器。

这种实际区别很重要，因为视觉-语言-动作模型必须连接感知、语言理解和物理运动。在Nota描述的演示中，机械臂需要理解一条关于移动立方体的语音指令，并将其转化为动作序列。因此，报告中的提升涉及端到端演示任务，而不只是某个孤立的神经网络操作。从36秒降至12秒，表示在这一特定设置中，从指令发出到动作完成的周期更短。

Nota还报告称，优化后推理速度最高提升至7倍。这个数字应与演示任务时长缩短至三分之一分开理解。推理速度指模型计算，而机械臂任务还包括指令处理、感知和动作执行等额外阶段。这两项测量指向同一方向，但描述的并不是同一件事。该公司的说法是，优化足以改善模型执行，从而实质性缩短机器人动作序列。

优化后的设置如何工作

已核实的信息没有提供模型规模、机器人硬件细节、立方体摆放方式、除移动立方体任务之外的指令措辞，或原始系统架构。可以确认的是，Nota将VLA负载迁移到高通Dragonwing IQ-9075 NPU，并避免了GPU执行和外部服务器处理。这意味着该演示围绕端侧推理展开：机器人AI任务所需计算由边缘加速器在本地处理，而不是发送到远端处理。

模型压缩是Nota称其使用的方法之一。一般来说，压缩会降低模型的计算负担，使其能够在更受限制的处理和内存条件下运行。在这个案例中，相关主张并不是压缩单独产生了结果，而是它构成了更广泛优化流水线的一部分。由于没有提供额外技术参数，无法量化从36秒降至12秒的缩短中，有多少来自压缩，又有多少来自其他变化。

NPU图优化是另一个被提及的组成部分。这指的是针对目标神经处理硬件调整模型的计算图。对边缘NPU而言，这一点可能很重要，因为性能不仅取决于模型的理论规模，也取决于操作如何排列，以及这些操作是否受到加速器支持。Nota的公告将结果归因于这种面向硬件的优化，其中包括使用多个NPU单元。该公司还提到动作加速，把推理改进与机器人的运动流水线连接起来。

根据所提供事实，这一结果于9月11日在KRAIN进行演示。这样的场景使这些数字属于演示结果，而不是在许多环境中的广泛评估。该公司报告称，优化后任务成功率为92%，优化前为93%。按报告口径，这1个百分点的差异表明，演示中的速度提升并未伴随这一成功率指标的大幅下降。不过，在没有试验次数、测试条件或失败定义的情况下，无法确定这一差异的统计意义。

数字能证明什么，不能证明什么

最有依据的结论是，Nota报告了一次成功的端侧演示：一个VLA机器人模型运行在高通Dragonwing IQ-9075 NPU上，所展示的立方体移动任务用时为此前的三分之一。该公告还支持一个范围更窄的说法，即该公司在自有优化配置中测得推理最高加快7倍。这些是来自演示的企业报告性能数字，不是独立实验室测量，也不是公开基准套件中带有可复现条件披露的结果。

这些数字不能证明每一种VLA机器人负载在同一NPU上都会获得相同加速。它们也不能证明，在更丰富的任务、不同物体、不同指令或不同运行环境中，优化后的系统仍能保持92%的成功率。已核实事实不包含与其他边缘处理器、GPU、基于服务器的系统或竞争优化平台的比较。因此，这项公告可以被分析为Nota特定实现的证据，但不能作为机器人AI硬件或软件的普遍排名。

所提供材料也没有完整描述36秒的原始配置。因此尚不清楚原始设置是否使用了同一边缘硬件但未优化，是否采用了不同执行路径，或是否是另一种安排。这限制了对前后对比的解读范围。Nota描述的核心变化，是在没有外部计算的情况下，在高通NPU上优化执行该模型。该公司报告的实际结果，是更快完成语音移动立方体指令。

实际含义

对机器人领域而言，这类方法的实际含义，是减少某类AI驱动控制任务对远程计算的依赖。如果机器人能够在本地处理VLA模型，系统设计就可以避免在这一步将推理发送到外部服务器。已核实事实没有提供功耗、延迟拆分、热表现或成本方面的测量，因此这些因素无法在此评估。不过，该演示回应了一个明确的工程问题：机器人AI模型能否被调整到适配并运行在边缘NPU资源上。

运行在边缘NPU而非GPU上，也可能关系到部署约束，但公告没有量化这些约束。它没有说明电池影响、机身封装要求或系统总物料成本。可支持的相关要点更窄：Nota称，其优化方法使模型能够运行在高通Dragonwing IQ-9075 NPU上，并在报告结果中，在任务成功率几乎不变的同时，更快完成演示任务。

在这则消息中，Nota的定位也是一家优化公司，而不是机器人制造商本身。该公司2015年创立于KAIST，推广NetsPresso优化平台，并于2025年11月在KOSDAQ上市。这一背景使该公告成为一次将优化技术应用于机器人AI的展示。因此，该演示既关乎如何把一个要求较高的VLA负载适配到边缘硬件，也关乎机械臂可见的运动。

这项公告仍留下重要问题，包括优化如何影响泛化能力、系统在更复杂任务中的表现如何，以及该结果在演示场景之外的可重复性如何。即便如此，在企业报告数据的限制内，这个案例仍具有技术意义：Nota称其把一个VLA机器人模型迁移到高通边缘NPU上，在该设置中去除了对GPU或外部服务器的需求，并将一个特定语音移动立方体任务从36秒缩短到12秒。