Nota verlagert Robotik-VLA-Inferenz auf Qualcomms Edge-NPU

Nota, ein südkoreanisches Unternehmen für KI-Optimierung, gab am 22. September bekannt, ein Vision-Language-Action-Robotermodell vollständig auf Qualcomms Dragonwing-IQ-9075-NPU ausgeführt zu haben, ohne GPU und ohne externen Server. Die vom Unternehmen gemeldete Demonstration drehte sich um einen Roboterarm, der auf einen gesprochenen Befehl reagierte, einen Würfel zu bewegen. In diesem Test sank die Aufgabenzeit laut Nota von 36 Sekunden in der ursprünglichen Konfiguration auf 12 Sekunden nach der Optimierung. Die Erfolgsquote der Aufgabe wurde mit 92 % angegeben, verglichen mit 93 % vor der Optimierung.

Was Nota nach eigenen Angaben geändert hat

Die Mitteilung ist eine Unternehmensangabe, kein unabhängig verifizierter Benchmark. Nota beschreibt die Änderung nicht als einfachen Austausch von Hardware, sondern als Optimierungsarbeit, die die Robotik-KI-Arbeitslast für die Ausführung auf der Edge-NPU geeignet gemacht habe. Das Unternehmen nennt mehrere Methoden: Modellkompression, NPU-Graph-Optimierung, die Nutzung mehrerer NPU-Einheiten und Aktionsbeschleunigung. Zusammen wurden diese Änderungen so dargestellt, dass sie das VLA-Modell lokal auf dem Qualcomm-Prozessor lauffähig machten, statt auf eine GPU oder einen Server außerhalb des Robotersystems angewiesen zu sein.

Der praktische Unterschied ist relevant, weil ein Vision-Language-Action-Modell Wahrnehmung, Sprachverständnis und physische Bewegung miteinander verbinden muss. In der von Nota beschriebenen Demonstration musste der Roboterarm eine gesprochene Anweisung zum Bewegen eines Würfels interpretieren und in eine Aktionsfolge übersetzen. Die gemeldete Verbesserung betrifft daher die Ende-zu-Ende-Demonstrationsaufgabe, nicht nur eine einzelne isolierte neuronale Netzwerkoperation. Die Verringerung von 36 Sekunden auf 12 Sekunden zeigt in diesem konkreten Aufbau einen kürzeren Zyklus vom Befehl bis zur abgeschlossenen Bewegung.

Nota berichtet außerdem von einer bis zu siebenmal schnelleren Inferenz nach der Optimierung. Diese Zahl ist getrennt von der dreifachen Verkürzung der demonstrierten Aufgabendauer zu lesen. Inferenzgeschwindigkeit bezieht sich auf die Berechnung des Modells, während die Aufgabe des Roboterarms zusätzliche Stufen wie Befehlsverarbeitung, Wahrnehmung und Aktionsausführung umfasst. Beide Messgrößen weisen in dieselbe Richtung, beschreiben aber nicht dasselbe. Der Anspruch des Unternehmens lautet, dass die Optimierung die Modellausführung so weit verbessert habe, dass die Aktionssequenz des Roboters deutlich kürzer wurde.

Wie der optimierte Aufbau funktioniert

Die verifizierten Informationen nennen keine Modellgröße, keine Details zur Roboterhardware, keine Anordnung der Würfel, keine Befehlsformulierung über die Würfelbewegungsaufgabe hinaus und keine ursprüngliche Systemarchitektur. Festhalten lässt sich, dass Nota die VLA-Arbeitslast auf Qualcomms Dragonwing-IQ-9075-NPU verlagerte und sowohl GPU-Ausführung als auch externe Serververarbeitung vermied. Damit war die Demonstration auf On-Device-Inferenz ausgerichtet: Die für die Robotik-KI-Aufgabe nötige Berechnung wurde lokal durch den Edge-Beschleuniger verarbeitet, statt zur Remote-Verarbeitung ausgelagert zu werden.

Modellkompression ist eine der Methoden, die Nota nach eigenen Angaben eingesetzt hat. Allgemein reduziert Kompression die Rechenlast eines Modells, damit es innerhalb engerer Verarbeitungs- und Speichergrenzen laufen kann. In diesem Fall lautet die relevante Aussage nicht, dass Kompression allein das Ergebnis hervorgebracht habe, sondern dass sie Teil einer breiteren Optimierungskette war. Da keine zusätzlichen technischen Parameter vorliegen, lässt sich nicht beziffern, welcher Anteil der Verringerung von 36 auf 12 Sekunden auf Kompression und welcher auf andere Änderungen entfiel.

NPU-Graph-Optimierung ist eine weitere genannte Komponente. Damit ist die Anpassung des rechnerischen Graphen eines Modells an die Zielhardware für neuronale Verarbeitung gemeint. Für eine Edge-NPU kann dies wichtig sein, weil die Leistung nicht nur von der theoretischen Größe des Modells abhängt, sondern auch davon, wie Operationen angeordnet sind und vom Beschleuniger unterstützt werden. Nota führt das Ergebnis auf diese Art hardwarebewusster Optimierung zurück, einschließlich der Nutzung mehrerer NPU-Einheiten. Das Unternehmen nennt außerdem Aktionsbeschleunigung, die die Inferenzverbesserungen mit der Bewegungskette des Roboters verbindet.

Das Ergebnis wurde den bereitgestellten Fakten zufolge am 11. September auf der KRAIN demonstriert. Dieser Rahmen macht die Zahlen zu Demonstrationsergebnissen und nicht zu einer breiten Bewertung über viele Umgebungen hinweg. Das Unternehmen meldet nach der Optimierung eine Erfolgsquote von 92 % bei der Aufgabe, verglichen mit 93 % davor. Die berichtete Differenz von einem Prozentpunkt legt nahe, dass die gezeigte Geschwindigkeitsverbesserung in dieser Erfolgsmetrik nicht mit einem großen Rückgang einherging. Ohne Anzahl der Versuche, Testbedingungen oder Definitionen von Fehlschlägen lässt sich die statistische Bedeutung dieser Differenz jedoch nicht bestimmen.

Was die Zahlen belegen und was nicht

Die am stärksten gestützte Schlussfolgerung ist, dass Nota eine erfolgreiche On-Device-Demonstration eines VLA-Robotermodells auf Qualcomms Dragonwing-IQ-9075-NPU meldet, bei der die gezeigte Würfelbewegungsaufgabe in einem Drittel der bisherigen Zeit abgeschlossen wurde. Die Mitteilung stützt außerdem die engere Aussage, dass das Unternehmen in seiner eigenen optimierten Konfiguration eine schnellere Inferenz von bis zu siebenmal gemessen habe. Es handelt sich um vom Unternehmen berichtete Leistungszahlen aus einer Demonstration, nicht um unabhängige Labormessungen und nicht um eine öffentliche Benchmark-Suite mit offengelegten Bedingungen zur Reproduzierbarkeit.

Die Zahlen belegen nicht, dass jede VLA-Robotik-Arbeitslast auf derselben NPU dieselbe Beschleunigung erreichen würde. Sie belegen auch nicht, dass das optimierte System bei abwechslungsreicheren Aufgaben, anderen Objekten, Befehlen oder Betriebsumgebungen eine Erfolgsquote von 92 % beibehalten würde. Die verifizierten Fakten enthalten keine Vergleiche mit anderen Edge-Prozessoren, GPUs, serverbasierten Systemen oder konkurrierenden Optimierungsplattformen. Deshalb lässt sich die Ankündigung als Hinweis auf Notas spezifische Implementierung analysieren, aber nicht als allgemeine Rangordnung von Robotik-KI-Hardware oder -Software.

Auch die ursprüngliche 36-Sekunden-Konfiguration wird im bereitgestellten Material nicht vollständig beschrieben. Daher bleibt unklar, ob der ursprüngliche Aufbau dieselbe Edge-Hardware ohne Optimierung, einen anderen Ausführungspfad oder eine andere Anordnung nutzte. Das begrenzt, wie weit der Vorher-nachher-Vergleich interpretiert werden kann. Die zentrale von Nota beschriebene Änderung ist die optimierte Ausführung des Modells auf der Qualcomm-NPU ohne externe Rechenressourcen. Das vom Unternehmen berichtete praktische Ergebnis ist der schnellere Abschluss des gesprochenen Befehls zum Bewegen eines Würfels.

Praktische Bedeutung

Für die Robotik liegt die praktische Bedeutung eines solchen Ansatzes in einer geringeren Abhängigkeit von Remote-Berechnung für eine Klasse KI-gesteuerter Steuerungsaufgaben. Wenn ein Roboter ein VLA-Modell lokal verarbeiten kann, kann das Systemdesign vermeiden, die Inferenz für diesen Schritt an einen externen Server zu senden. Die verifizierten Fakten enthalten keine Messungen zum Stromverbrauch, zur Aufschlüsselung der Latenz, zum thermischen Verhalten oder zu den Kosten; diese Faktoren lassen sich hier daher nicht bewerten. Dennoch adressiert die Demonstration eine klare technische Frage: ob ein Robotik-KI-Modell so angepasst werden kann, dass es in die Ressourcen einer Edge-NPU passt und dort läuft.

Die Ausführung auf einer Edge-NPU statt auf einer GPU kann auch für Einsatzbeschränkungen relevant sein, doch die Ankündigung quantifiziert diese Beschränkungen nicht. Sie nennt keine Auswirkungen auf Batterielaufzeit, Gehäuseanforderungen oder die gesamten Systemstückkosten. Der belastbare Punkt ist enger gefasst: Nota sagt, seine Optimierungsmethoden hätten es ermöglicht, das Modell auf Qualcomms Dragonwing-IQ-9075-NPU auszuführen und die demonstrierte Aufgabe schneller abzuschließen, während die Erfolgsquote der Aufgabe im berichteten Ergebnis nahezu unverändert blieb.

Notas Rolle in dieser Meldung ist zudem die eines Optimierungsunternehmens und nicht die eines Roboterherstellers als solchem. Das 2015 am KAIST gegründete Unternehmen vermarktet die Optimierungsplattform NetsPresso und wurde im November 2025 an der KOSDAQ gelistet. Dieser Hintergrund rahmt die Ankündigung als Vorführung von Optimierungstechnologie, die auf Robotik-KI angewendet wird. Die Demonstration handelt damit ebenso von der Anpassung einer anspruchsvollen VLA-Arbeitslast an Edge-Hardware wie von der sichtbaren Bewegung des Roboterarms.

Die Ankündigung lässt wichtige Fragen offen, darunter, wie sich die Optimierung auf Generalisierung auswirkt, wie das System bei komplexeren Aufgaben arbeitet und wie wiederholbar das Ergebnis außerhalb des gezeigten Szenarios ist. Innerhalb der Grenzen der vom Unternehmen gemeldeten Daten bleibt der Fall dennoch technisch bedeutsam: Nota sagt, es habe ein VLA-Robotermodell auf Qualcomms Edge-NPU verlagert, in diesem Aufbau den Bedarf an GPU oder externem Server beseitigt und eine konkrete gesprochene Würfelbewegungsaufgabe von 36 auf 12 Sekunden verkürzt.