노타, 퀄컴 엣지 NPU에서 로봇 VLA 추론 구동

한국의 AI 최적화 기업 노타는 9월 22일, 비전-언어-행동 로봇 모델을 퀄컴 Dragonwing IQ-9075 NPU에서 전부 실행했다고 발표했다. GPU나 외부 서버는 사용하지 않았다는 설명이다. 회사가 보고한 시연은 로봇 팔이 음성 명령에 반응해 큐브를 옮기는 작업에 초점을 맞췄다. 이 시험에서 노타는 기존 구성에서 36초였던 작업 시간이 최적화 뒤 12초로 줄었다고 밝혔다. 작업 성공률은 최적화 전 93%와 비교해 92%로 보고됐다.

노타가 바뀌었다고 밝힌 내용

이번 발표는 기업의 공개 자료이며, 독립적으로 검증된 벤치마크가 아니다. 노타는 이번 변화가 단순히 하드웨어를 바꾼 것이 아니라, 로봇 AI 워크로드를 엣지 NPU에서 실행할 수 있도록 만든 최적화 작업이었다고 설명한다. 회사가 제시한 방법은 모델 압축, NPU 그래프 최적화, 복수 NPU 유닛 활용, 행동 가속이다. 노타는 이들 변경을 통해 VLA 모델이 GPU나 로봇 시스템 밖의 서버에 의존하지 않고 퀄컴 프로세서에서 로컬로 실행될 수 있었다고 밝혔다.

이 구분은 실무적으로 중요하다. 비전-언어-행동 모델은 지각, 언어 이해, 물리적 움직임을 연결해야 하기 때문이다. 노타가 설명한 시연에서 로봇 팔은 큐브를 옮기라는 음성 지시를 해석하고, 이를 행동 순서로 변환해야 했다. 따라서 보고된 개선은 단일한 고립 신경망 연산만이 아니라, 처음부터 끝까지 이어지는 시연 작업에 관한 것이다. 36초에서 12초로 줄었다는 수치는 해당 특정 구성에서 명령부터 움직임 완료까지의 주기가 짧아졌다는 의미다.

노타는 최적화 뒤 추론이 최대 7배 빨라졌다고도 보고했다. 이 수치는 시연 작업 시간의 3분의 1 감소와는 별도로 읽어야 한다. 추론 속도는 모델 계산을 가리키는 반면, 로봇 팔 작업에는 명령 처리, 지각, 행동 실행 같은 추가 단계가 포함된다. 두 측정값은 같은 방향을 가리키지만 같은 대상을 설명하지는 않는다. 회사의 주장은 최적화가 모델 실행을 충분히 개선해 로봇 행동 순서를 유의미하게 단축했다는 것이다.

최적화된 구성의 작동 방식

검증된 정보에는 모델 크기, 로봇 하드웨어 세부 사항, 큐브 배치, 큐브 이동 작업을 넘어선 명령 문구, 기존 시스템 아키텍처가 포함돼 있지 않다. 말할 수 있는 것은 노타가 VLA 워크로드를 퀄컴 Dragonwing IQ-9075 NPU로 옮겼고, GPU 실행과 외부 서버 처리를 모두 피했다는 점이다. 이는 시연이 온디바이스 추론을 중심으로 구성됐음을 뜻한다. 로봇 AI 작업에 필요한 계산이 원격 처리로 보내지지 않고 엣지 가속기에서 로컬로 처리됐다는 의미다.

모델 압축은 노타가 사용했다고 밝힌 방법 가운데 하나다. 일반적으로 압축은 모델의 계산 부담을 낮춰 더 엄격한 처리 및 메모리 제약 안에서 실행될 수 있게 한다. 이 경우 관련 주장은 압축만으로 결과가 나왔다는 것이 아니라, 압축이 더 넓은 최적화 파이프라인의 일부였다는 것이다. 추가 기술 파라미터가 제공되지 않았기 때문에 36초에서 12초로 줄어든 효과 중 어느 정도가 압축에서 왔고 어느 정도가 다른 변경에서 왔는지는 정량화할 수 없다.

NPU 그래프 최적화도 회사가 제시한 구성요소다. 이는 모델의 계산 그래프를 대상 신경망 처리 하드웨어에 맞게 조정하는 작업을 뜻한다. 엣지 NPU에서는 성능이 모델의 이론적 크기뿐 아니라 연산이 어떻게 배치되고 가속기가 이를 어떻게 지원하는지에도 좌우될 수 있다. 노타의 발표는 복수 NPU 유닛 활용을 포함한 이런 하드웨어 인식 최적화에 결과를 귀속시킨다. 회사는 또한 추론 개선을 로봇의 움직임 파이프라인과 연결하는 행동 가속도 언급했다.

제공된 사실에 따르면 이 결과는 9월 11일 KRAIN에서 시연됐다. 이 맥락은 해당 수치를 여러 환경에 걸친 광범위한 평가가 아니라 시연 결과로 보게 한다. 회사는 최적화 뒤 작업 성공률을 92%로, 최적화 전 성공률을 93%로 보고했다. 보고된 1%포인트 차이는 시연된 속도 개선이 이 성공 지표에서 큰 하락을 동반하지 않았음을 시사한다. 다만 시행 횟수, 시험 조건, 실패 정의가 없으므로 그 차이의 통계적 의미는 확정할 수 없다.

수치가 입증하는 것과 입증하지 않는 것

가장 강하게 뒷받침되는 결론은 노타가 퀄컴 Dragonwing IQ-9075 NPU에서 VLA 로봇 모델의 온디바이스 시연에 성공했다고 보고했으며, 보여준 큐브 이동 작업을 이전 시간의 3분의 1에 완료했다는 것이다. 발표는 회사가 자체 최적화 구성에서 최대 7배 빠른 추론을 측정했다는 더 좁은 주장도 뒷받침한다. 그러나 이는 시연에서 나온 회사 보고 성능 수치이며, 독립 연구소 측정이나 재현 조건이 공개된 공용 벤치마크 제품군은 아니다.

이 수치들은 모든 VLA 로봇 워크로드가 같은 NPU에서 같은 속도 향상을 보일 것임을 입증하지 않는다. 또한 더 다양한 작업, 다른 물체, 다른 명령, 다른 운영 환경에서도 최적화된 시스템이 92% 성공률을 유지할 것임을 입증하지 않는다. 검증된 사실에는 다른 엣지 프로세서, GPU, 서버 기반 시스템, 경쟁 최적화 플랫폼과의 비교가 포함돼 있지 않다. 따라서 이번 발표는 노타의 특정 구현에 대한 근거로 분석할 수 있지만, 로봇 AI 하드웨어나 소프트웨어의 일반적인 순위로 볼 수는 없다.

제공된 자료는 36초가 걸린 기존 구성을 충분히 설명하지 않는다. 따라서 기존 설정이 최적화되지 않은 같은 엣지 하드웨어를 사용했는지, 다른 실행 경로를 썼는지, 또는 또 다른 배열이었는지는 불분명하다. 이 점은 전후 비교를 해석할 수 있는 범위를 제한한다. 노타가 설명한 핵심 변화는 외부 컴퓨팅 없이 퀄컴 NPU에서 모델을 최적화 실행했다는 것이다. 회사가 보고한 실질적 결과는 음성 기반 큐브 이동 명령을 더 빠르게 완료했다는 점이다.

실무적 함의

로보틱스에서 이런 접근의 실무적 함의는 AI 기반 제어 작업의 한 부류에서 원격 계산 의존도를 낮추는 것이다. 로봇이 VLA 모델을 로컬로 처리할 수 있다면, 시스템 설계는 해당 단계의 추론을 외부 서버로 보내지 않아도 된다. 검증된 사실은 전력 사용, 지연 시간 세부 내역, 열 동작, 비용에 관한 측정을 제공하지 않으므로 여기서 이런 요인은 평가할 수 없다. 그래도 이 시연은 로봇 AI 모델을 엣지 NPU 자원에 맞춰 넣고 실행할 수 있는지라는 분명한 공학적 질문을 다룬다.

GPU가 아니라 엣지 NPU에서 실행하는 점도 배포 제약과 관련해 의미가 있을 수 있지만, 발표는 그런 제약을 정량화하지 않는다. 배터리 영향, 외함 요구사항, 전체 시스템 자재명세 비용도 밝히지 않았다. 뒷받침되는 관련 지점은 더 좁다. 노타는 자사의 최적화 방법이 모델을 퀄컴 Dragonwing IQ-9075 NPU에서 실행할 수 있게 했고, 보고된 결과에서 작업 성공률을 거의 그대로 유지하면서 시연 작업을 더 빠르게 완료하게 했다고 말한다.

이 이야기에서 노타의 위치도 로봇 제조사 자체라기보다 최적화 기업에 가깝다. 회사는 2015년 KAIST에서 설립됐으며 NetsPresso 최적화 플랫폼을 판매하고, 2025년 11월 KOSDAQ에 상장했다. 이런 배경은 이번 발표를 로봇 AI에 적용된 최적화 기술의 쇼케이스로 위치시킨다. 따라서 이번 시연은 로봇 팔의 눈에 보이는 움직임만큼이나, 요구 수준이 높은 VLA 워크로드를 엣지 하드웨어에 맞게 조정하는 문제에 관한 것이다.

이번 발표는 중요한 질문들을 남긴다. 최적화가 일반화에 어떤 영향을 주는지, 더 복잡한 작업 전반에서 시스템이 어떻게 수행되는지, 시연된 시나리오 밖에서 결과가 얼마나 반복 가능한지는 공개되지 않았다. 그럼에도 회사가 보고한 데이터의 한계 안에서 이 사례는 기술적으로 의미가 있다. 노타는 VLA 로봇 모델을 퀄컴 엣지 NPU로 옮기고, 해당 구성에서 GPU나 외부 서버 필요성을 제거했으며, 특정 음성 기반 큐브 이동 작업을 36초에서 12초로 줄였다고 밝혔다.