Imagination, 최초 E‑시리즈 GPU 벤치마크 공개… AI 업스케일링 2.3 ms, LLM 프리필드 4.7배 가속

Imagination은 곧 출시될 E‑시리즈 그래픽 프로세서에 대한 최초 공개 벤치마크 데이터를 공개했습니다. 독립 테스트 기관인 LeiPhone과 Jon Peddie Research가 제공한 결과는 두 가지 핵심 기능, 즉 이미지 업스케일링을 위한 Neural Super Resolution(NSR)과 동일 실리콘에서 실행되는 대형 언어 모델(LLM)의 프리필드 단계에 초점을 맞추고 있습니다.

Imagination이 ‘Neural Super Resolution’이라 부르는 NSR 기술은 원본 이미지를 2.3 밀리초 안에 두 배 해상도로 확대한다는 주장을 담고 있습니다. 이 측정은 LeiPhone과 Jon Peddie Research가 표준화된 4K‑to‑8K 업스케일링 워크로드를 적용한 제어된 환경에서 수행되었습니다. 2.3 ms 외에 다른 타이밍 데이터나 비교 수치는 공개되지 않았습니다.

동시에 벤치마크는 대형 언어 모델의 프리필드 단계—즉 추론 전에 모델 가중치를 GPU 메모리로 로드하는 메모리 집약적 작업—가 이전 세대인 D‑시리즈에 비해 4.7배 빠르게 실행된다고 보여줍니다. LeiPhone과 Jon Peddie Research 모두 모델 크기와 배치 구성에 대한 구체적인 언급 없이 동일한 가속 비율을 관찰했습니다.

Matrix‑Accelerator Architecture

성능 향상의 핵심 요소는 E‑시리즈 GPU에 탑재된 전용 매트릭스 가속기입니다. 이 가속기는 MXFP8, MXFP4, BF16, FP4와 같은 저정밀 데이터 포맷을 지원해 텐서 연산의 비트 폭을 줄이고, AI 워크로드를 지배하는 매트릭스 곱셈 및 컨볼루션 커널의 처리량을 크게 늘립니다.

Imagination은 매트릭스 가속기가 셰이딩 엔진에 밀접하게 결합되어 있다고 설명합니다. 타일 기반 지연 렌더러(TBDR) 파이프라인에 매트릭스 유닛을 직접 삽입함으로써 그래픽 래스터라이저와 AI 연산 블록 간 데이터 이동을 최소화합니다. LeiPhone의 분석에 따르면 이 통합 덕분에 에너지 효율이 최대 39 % 향상되었지만, 정확한 측정 방법은 공개되지 않았습니다.

Unified Software Stack

Imagination은 또 다른 주장을 내세웁니다. E‑시리즈는 전통적인 그래픽 API(OpenCL, Vulkan)와 AI 프레임워크(Llama.cpp, ONNX, PyTorch)를 아우르는 단일 소프트웨어 스택으로 프로그래밍할 수 있다는 것입니다. 이 접근법은 SoC 설계자가 렌더링과 AI 추론을 동시에 지원하기 위해 필요한 드라이버 수를 줄이고, 인증 주기를 단축시킨다고 주장합니다.

통합 스택은 메모리, 전력, 실리콘 면적이 제한된 임베디드 플랫폼에서 개발 복잡성을 낮추는 데 목적이 있습니다. 동일한 드라이버 인프라를 그래픽과 AI 모두에 재사용함으로써 OEM은 그래픽과 신경망 가속기에 대한 별도 검증 스위트를 유지할 필요가 없어질 수 있습니다.

Bandwidth and Compression Benefits

Imagination은 또한 NSR 모델의 압축 특성을 강조합니다. 회사에 따르면 NSR 네트워크는 원래 크기의 약 65 % 수준으로 압축되며, 이는 NSR을 사용하지 않는 네이티브 렌더링 경로에 비해 메모리 대역폭 요구량을 50 % 줄여줍니다.

대역폭 감소는 고해상도 디스플레이를 목표로 하지만 메모리 인터페이스가 제한적인 SoC에 특히 중요합니다. Imagination은 E‑시리즈 플랫폼의 최대 메모리 대역폭을 768 GB/s로 제시했지만, 실제 성능은 그래픽과 AI 워크로드에 얼마나 대역폭을 할당하느냐에 따라 달라진다고 명시했습니다.

압축이 대역폭 압력을 낮추지만, Imagination은 NSR 업스케일된 프레임의 시각적 품질이 ‘네이티브 렌더링 출력에 가깝다’는 점을 인정했습니다. 벤치마크 발표에서는 PSNR이나 SSIM 같은 정량적 품질 지표는 제공되지 않았습니다.

Limitations and Heterogeneous Architecture

Imagination은 E‑시리즈 GPU가 모든 AI 작업에 대해 전용 신경처리장치(NPU)를 대체하지는 못한다는 점을 투명하게 밝힙니다. 초저지연이 필요하거나 특수 연산자를 요구하는 워크로드는 여전히 목적에 맞게 설계된 NPU가 더 적합할 수 있습니다. 따라서 E‑시리즈는 CPU, NPU 및 기타 가속기를 포함하는 이종 컴퓨팅 패브릭의 한 구성 요소로 자리매김하고 있습니다.

벤치마크 문서에서는 실제 성능이 소프트웨어 엔지니어의 채택 정도와 SoC 메모리 구성에 크게 좌우된다고 강조합니다. 예를 들어 4.7배 LLM 프리필드 가속은 768 GB/s 대역폭을 제공할 수 있는 메모리 서브시스템을 전제로 합니다. 대역폭이 낮은 시스템은 기대 이하의 향상을 보일 수 있습니다.

마찬가지로 2.3 ms NSR 업스케일링 지연 시간은 이상적인 테스트 환경에서 측정된 값입니다. 실제 산업 현장에서는 드라이버 성숙도, 열 스로틀링, 다른 시스템 구성 요소와의 통합 등에 따라 변동이 발생할 수 있다는 경고가 포함되어 있습니다.

• Neural Super Resolution이 2.3 ms 만에 해상도 두 배 상승
• LLM 프리필드가 D‑시리즈 대비 4.7배 빨라짐
• 매트릭스 가속기가 MXFP8, MXFP4, BF16, FP4 지원
• 통합 스택이 OpenCL, Vulkan, PyTorch 등 드라이버 수 감소

위 목록은 Imagination과 독립 테스트 기관이 발표한 네 가지 핵심 수치를 요약한 것입니다. 다른 성능 관찰은 정성적이거나 절대값 없이 상대적 개선으로만 표현되었습니다.

실제 현장에서 E‑시리즈를 임베디드 또는 엣지 디바이스에 적용하려는 조직은 벤치마크에서 제시된 속도 향상을 불확실성 요소와 함께 평가해야 합니다. 타일 기반 렌더링과 매트릭스 유닛 통합을 통한 에너지 효율 개선은 프레임당 전력 소모를 낮출 수 있어 배터리 구동 제품에 유리할 수 있습니다.

하지만 통합 소프트웨어 스택에 의존한다는 점은 기존 툴체인과의 호환성을 검증해야 함을 의미합니다. 이미 전용 NPU를 사용해 지연에 민감한 추론을 수행하고 있는 기업이라면 E‑시리즈가 해당 하드웨어를 대체하기보다 보완 역할을 할 가능성이 높으며, 워크로드 분할에 대한 신중한 설계가 필요합니다.

메모리 대역폭은 여전히 결정적인 요소입니다. 768 GB/s 전체 대역폭을 제공하지 못하는 시스템은 39 % 에너지 효율 향상이나 4.7배 LLM 프리필드 가속을 온전히 체감하지 못할 것입니다. 따라서 설계 초기 단계에서 메모리 서브시스템을 충분히 검토하는 것이 중요합니다.

마지막으로, 벤치마크 데이터가 산업 전반에 걸친 채택을 보장하지는 않습니다. 소프트웨어 공급업체가 새로운 NSR 모델과 매트릭스 가속기 API를 렌더링 엔진 및 AI 프레임워크에 통합해야 최종 사용자가 이점을 누릴 수 있습니다. 이러한 통합이 이루어지기 전까지는 성능 수치가 실험실 환경에서 관찰된 최상의 시나리오에 머물게 됩니다.