AMD, 1조 파라미터급 AI 구동 워크스테이션 공개

IFA 2026 전시회에서 AMD는 워크스테이션 'Threadripper Halo Station'을 공개했다. 회사는 이를 데이터센터급 연산 능력을 데스크톱 타워 안에 담은 제품이라고 설명한다. 프랑스 ZDNet에 따르면 목표는 파라미터 수 1조 개가 넘는 AI 모델을 현지에서 구동하는 것으로, 지금까지는 클라우드 서버 클러스터에서만 가능했던 규모다.

데스크톱 타워에 들어간 서버급 프로세서

이 기기의 핵심은 Zen 5 아키텍처 기반의 AMD 라이젠 Threadripper PRO 9995WX 프로세서로, 96코어·192스레드에 부스트 클럭 최대 5.4GHz, L3 캐시 384MB를 갖췄으며 TDP는 350W라고 Tom's Hardware는 전했다. 이 칩이 지원하는 최대 구성인 8채널 DDR5 메모리 최대 2TB와 결합할 수 있다.

AI 가속은 2026년 5월 공개된 4세대 CDNA 아키텍처 기반의 AMD Instinct MI350P GPU가 담당하며, TSMC의 3나노 공정으로 제조된다. 가속기마다 HBM3E 메모리 144GB를 탑재하고 PCI Express 5.0으로 연결된다. 기준 구성은 가속기 2개로 총 288GB의 GPU 메모리를 제공하며, AMD는 최대 4개까지 확장 가능해 이 경우 총량이 576GB에 이른다고 밝혔다.

• 프로세서: AMD Threadripper PRO 9995WX, 96코어/192스레드, 최대 5.4GHz
• 가속기: AMD Instinct MI350P GPU(CDNA 4) 2~4개, 각 144GB HBM3E
• 시스템 메모리: 최대 2TB DDR5
• 총 메모리: 최대 2.6TB, 누적 대역폭 최대 16.4TB/s
• 소비전력: CPU 350W, 가속기당 600W, 2GPU 기준 구성 시 총 약 1550W
• CPU와 GPU 모두 전면 수랭 냉각

클라우드 대신 현지에서 AI를 구동하는 이유

ZDNet은 AMD가 원격 서버 대신 데스크톱 기기에 주력한 이유가 연구자와 개발자가 직면한 매우 현실적인 문제, 즉 가장 무거운 AI 모델을 클라우드에서 추론할 때 늘어나는 비용 때문이라고 지적한다. 1조 파라미터 모델을 구동하려면 보통 시간 단위로 대여하는 데이터센터급 GPU 여러 대가 필요하다. Threadripper Halo Station은 이런 연산 능력을 클라우드 사업자의 가용성이나 요금 정책에 좌우되지 않고 한 번에 소유하는 방식을 제시한다.

ZDNet이 인용한 AMD 공식 사이트 설명에 따르면 이 기기는 특히 클라우드 접근성이나 공유 인프라의 제약을 받는 팀, 그리고 민감한 데이터를 내부에 보관해야 하는 팀을 겨냥한다. 바로 여기서 현지 구동의 또 다른 장점인 기밀성이 부각된다. 기업 자체 시설 내에서 실행되는 모델은 어떠한 데이터도 제3자에게 전송하지 않으며, 이는 제약 연구, 국방, 금융 서비스 분야에서 결정적인 요소다.

현지 AI 시장을 둘러싼 AMD와 Nvidia의 경쟁

Tom's Hardware에 따르면 기술적으로 Threadripper Halo Station은 본질적으로 서버 트레이를 타워 형태로 재구성한 제품이다. 원래 데이터센터용 EPYC 칩을 위해 설계된 섀시에 AMD가 Threadripper를 넣었다. 경쟁의 초점은 Nvidia가 Blackwell 칩으로 여전히 우위를 점하고 있는 순수 연산 성능이 아니라, 한 번에 불러올 수 있는 모델 크기를 결정하는 내장 메모리 용량에 있다. 최대 576GB의 HBM3E와 2TB의 DDR5를 결합함으로써 AMD는 Nvidia GPU를 탑재한 경쟁 워크스테이션을 능가하려 하고 있다.

1조 파라미터급 모델을 구동할 수 있는, 세계에서 가장 강력한 AI 워크스테이션.

이런 구성에는 그만한 가격이 따른다. Tom's Hardware는 프로세서·메모리·가속기 2개로 이뤄진 핵심 부품만으로도 시장가가 10만 달러를 넘고, 저장장치와 전원, 냉각 장치까지 더하면 15만 달러를 넘어설 것으로 추산했다. 이는 Threadripper Pro와 Nvidia Blackwell GPU를 탑재한 워크스테이션 Lenovo ThinkStation P8이 최대 구성 시 33만 4463달러에 판매되는 것과 비슷한 수준이다. AMD는 Threadripper Halo Station의 공식 가격을 발표하지 않았으며 제조를 맡을 OEM 파트너도 밝히지 않았다. ZDNet은 2027년부터 주요 PC 제조사를 통해 판매될 예정이라고 전했다.

현지 AI 도입을 고려하는 기업들에 미치는 의미

데이터를 미국 클라우드로 보내지 않고 생성형 AI를 도입하려는 기업에게는—개인정보보호 규제와 디지털 주권을 둘러싼 논의가 이런 우려를 더욱 키우고 있다—이 정도 등급의 기기가 구체적인 대안을 제시한다. 사용량에 따라 늘어나는 추론 비용 대신 고정된 인프라 비용으로 대규모 모델을 자체 시설 내에서 학습하거나 구동할 수 있기 때문이다. 다만 Threadripper Halo Station은 현재로서는 참조 설계 단계에 머물러 있어 확정된 가격이나 출시 일정이 없으며, 발표된 진입 가격—풀 구성 시 수십만 달러 규모—을 감안하면 당분간은 일반 중소기업보다는 대형 연구소, 전문 IT 통합업체, 예산이 넉넉한 연구개발 부서 등이 우선 대상이 될 것으로 보인다.