Google Cloud와 NVIDIA, Vera Rubin 기반 A5X 인스턴스 다음 달 일반 제공 예정

A5X 인스턴스는 NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNIC, Google Cloud Virgo 네트워크, 4세대 액냉각 기술을 결합한 구성이다. 에이전트형 추론과 강화학습을 대규모로 구동하는 용도를 상정하며, Google Cloud의 AI Hypercomputer에 통합 시스템으로 포함된다.

최초의 고객은 런던 거점의 Ineffable Intelligence다. AlphaGo를 개발한 David Silver가 창업한 기업으로, 이 회사는 A5X를 대규모 강화학습과 경험으로부터 지속적으로 학습하는 'superlearner' 시스템 개발에 사용하고 있다. Silver는 경험 생성과 학습을 긴밀하게 연결하는 연산 성능과 고대역폭 연결이 필요하다고 말했다.

WPP는 NVIDIA Nemotron 모델과 오픈소스 보안 에이전트용 참조 아키텍처인 NVIDIA OpenShell을 활용해 A5X 위에서 크리에이티브 에이전트 참조 아키텍처를 시연했다. 대화형 요청을 동영상 생성, 업스케일링, 리스타일링 등 여러 단계의 워크플로로 변환하며, 실행 전에 사람의 승인을 거치도록 했다. 초기 테스트에서는 보통 다중 노드 클러스터가 필요한 작업이 단일 A5X 인스턴스에서 실행되었다고 한다.

기밀성 측면에서 Google Cloud는 GB300 NVL72를 탑재한 A4X Max 등 베어메탈 인스턴스에서 랙 스케일 NVIDIA Confidential Computing을 먼저 제공하는 사업자 중 하나가 된다. NVIDIA RTX PRO 6000 Blackwell Server Edition을 탑재한 G4 VM에서는 Confidential Computing이 일반 제공되며, Vertebrae, Polaris Cloud, Confidential Core AI가 이용하고 있다. 전력 측면에서는 Vera Rubin 기반 인프라를 위해 NVIDIA DSX Max LPS 활용을 두 회사가 검토하고 있다.