Google, Coral NPU의 32비트 아키텍처 완성하고 Coral Compiler v1.0 공개
Unifying Edge AI: How Coral NPU’s open standard brings portable, energy-viable intelligence from model to silicon
Google는 Coral NPU의 32비트 아키텍처(Milestone 1~4)를 완성하고, IREE/MLIR 기반의 Coral Compiler v1.0을 공개했다. 새로운 Matrix Execution Unit은 최대 1 TOPS로 설정할 수 있으며, 추론 시 평균 소비 전력 10mW를 목표로 한다. Synaptics Astra SR200 시리즈(400 GOPS)와 DigiKey에서 일반 판매되는 Coralboard SL(1 TOPS)도 발표됐다.
이번 핵심은 Coral NPU의 32비트 아키텍처 완성이다. C언어로 프로그래밍 가능한 RISC-V 스칼라 프런트엔드, RVV v1.0 벡터 코프로세서, 부동소수점을 지원하는 메모리 서브시스템에 이어 이달 Matrix Execution Unit(Milestone 4)이 추가됐다. RISC-V VME 사양에 기반한 외적형 MAC 엔진을 사용해 1사이클에 256 MAC의 2차원 타일을 계산한다. 최대 1 TOPS로 설정할 수 있으며, 10mW 미만의 전력 범위에서 Gemma 같은 소형 Transformer나 웨어러블 기기의 실시간 음성 번역 등을 염두에 두고 있다. 완전한 32비트 RTL은 GitHub에서 공개되어 있다.
소프트웨어 측면에서는 IREE/MLIR 기반의 Coral Compiler v1.0이 공개됐다. JAX, PyTorch, TensorFlow 모델을 StableHLO 및 TOSA를 거쳐 가져오며, 호스트 CPU와 Coral NPU 간 처리 분할, 연산자 융합, 로컬 SRAM에 맞춘 타일링을 수행한 뒤 스칼라, RVV 벡터, VME 행렬 명령으로 단계적으로 변환한다. 오픈소스 MPACT 시뮬레이터와 참조 FPGA 설계도 함께 제공되어, 칩 제조 전에 모델 벤치마크와 구성 조정이 가능하다.
배경으로 Google은 엣지 측이 수백 개의 독자 칩 아키텍처와 호환되지 않는 툴체인으로 나뉘어 있어, 커널을 다시 작성하고 재양자화해야 하는 점을 과제로 꼽았다. 아키텍처와 컴파일러를 처음부터 공동 설계했으며, 최고 성능보다 에너지 측면에서 성립하는 연산을 중시했다고 한다. 지원되지 않는 레이어가 CPU로 폴백되어 지연과 배터리 소모를 초래하는 문제에 대한 대응이기도 하다.
제품화에서는 VeriSilicon, GlobalFoundries, Synaptics와의 협업이 발표됐다. VeriSilicon과는 설계 구현과 검증에서 협력하며, GlobalFoundries의 12LP+ FinFET 공정에서는 코어 타이밍이 70% 향상되고 표준 셀 면적이 최대 15% 줄었다고 밝혔다. Synaptics는 2026년 10월 20일 Tech Day에서 테이프아웃을 마친 Astra SR200 시리즈(400 GOPS), 개발 키트 Coralboard SR, Astra SL2619 탑재(1 TOPS)의 Coralboard SL의 일반 제공을 발표했다. SL은 DigiKey에서 구매할 수 있으며, SDK와 문서도 공개되어 있다. 향후 로드맵에는 64비트 버전 Coral NPU와 CHERI를 통한 보안 대응이 포함되어 있다.
출처: Google Developers Blog · developers.googleblog.com