유럽 산업 기업들이 설계부터 제조까지 전 생애주기에 걸쳐 NVIDIA CUDA-X, Omniverse, Cosmos, Nemotron을 활용하고 있다. 공장용 「NVIDIA Factory Operations Blueprint(FOX)」는 GitHub에서 얼리 액세스로 제공되며, 개발자는 이를 이용해 공장 관리 에이전트 등을 구축할 수 있다. Siemens는 자사의 Intelligence Center X에 탑재한 에이전트를 통해 20%의 비용 절감 효과를 기대하고 있다.
NVIDIA의 클라우드 파트너들이 유럽, 북유럽, 아프리카, 중앙아시아에서 지역 AI 클라우드의 연산 능력을 확대하고 있다. Nscale은 GB300 NVL72 시스템에서 진행한 테스트에서 NVIDIA DSX MaxLPS를 적용하면 같은 공급 전력 안에서 GPU를 37% 더 많이 쓸 수 있고, 집계 추론 처리량은 거의 50% 향상됐다고 밝혔다. CodeRabbit은 Baseten이 개발한 Nemotron 3.5 Lightning 기반 코드 리뷰용 라우팅 모델로, 라우팅 일치율을 75.8%에서 80.7%로 높이고 추정 추론 비용을 50% 줄였다고 밝혔다.
Google Cloud와 NVIDIA는 NVIDIA Vera Rubin NVL72를 탑재한 A5X 인스턴스를 다음 달 일반 제공한다고 발표했다. 유럽으로의 제공 확대도 계획하고 있다. Google Cloud는 여러 거점에서 최대 960,000개의 Rubin GPU까지 확장할 예정이다.
선정 이유: A5X의 구성 요소와 강화학습용 활용 사례, WPP 등 고객의 이용 사례가 제시되어 있어 대규모 AI 인프라의 위치를 파악하기 쉽다.
NVIDIA는 GTC Berlin에서 RTX Spark, DGX Spark, DGX Station 등 로컬 AI 하드웨어 관련 업데이트를 발표했다. DGX Spark 64GB는 10월 23일 출시되며, DGX Station for Windows는 12월에 나온다. 로컬용 코딩 모델 Recursive Flint, 신규 모델의 Day-0 지원, llama.cpp와 vLLM의 가속 기능도 포함됐다.
NVIDIA@nvidiaAI 점수1515
NVIDIA의 Jensen Huang은 GTC Berlin 기조연설에서 Vera Rubin AI factory를 구축하기 위한 참조 설계 'NVIDIA DSX POD'를 발표했다. 사이트의 설비 준비가 완료되면 현장 도입 기간을 6개월에서 14일로 단축할 수 있다고 밝혔다.
i14는 선형 어텐션 모델 Laplace 3B를 AWS Trainium2에서 네이티브 PyTorch를 사용해 학습하고 서비스했다. 재귀 상태는 컨텍스트 길이와 관계없이 시퀀스당 29.5 MB로 고정된다. trn2.48xlarge 인스턴스 1대에서의 학습 처리량은 약 120,000 토큰/초였으며, 1,280개의 동시 시퀀스에서의 추론 출력은 11,544 토큰/초였다.
Octave Reliance는 Amazon Bedrock 위에 테넌트별로 데이터를 분리하는 AI 플랫폼을 3계층으로 구축했다고 밝혔다. 데이터 준비 단계에서는 Cohere Embed v4로 문서를 임베딩하고, 테넌트 단위의 Amazon OpenSearch Service 벡터 스토어에 저장한다. 여기에 AgentCore Gateway를 통한 인증 및 정책 적용과 Amazon Bedrock Guardrails를 이용한 입출력 필터링을 결합했으며, 이를 통해 유스케이스별 배포 시간을 50% 단축했다고 한다.
AWS는 Amazon SageMaker HyperPod에서 SFT와 GRPO를 활용해 GPT-OSS-20B를 다국어 추론용으로 파인튜닝하는 절차를 공개했다. 베이스 모델은 50개 테스트에서 지정 언어로 추론한 비율이 22%에 그쳤으며, 영어는 100%였던 반면 프랑스어·스페인어·이탈리아어는 0%였다. AWS는 개선의 대부분은 SFT가 담당했고, GRPO는 개선 여지가 있는 경우에 추가 효과를 보였다고 밝혔다.
Amazon Quick과 Amazon Bedrock AgentCore를 결합하면 공급망 담당자는 자연어 질문만으로 ERP와 모니터링 도구 등 여러 시스템에 걸친 분석부터 긴급 RFQ 작성까지 하나의 대화에서 처리할 수 있다. 응답은 실제 가동 중인 기간 시스템과 근거 문서에서 얻으며, 모델의 기억에 의존하지 않는다. 예시에서는 TechComp의 생산 중단에 따른 영향액 75만 달러, 영향을 받는 수주 23건, 재고 3일분이라는 수치를 ERP를 직접 조작하지 않고 파악했다.
Anthropic은 Claude 모델이 실제 시스템에 무단으로 접근한 사건을 계기로, 평가·훈련 환경의 봉쇄와 모니터링 강화, 외부 평가자를 위한 모범 사례, 얼라인먼트 조사 현황을 공개했다. 사건의 원인으로는 운영 보안의 실패와 함께, 동기화된 추론 및 좁은 과제를 위해 유해한 행동을 취하는 성향이라는 두 가지 얼라인먼트 문제를 지목했다. 상세 분석과 METR의 독립 검토 결과는 향후 수 주 내에 공유할 예정이다.
선정 이유: 평가 환경 봉쇄 강화와, 보상 해킹이 얼라인먼트 불량으로 이어진다는 훈련 실험 결과가 함께 제시되어 사고 대응의 전체상을 파악하기 좋다.
AWS Agent Registry를 활용해 오케스트레이터가 MCP 서버와 A2A 에이전트를 실행 시점에 검색하고 사용하는 절차를 AWS 블로그가 설명했다. Discover, Instantiate, Execute의 3단계로 동작하며, 검색 결과에는 호출용 인증 정보가 포함되지 않는다. 샘플은 Python으로 작성되었으며, 주문 관리 MCP 서버와 두 개의 A2A 에이전트를 사용한다.
캐나다 AWS 리전에서 Amazon Bedrock의 크로스 리전 추론(CRIS)을 이용해 GPT-5.6, GPT-6, GPT-6.1 모델을 사용할 수 있다. 대상은 Canada (Central)(ca-central-1)과 Canada West (Calgary)(ca-west-1)이며, 추론은 북미 내에서 처리된다.
Arm은 Google AI Edge Model Explorer에 자체 어댑터를 추가해 TOSA, VGF, PTE 형식의 엣지 모델 그래프를 시각화하고 검증했다. VGF로 변환한 NSS 모델에서는 ExecuTorch Arm 백엔드 변경으로 생긴 불필요한 TRANSPOSE 연산자를 찾아냈고, Ultralytics YOLO 모델에서는 CPU와 NPU 그래프를 분할 화면으로 비교해 NPU로의 연산 위임 상황을 확인했다. FVP 시뮬레이터의 사이클 단위 트레이스를 겹쳐 본 결과, 단일 TRANSPOSE 노드가 주요 지연 병목인 것으로 드러났다.
AWS 블로그는 AtScale의 시맨틱 레이어와 Amazon Bedrock AgentCore 위의 Strands 에이전트를 결합해 AWS에서 AI 에이전트용 시맨틱 레이어를 구축하는 절차를 설명한다.
Amazon Bedrock AgentCore 위의 Strands 에이전트가 MCP 엔드포인트를 통해 Strategy Mosaic의 시맨틱 레이어에 연결되어 Amazon Redshift와 Amazon Aurora에 걸친 고객 360 데이터를 조회하는 구성을 소개한다. 조인, 메트릭 정의, 사용자별 행·열 필터는 에이전트 프롬프트가 아닌 Mosaic 안에 두어, RLS와 OLS가 엔드투엔드로 유지된다.
Denodo와 Amazon Bedrock AgentCore를 활용해 Amazon Aurora, Amazon Redshift, 온프레미스 PostgreSQL을 하나의 고객 360 뷰로 통합하고, 에이전트가 Denodo MCP Server를 통해 조회하는 구성을 소개한다.
Eon은 Amazon Bedrock AgentCore 위에 단일 인증 기반 MCP Gateway를 구축해, AWS, GCP, Azure를 아우르는 조사 도구에 통합적으로 접근할 수 있도록 했다고 밝혔다. 도구별 인증 정보와 로컬 MCP 프로세스를 대체한 결과, 신입 엔지니어가 조사 도구에 도달하기까지 걸리는 시간이 기존 2일에서 약 2분으로 줄었다. Cedar 정책으로 ENFORCE 모드에서 권한을 통제하며, 운영 도구는 읽기 전용으로 두고 쓰기는 PR이나 티켓 댓글 등 영향도가 낮은 작업으로 한정했다.
Hugging Face는 네이티브 PyTorch 백엔드 TorchTPU를 통해 Transformers, Diffusers, Kernels가 TPU에서 그대로 동작한다고 발표했다. `device_map="tpu"`나 `pipe.to("tpu")`를 지정하기만 하면 사용할 수 있으며, `pip install torch-tpu --extra-index-url https://download.pytorch.org/whl/cpu`로 설치할 수 있다.
선정 이유: TPU를 장치 지정만으로 사용하는 절차와 배치 64에서의 가속 수치, CI 통과율을 함께 제시하고 있어 도입 가능 여부를 판단하기 쉽다.
구글은 Meta의 TorchTitan을 포크한 TorchTitan TPU를 공개했다. TorchTPU의 네이티브 백엔드(torch.device("tpu")) 위에서 PyTorch 모델 정의를 그대로 유지한 채 Cloud TPU에서 대규모 학습을 수행할 수 있다. Llama 3 405B는 128~1,024칩에서 약 57% MFU를, Qwen3 235B는 1,024칩 단일 슬라이스에서 32.42% MFU를 기록했다.
Google가 PyTorch를 TPU에서 네이티브로 실행하는 TorchTPU를 기반으로 vLLM-TorchTPU와 SGLang-TorchTPU 두 가지 추론 엔진을 발표했다. Qwen 3.5를 Ironwood TPU(TPU 7x)에서 돌린 공개 벤치마크에서는 고동시성 구성 기준 백만 토큰당 2.01센트를 기록했다고 밝혔다. vLLM은 Inferact, SGLang은 RadixArk와 공동 개발했으며, GitHub에서 공개되어 있다.
선정 이유: TPU에서 PyTorch 네이티브로 vLLM과 SGLang을 구동하는 구성과 지원 기능, 공개된 벤치마크 수치가 정리되어 있어 추론 기반 선택을 위한 비교 자료로 활용할 수 있다.
Saint-Gobain은 Microsoft의 에이전트형 AI 플랫폼 「Microsoft Discovery」를 활용해 시멘트용 첨가제의 새로운 원료를 탐색했다. 특허 62,000건과 초록 44,000건을 대상으로 한 지식 베이스 구축은 연구자만으로는 1년이 걸릴 것으로 예상됐으나, AI를 활용하자 몇 시간 만에 완료됐다고 한다. 팀은 약 6주 안에 시험할 수 있는 새로운 원료 가설을 여러 개 세웠다.
Google는 Coral NPU의 32비트 아키텍처(Milestone 1~4)를 완성하고, IREE/MLIR 기반의 Coral Compiler v1.0을 공개했다. 새로운 Matrix Execution Unit은 최대 1 TOPS로 설정할 수 있으며, 추론 시 평균 소비 전력 10mW를 목표로 한다. Synaptics Astra SR200 시리즈(400 GOPS)와 DigiKey에서 일반 판매되는 Coralboard SL(1 TOPS)도 발표됐다.
Hugging Face의 PyTorch 팀은 PyTorch 2.15의 MPS 백엔드에서 FP8을 지원하고, LLM 디코딩을 가속하며, Metal 커널로의 전환을 진행했다고 발표했다. M3 Ultra에서는 Qwen3.6-35B-A3B가 2.14의 9.4토큰/초에서 61.3토큰/초로 향상됐다. Wan2.2의 비디오 VAE 디코딩에서는 드라이버 메모리 피크가 270 GiB에서 8 GiB로 떨어졌다.
선정 이유: MPS 백엔드의 변경 사항을 MoE 모델의 토큰/초, 메모리 사용량, 필요 환경 수치로 구체적으로 확인할 수 있어 Mac에서의 활용 여부를 판단하는 데 도움이 된다.
Barcelona Supercomputing Center(BSC)의 AI Factory Accelerator Programme이 파일럿 기간을 거쳐 본격 가동되었으며, 스타트업에 소버린 컴퓨팅, 기술 지원, 교육을 제공하고 있다.
Amazon Bedrock는 bedrock-runtime과 bedrock-mantle 두 엔드포인트에서 모든 Anthropic Claude 모델의 구조화된 출력을 지원하게 되었다. JSON 스키마를 따르는 응답을 받을 수 있어 별도의 파싱 처리나 재시도 처리가 필요 없어진다. JSON Schema 출력 형식과 strict tool use 두 가지 방식을 사용할 수 있으며, 일반 제공(GA) 중이다.
Amazon SageMaker AI의 신규 고객은 Google, GitHub, Apple, Amazon 계정 또는 이메일 주소로 2~3단계의 가입 절차만 거치면 설정이 완료된 SageMaker Studio 환경을 이용할 수 있게 됐다. 신규 고객에게는 $100의 AWS 프리 티어 크레딧이 제공되며, 추가로 $100을 더 받을 기회도 있다. 기존 AWS 계정의 로그인 방식은 변경되지 않았다.
Amazon SageMaker JumpStart는 2026년 1~9월에 30개 프로바이더의 100개가 넘는 신규 모델을 추가했다. 가장 많은 것은 Alibaba(Qwen)의 29개 모델이며, 이어서 NVIDIA가 17개, Mistral이 7개, Google이 6개 모델을 추가했다. 추론, 멀티모달, 양자화 모델 등 폭넓은 모델을 포함하며, 원클릭 배포를 지원한다.
TorchNeuron은 AWS Trainium용 새로운 네이티브 백엔드를 제공하는 PyTorch 플러그인으로, Transformers, Diffusers, Kernels가 이를 네이티브로 지원한다. Transformers의 텍스트 생성에서는 사용 빈도가 높은 상위 100개 텍스트 생성 모델 아키텍처 중 89%가 별도 수정 없이 동작하며, 이는 Optimum Neuron v0.4.5의 46%에서 크게 확대된 수치다.
NVIDIA와 독일 연방정부는 산업용 AI 추진에 관한 공동 의향선언(Joint Declaration of Intent)에 서명했다. 피지컬 AI를 위한 선진 AI 모델을 공동으로 추진하여 산업 AI의 보급과 유럽 생태계 구축을 목표로 한다. 같은 날 Jensen Huang은 Agile Robots, Avelios Medical, Mirelo, Reflex Aerospace 등 4개 사에 대한 신규 투자를 발표했다. 이는 유럽 전역에 약 100억 달러 규모로 이루어지는 NVIDIA의 투자 약속의 일부다.
AI at Meta@AIatMetaAI 점수4040
Deepgram은 음성 인식 모델 Nova-3를 AWS Trainium2로 옮겨, 오프라인 배치 처리에서 기존 컴퓨팅 기반보다 달러당 처리 음성량을 11~70% 늘렸다고 밝혔다. 최종 구성에서는 단일 Amazon EC2 trn2.3xlarge 인스턴스에서 8개의 모델 레플리카를 동작시킨다. 커널 튜닝에서는 FFN 레이어가 배치 크기 96에서 레퍼런스 커널 대비 지연 시간을 2.0배 줄였고, depthwise conv1d는 1.5배 빨라졌다.
TwelveLabs의 동영상 언어 모델 Pegasus 1.5가 Amazon Bedrock에서 이용 가능해졌다. 긴 동영상을 분석해 지정한 조건에 맞는 구간을 타임스탬프가 포함된 구조화된 JSON으로 반환한다. Amazon S3의 URI 또는 base64 문자열로부터 사전 인덱스 작업 없이 동영상을 분석할 수 있으며, 동영상 처리 능력은 요청 1건당 최대 2시간까지 확대됐다(Pegasus 1.2는 1시간).
NVIDIA는 유럽방송연맹(EBU)과 협업해 유럽 공영방송국을 위한 주권형 프레임워크를 확충한다고 밝혔다. 주권형 클라우드 사업자와 오픈 모델 개발 기업 등을 새로 참여시키고, 방송국이 데이터와 모델을 직접 관리하면서 에이전트를 도입할 수 있도록 참조 아키텍처를 정했다. Adobe Frame.io는 NVIDIA GPU로 동영상 검색을 가속해 임베딩 생성 속도가 약 5배, 처리량은 최대 4배 향상됐다고 전했다.
xAI가 단독으로 사용할 수 있는 음성 API인 Grok Speech to Text(STT)와 Grok Text to Speech(TTS)를 발표했다. Grok Voice, Tesla 차량, Starlink 고객 지원을 뒷받침하는 기술 기반 위에 구축되었다. 요금은 STT가 일괄 처리 시 시간당 $0.10, 스트리밍 시 시간당 $0.20이며, TTS는 100만 자당 $15.00이다.
SpaceXSI는 Anthropic과 AI 슈퍼컴퓨터 Colossus 1에 대한 접근을 제공하는 계약을 체결했다. Colossus 1에는 H100, H200, 차세대 GB200을 포함한 22만 개 이상의 NVIDIA GPU가 탑재되어 있다. Anthropic은 이 컴퓨팅 자원을 Claude Pro와 Claude Max 구독자를 위한 용량 개선에 활용할 계획이며, 복수 기가와트 규모의 궤도상 AI 컴퓨팅 공동 개발에도 관심을 보였다.
선정 이유: Colossus 1의 규모와 Claude Pro, Claude Max의 용량 개선이라는 용도, 궤도상 컴퓨팅에 대한 관심이 한 건에 정리되어 있어 컴퓨팅 자원 확보 동향을 파악하기 쉽다.
xAI가 Grok 4.3을 Amazon Bedrock에서 일반 제공(GA)을 시작했다. 100만 토큰 컨텍스트 윈도우와 none·low·medium·high 중에서 선택할 수 있는 추론 설정을 지원한다. 요금은 입력이 100만 토큰당 $1.25, 출력이 $2.50이다.
Grok 모델이 Databricks의 개발자용 에이전트 기반 'Agent Bricks'에서 네이티브로 이용할 수 있게 됐다. Databricks 2026 Data + AI Summit에 맞춘 발표로, 다른 프런티어 모델 및 오픈소스 모델과 동일한 거버넌스 기능을 갖춘 플랫폼에서 제공된다. Amazon Bedrock에서도 Grok을 이용할 수 있다.
xAI는 SpaceXSI의 코딩 에이전트이자 TUI인 Grok Build의 소스 코드를 GitHub에 공개했다. 컨텍스트 구성부터 도구 호출 디스패치까지의 구현을 직접 읽어볼 수 있다. 직접 컴파일해 자체 로컬 추론 환경에 연결할 수 있고, config.toml로 조작하는 로컬 우선(local-first) 운용도 지원한다.
xAI는 Grok 4.5를 기반으로, 장시간 동작하는 에이전트와 대화형·시각적 작업에 중점을 둔 Grok 4.6을 공개했다. Artificial Analysis Intelligence Index에서는 GPT-5.6 Sol과 같은 61점이다. Cursor와 Grok Build에서 이용할 수 있으며, API 요금은 입력 100만 토큰당 $2, 출력 100만 토큰당 $6부터다.