OpenAI, Decisions API 전체 고객 대상 일반 공개… TypeSafe의 Jev에 맞불

OpenAI는 판단 모델용 Decisions API를 전체 고객에게 일반 공개했다고 밝혔다. 추론 속도 향상과 비용 절감을 위해 ChatGPT Luna를 재구성한 제품으로, 응답 시간이 1~3초에서 100~180밀리초로 줄어들었다고 한다. 공개 버전에는 음성과 시각 모달리티도 추가됐다.

EmTech Future 세션에서 논의되는 확장 가능한 AI 기반 구축 방법

MIT Technology Review의 EmTech Future 컨퍼런스 세션에서 규제가 엄격한 환경에서 확장 가능한 AI 기반을 구축하는 방법이 다뤄진다. 데이터, 엔지니어링, 플랫폼, 운영 모델, 거버넌스의 통합을 전제로 하며, 에이전트형 시스템을 포함한 신기술을 지속 가능한 가치로 바꾸는 책임 있는 구현이 핵심 주제가 된다.

OpenAI Developers@OpenAIDevsAI 점수4747

Decisions API가 정식 출시(GA)되었다. 텍스트나 이미지를 분류하고 입력을 평가해 이후 처리를 결정하는 작업을, 모델의 전체 응답을 생성하지 않고도 수행하는 앱과 에이전트를 더 빠르고 저렴하게 구축할 수 있다.

Amazon SageMaker AI, 학습 루프를 직접 구현할 수 있는 training session API 추가

AWS가 Amazon SageMaker AI의 서버리스 모델 커스터마이징에 training session API를 추가했다. forward_backward(), optim_step(), sample()을 API 호출로 조합해 SFT나 강화학습 학습 루프를 로컬 Python으로 작성할 수 있다. GPU 할당, 분산 실행, 장애 복구는 SageMaker AI가 담당한다.

AWS, SageMaker AI 서버리스 모델 커스터마이징에 학습 세션 일반 제공 시작

AWS가 Amazon SageMaker AI의 서버리스 모델 커스터마이징에 학습 세션을 추가해 일반 제공(GA)을 시작했다. 손실 함수와 보상 신호를 포함한 학습 루프는 사용자가 직접 작성하며, GPU 할당, 분산 실행, 장애 복구, 체크포인트 저장은 SageMaker AI가 담당한다. 지원 모델은 gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B, Qwen3.8-27B이다.

Amazon Polly, Generative 엔진 업그레이드…14개 음성 추가로 힌디어·핀란드어 지원

Amazon Polly가 Generative 엔진 업그레이드를 일반 제공(GA)으로 공개했다. 9개 로케일에 14개의 새 음성을 추가했으며, 힌디어와 핀란드어의 generative 음성이 처음으로 일반 제공되었다. 음성 이름과 API 호출 방식은 그대로여서 기존 앱은 코드 변경 없이 새로운 품질을 쓸 수 있고, 요금도 동일하다.

Google, 에이전트마다 전용 microVM을 할당하는 Agent Compute Engine 발표

Google은 각 AI 에이전트에 격리된 전용 가상 머신을 할당하는 서비스 'Agent Compute Engine'을 발표했다. 이미 Gemini를 뒷받침하고 있으며, 향후 몇 달 안에 프리뷰로 공개될 예정이다. Google에 따르면 각 에이전트는 Titanium 칩으로 보호되는 microVM에서 동작한다. 오픈소스 Kubernetes 런타임 'Agent Substrate'에서는 서버 1대에 10배 많은 에이전트를 올릴 수 있다고 밝혔다.

Amazon SageMaker AI의 Kokoro TTS로 AI 에이전트 음성을 저지연 스트리밍

AWS Machine Learning Blog는 AI 에이전트가 문장을 생성할 때마다 그 문장을 Kokoro-82M TTS 모델로 보내, 전체 텍스트 생성을 기다리지 않고 음성 합성을 시작하는 방법을 소개했다. Kokoro-82M(8,200만 파라미터)은 SageMaker AI 실시간 엔드포인트에서 ml.g5.xlarge GPU 인스턴스로 동작하며, 컨테이너는 POST /invocations와 WS /invocations-bidirectional-stream 두 가지 라우트를 제공한다.

Amazon Quick에서 HIPAA 대상 환경에 AI를 배포하는 방법

Amazon Quick은 HIPAA 대상 서비스이며, 서명된 AWS BAA에 따라 PHI를 처리하는 워크플로에 사용할 수 있다. 다만 대상 서비스라는 것만으로 HIPAA를 준수하게 되는 것은 아니며, BAA 체결, 데이터 분류, 설정, 거버넌스, 관리적·물리적 안전 조치는 이용자의 책임이다. 본 기사는 브라우저에서 이용하는 웹 버전의 기능에 초점을 맞춘다.

Modal CEO 에릭 번하즈손, AI 컴퓨팅이 직사각형이 되는 이유를 말하다

Modal CEO 에릭 번하즈손이 GPU 수요는 고정 용량 계약으로는 담을 수 없다고 말한 인터뷰다. Modal은 수천 고객의 수요를 모아 기반 용량을 확보하고, 이용자가 필요할 때 필요한 만큼만 쓸 수 있는 구조를 취하고 있다. 회사는 연간 환산 매출이 10억 달러를 넘었다고 보고했으며, 160억 달러 기업가치로 7억 5000만 달러 규모의 Series D 투자를 유치했다고 밝혔다.

Google Cloud에서 통제되는 자가 진화형 AI 에이전트 설계

Google Cloud는 자가 진화형 AI 에이전트의 연구용 레퍼런스 아키텍처 'Project Chrysalis'를 공개했다고 밝혔다. Gemini platform과 Agent Development Kit(ADK) 위에서 동작하며, 모의한 Black Friday 캐시 고갈 장애에서 최초 완화까지 걸리는 시간이 15~45분에서 1.8초로, HTTP 5xx 오류율이 72.7%~80.0%에서 0.0%로 개선됐다고 설명했다.

Rescale, Strands Agents와 AI-DLC로 AI 트리아지 에이전트를 구축한 방법

Rescale은 야간 End-to-End 테스트 실패를 분류해 담당 팀에 배정하는 AI 트리아지 에이전트를 AI-DLC를 활용해 구축했다. Amazon Bedrock의 Claude Opus 4.8이 실패를 infrastructure issue, code bug, flaky test, environment problem 중 하나로 분류하고, MCP를 통해 파드 로그를 가져와 엔지니어 검토용 수정 제안 보고서를 생성한다. 문제 정의부터 검증 환경 배포까지 5일이 걸렸으며, 운영 환경에는 수 주 만에 도달했다.

TTS용 Amazon SageMaker AI Auto Scaling 목표값을 추측으로 정하지 않는다

Amazon SageMaker AI에서 TTS 엔드포인트의 Auto Scaling 목표값을 추측이 아닌 실측으로 정하는 방법을 Kokoro-82M 커스텀 컨테이너 배포를 예로 보여준다. SLO를 충족하는 인스턴스당 최대 동시 실행 수 Q_max와 스케일아웃 소요 시간 T_total을 실제 환경에서 측정하고, 이를 바탕으로 스케일아웃·스케일인 임계값과 쿨다운을 산출한다. 스케일링 지표로는 SageMaker AI가 공개하는 ConcurrentRequestsPerModel을 사용한다.

Google Cloud, API Gateway 스트리밍 지원을 퍼블릭 프리뷰로 제공

Google Cloud가 API Gateway의 스트리밍 지원을 퍼블릭 프리뷰로 공개했다. SSE, WebSocket, gRPC 스트리밍 등을 기존 API 사양 그대로 같은 게이트웨이를 통해 처리할 수 있다. 게이트웨이 생성 시 `--enable-streaming`을 지정해 활성화한다.

OpenAI의 FDE란 무엇인가, 그 역할과 진행 방식

OpenAI의 Forward Deployed Engineering(FDE) 팀은 모델의 능력과 실제 업무에서의 활용 사이에 있는 '디플로이먼트 갭'을 메우기 위해 2025년 초에 창설되었다. John Deere에서는 OpenAI의 API를 활용해 농가를 위한 개별화된 조언 제공을 지원했다. 반도체 고객사에서는 AI 기반의 directed test generation으로 약 48%의 시간 단축을, 커널 최적화로 중앙값 기준 22%의 성능 향상을 달성했다.

추론이 남기는 데이터와 스토리지 비용 문제

추론이 실행될 때마다 남는 백엔드 데이터의 스토리지 비용은 간과되기 쉽다. WD의 내부 측정에 따르면, 8초짜리 720p 동영상(3.97MB)을 생성했을 때 백엔드에 500MB 이상의 데이터가 남았으며, 이는 출력물의 130배에 달했다. McKinsey는 추론 수요가 2030년까지 연평균 35% 증가해 학습 수요의 22%를 웃돌 것으로 예측했다.

OpenAI의 Patch the Planet, GPT-5.6 Sol로 PHP 코어 취약점 PHP2Shell 발견, 약 2개월간 협력 대응

OpenAI의 Patch the Planet에 참여하는 Calif 연구자들이 GPT-5.6 Sol을 사용해 PHP 코어의 메모리 손상 취약점 PHP2Shell(CVE-2026-109618, CVE-2026-109619)을 발견했다. Wiz도 별도로 Gemini 4 Argon과 GPT-5.6 Sol 등을 통해 같은 결함을 발견했다고 알려졌으며, 약 2개월의 조율을 거쳐 공개되었다. Cloudflare는 임시 WAF 완화책을 제공했지만, PHP 본체 패치 적용은 필수라고 설명했다.

NVIDIA 오픈 모델, 유럽 공공 부문 프로젝트 확산을 뒷받침

유럽 각국의 정부와 공공기관이 NVIDIA의 오픈 모델을 활용해 데이터와 인프라를 자국의 통제 아래 둔 채 행정 업무용 AI를 구축하고 있다. 폴란드에서는 가족·노동·사회정책부가 400곳 이상의 노동사무소를 위해 PLLuM, GPT OSS, Inkling을 사용한 에이전트형 시스템을 개발 중이다. 프랑스에서는 CANUT이 선정한 LINAGORA와 Docaposte가 2,500곳 이상의 대상 기관에 Twake.ai를 기반으로 한 주권형 협업 워크스페이스를 제공한다.

유럽 기관들, NVIDIA Earth-2 오픈 모델을 기상·기후 예측에 도입

AXA, Vaisala Xweather, 맨체스터 대학교, TotalEnergies, Space42 등 유럽 기관들이 NVIDIA Earth-2 오픈 모델을 기상·기후 예측 및 리스크 평가에 활용하고 있다. NVIDIA는 지역판 StormScope EU를 추가했다. EUMETSAT의 위성 관측 자료를 활용해 Meteosat의 16개 채널로 10분 간격의 구름 상태를 예측한다. 맨체스터 대학교는 CorrDiff를 영국의 대기질 모델링에 적용했으며, Isambard-AI에서 학습시키고 NVIDIA DGX Spark에서 실행했다.

기업들은 NVIDIA DSX로 AI 팩토리의 전력 병목을 어떻게 해소하고 있는가

전 세계 기업들이 NVIDIA DSX AI Factory Platform을 사용해 송전망에서 랙까지를 하나의 시스템으로 계획, 시뮬레이션, 운영하고 있다. 전력은 인프라의 가장 큰 병목으로, 3,000억 달러가 넘는 장비가 납기를 기다리고 있으며 미국에서는 계통 연계를 기다리는 200GW 이상의 프로젝트가 있다.

NVIDIA, Cosmos 플랫폼 확장… 학습·평가·배포용 신규 도구 발표

NVIDIA는 Cosmos 플랫폼에 새로운 학습 도구, 시뮬레이션용 체크포인트, Cosmos Data Factory 블루프린트를 추가했다. Data Factory는 자율주행 데이터셋 생성과 비디오 데이터 증강 등 5종의 클라우드 네이티브 블루프린트를 제공하며, GitHub, Microsoft Azure, Nebius, CoreWeave에서 이용할 수 있다. Cosmos 3 NIM 마이크로서비스는 검증된 구성에서 추론을 최대 2배 빠르게 한다고 한다.

AWS PrivateLink를 이용해 퍼블릭 인터넷을 거치지 않고 Amazon Quick에서 온프레미스 데이터에 연결하는 방법

AWS Machine Learning Blog는 기업 네트워크 내 데이터에 Amazon Quick으로 비공개 연결하는 절차를 해설했다. Direct Connect 또는 Site-to-Site VPN으로 기존 온프레미스 환경과 VPC가 이미 연결되어 있다는 전제에서, VPC 엔드포인트와 AWS PrivateLink를 구성해 트래픽을 AWS 백본 네트워크 안에 유지하는 방식이다.

AWS, 멀티 에이전트의 프로덕션 운영 과제 5가지와 Deep Insight를 통한 해결책

AWS Solutions Architecture 팀이 개발한 멀티 에이전트 시스템 「Deep Insight」를 소재로, 프로덕션 운영에서 직면하는 5가지 과제와 그 해결 방법을 해설한다. Deep Insight는 CSV 데이터와 자연어 프롬프트를 바탕으로 Coordinator, Planner, Supervisor, Coder, Validator, Reporter, Tracker 등 7개의 전문 에이전트가 분석을 수행하여 .docx 형식의 보고서를 생성하는 오픈소스 시스템이다.

텍사스주 데이터센터 증설, 수십 년간의 대기질 개선을 무효화할 우려

텍사스주에서 계획 중인 데이터센터가 모두 예상되는 전원 구성의 계통 전력으로 가동될 경우, HARC 보고서에 따르면 5년 만에 수십 년간의 대기질 개선이 사라질 것으로 전망된다. 전력 부문의 미세먼지(그을음)는 3배 이상 늘어 2006년 이후 최고 수준에 이르고, 스모그의 원인이 되는 NOx 배출은 136% 증가해 2004년 수준에 근접한다. 반면 계통 전력에 재생에너지를 현장(온사이트)에서 결합하면 NOx 배출을 최대 10분의 1까지 줄일 수 있다고 한다.

Blacksmith, Sequoia 주도 시리즈C로 기업가치 10억 달러 돌파

Blacksmith는 소프트웨어 빌드와 테스트를 효율화하는 플랫폼을 운영하는 기업으로, Sequoia가 주도한 6,600만 달러 규모의 시리즈C 투자 유치로 기업가치 10억 달러에 도달했다. 연간 경상수익(ARR)은 17배 성장했으며, 9,000만 건이 넘는 CI(지속적 통합) 작업을 실행했다고 밝혔다. 고객사로는 Mercury와 Granola가 포함되어 있으며, 누적 투자 유치액은 1억 2,500만 달러가 되었다.

블랙스톤의 자스 카일라 “AI 인프라 부채 우려는 과장됐다”고 주장

Blackstone의 AI 사업을 이끄는 Jas Khaira는 TechCrunch Disrupt에서 AI 인프라 구축에 따른 부채 우려가 과장됐다고 말했다. 데이터센터 관련 부채의 대부분은 하이퍼스케일러를 대상으로 하며, 가장 신용도가 높은 기업들이 이를 뒷받침하고 있다고 설명했다. 다만 금리 상승과 신용 스프레드 확대는 인정했으며, CoreWeave 주가는 최근 20% 넘게 하락했다.

Inception、확산 기반 LLM 「Mercury 3」 발표… 초당 1,068토큰 주장

Inception이 확산 기반 대규모 언어 모델(LLM) 「Mercury 3」를 발표했다. NVIDIA GPU에서 초당 1,068토큰을 생성하는 것으로 알려졌으며, 컨텍스트 윈도우는 100만 토큰이다. 표준 가격은 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 0.70달러이며, 도입 할인 50%가 적용된다. API 외에 OpenRouter, Baseten, Vercel을 통해 이용할 수 있다. 회사 측은 동급 속도 중시 모델보다 4~8배 빠르다고 주장하지만, 모두 회사가 공표한 데이터에 근거한 것이다.

Google Cloud, Model Garden에 OpenAI의 GPT-6 Astra·Sol·Luna 추가 예정

Google Cloud는 2026년 10월 21일 OpenAI의 프런티어 모델 GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna와 Codex의 에이전트형 워크플로를 Model Garden에 추가한다고 발표했다. 당분간은 일부 기업 고객을 대상으로 한 비공개 프리뷰로 제공되며, 구매는 Google Cloud Marketplace를 통해 이뤄진다. 요금, 컨텍스트 윈도우, 일반 제공(GA) 날짜는 아직 공개되지 않았다.

Strands Agents로 구축한 적응형 에이전트 지능 프레임워크(AAIF)

AAIF는 Strands Agents로 구축된 프레임워크로, 라우팅을 담당하는 소형 언어 모델(SLM)이 정형화된 작업을 분류하고 복잡한 분석은 Amazon Bedrock의 클라우드 모델에 맡긴다. 정형화된 작업은 Ollama 위에서 돌아가는 로컬 SLM이 처리하며, 클라우드에 의존하지 않고 낮은 지연 시간으로 완료된다. 엣지 기기인 Raspberry Pi(8 GB)부터 풀 클라우드 구성, 하이브리드 구성까지 지원한다.

AWS Trainium에서 torchtitan으로 Qwen3를 학습하는 방법

단일 trn2.48xlarge 인스턴스에서 torchtitan을 사용해 Qwen3를 학습하는 세 가지 구성이 제시됐다. 첫째는 Transformers v5를 모델링 백엔드로 사용하는 방법, 둘째는 torchtitan 네이티브 Qwen3로 전환하는 방법, 셋째는 NKI MoE 커널과 override registry를 결합하는 방법이다. Qwen3-4B-Instruct-2507의 경우 공개 가중치에서 시작하면 1스텝 손실이 6.54, 랜덤 초기화에서는 12.43으로 보고됐다.

OpenAI 최신 모델, Google Cloud와 Antigravity에서 이용 가능해져

OpenAI와 Google이 합의해 OpenAI의 최신 모델이 Google Cloud에서 제공된다. GPT 6.1의 Astra, Sol, Luna 전 모델이 대상이며, Google의 코딩 도구 Antigravity에도 조만간 탑재된다.

OpenAI@OpenAIAI 점수5757

OpenAI는 자사의 프런티어 모델과 Codex의 에이전트형 워크플로를 Google Cloud의 Model Garden에 제공한다고 발표했다. 기업이 평소 개발을 진행하는 환경에서 OpenAI의 기술을 사용할 수 있도록 하는 것이 목표이다. 자세한 내용은 https://openai.com/index/openai-models-google-cloud/ 에 게재되어 있다.

Google Cloud, GPT-6 시리즈 모델 제공 개시… Gemini·Claude에 이어 3사 모델 지원

Google Cloud가 OpenAI의 GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna를 제공하기 시작했다. Gemini, Claude와 합해 3개사 모델을 하나의 플랫폼에서 이용할 수 있는 주요 클라우드 제공업체가 됐다.

판사, xAI 데이터센터 오염 소송에서 트럼프 행정부 EPA의 기각 주장 거부

판사는 트럼프 대통령이 EPA에게 대기정화법(Clean Air Act) 소송을 일방적으로 기각할 권한이 있다며 개입한 것을 거부했다. NAACP는 멤피스의 Colossus 데이터센터에서 허가 없는 가스터빈이 가동되고 있다며, xAI(현 SpaceXAI)에 대해 최선의 가용 오염방지 기술 사용과 위반 1건당 하루 최대 124,426달러의 과태료를 요구하고 있다. 트럼프 대통령은 과태료 청구가 공익에 반한다고 주장했었다.

NVIDIA, 사전 학습된 관계형 기반 모델 Kumo Relational 공개

NVIDIA는 기업 데이터베이스에서 추가 학습 없이 예측할 수 있는 사전 학습된 관계형 기반 모델 Kumo Relational을 공개했다. 최대 10,000건의 과거 사례를 컨텍스트로 읽어 들여, 한 번의 포워드 패스로 이탈, 수요, 부정 거래 등을 예측한다. 15개 데이터베이스에 걸친 41개 과제에서 지도 학습 모델과 전문가가 설계한 그래디언트 부스팅 트리 파이프라인을 능가했다고 밝혔다.

Agents CLI, LangChain 등 임의 프레임워크의 ADLC를 지원하는 확장 기능

Agents CLI는 버전 1.5.0에서 확장 시스템을 탑재해 포크하지 않고도 명령어를 덮어쓰거나 추가할 수 있게 됐다. 버전 1.8.0에서는 공식 LangChain 확장이 추가되어, 프레임워크에 종속된 명령어를 LangChain용 명령어로 교체하면서 나머지 라이프사이클은 그대로 사용할 수 있다. 확장은 Git 저장소 내 디렉터리와 agents-cli-extension.yaml로 정의되며, 조직의 배포 정책 등을 구현하는 데에도 쓸 수 있다.

AWS Trainium에서 TorchNeuron 프로파일링 (1회): 시스템 수준 분석

AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.

AWS Trainium에서 TorchNeuron 프로파일링 (1회): 시스템 수준 분석

AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.

NVIDIA@nvidiaAI 점수4040

NVIDIA는 Amkor, IBIDEN, KYEC, Samsung Mechanics, SPIL, Unimicron 등 6개 사와 협력해 부품에서 첨단 패키징, 테스트에 이르기까지 전 세계적인 규모로 공급 능력을 확대한다고 발표했다. 목적은 늘어나는 컴퓨팅 자원 수요에 대응하고, 기업과 개발자에게 NVIDIA의 인프라를 더 많이 공급하는 것이다.

Nvidia, 컨테이너형 데이터센터 설계 'DSX POD' 발표 구축 기간 최단 14일로

Nvidia는 GTC Berlin에서 Vera Rubin 시스템을 중심으로 한 모듈형 데이터센터용 레퍼런스 설계 'DSX POD'를 발표했다. Dell, HPE, Lenovo, Schneider Electric 등 파트너사가 컴퓨팅 장비, 네트워크 장비, 케이블, 전원, 액냉각을 컨테이너에 공장에서 미리 장착하고 시험하는 방식으로, 설치 기간을 6개월에서 최단 14일로 단축할 수 있다고 밝혔다.