AWS CDK(Python)로 Managed Amazon Bedrock Knowledge Base 위에 에이전트형 검색을 구축하는 방법을 해설한다. 에이전트는 두 개의 Knowledge Base를 용도에 따라 구분해 사용하며, AgentCore Gateway를 거쳐 검색하고 출처를 포함한 답변을 반환하는 구성이다. 명령어 한 번으로 배포할 수 있으며, CloudWatch 대시보드 2종(7개 계층의 텔레메트리)과 온디맨드·연속 방식의 평가 2종도 같은 배포에 포함된다.
OpenAI@OpenAIAI 점수6262OpenAI는 사내 프런티어 모델의 훈련·평가 환경 격리를 강화하고, 최상위 모델의 에이전트 팀으로 레드티밍을 실시했다. 훈련은 인터넷에 연결하지 않는 방침으로 진행하며, 9월 20일 인시던트로 중단했던 RL 훈련과 사내 추론을 10월 1일에 재개했다.
선정 이유: 최첨단 모델의 훈련 환경을 어떻게 격리하고, 레드티밍에서 어떤 돌파 경로가 발견됐는지 구체적 사례와 함께 정리돼 있어 방어 설계를 비교하는 자료로 활용할 수 있다.
AWS가 Amazon SageMaker AI의 멀티턴 강화학습(MTRL)을 활용해 gpt-oss-20b를 Wordle로 훈련하는 절차를 설명했다. 보류한 단어에서의 정답률은 기본 추론 강도에서 61%에서 84%로, 훈련에 사용한 낮은 추론 강도에서 15%에서 69%로 향상됐다. 학습에 사용된 토큰 비용은 약 339달러였으며, 에이전트는 Amazon Bedrock AgentCore에서 호스팅된다.
OpenAI Developers@OpenAIDevsAI 점수2929
엔드포인트 구성을 변경할 때 CloudFormation이나 AWS CDK 배포가 실패하는 문제를 재사용 가능한 CDK 컨스트럭트로 해결하는 방법을 소개한다. CDK 컨스트럭트는 AWS CloudFormation 커스텀 리소스를 이용해 엔드포인트 업데이트 전후에 오토스케일링 등록 해제와 재등록을 자동으로 수행한다. 이를 통해 인스턴스 타입이나 인스턴스 수 등의 변경과 오토스케일링 파라미터 변경을 수작업 없이 한 번의 배포로 실행할 수 있다.
OpenAI는 스토리지 기반 Habitat의 토대인 Azure Cosmos DB를 어떻게 확장했는지를 연재 2회차에서 설명했다. Habitat은 40개 지역에 걸쳐 10억 명 이상의 사용자에게 밀리초 단위로 응답해야 한다. 이 회사는 멀티테넌트 컨테이너에서 싱글테넌트로 옮겨간 뒤, 기본값을 다시 멀티테넌트로 되돌렸다.
Hugging Face가 Hub의 인기 모델이 AWS Trainium에서 수정 없이 그대로 동작하는지 확인할 수 있는 Space 「torch-neuronx model support」를 공개했다. 각 모델은 trn2 인스턴스에서 32개 토큰을 생성하는 방식으로 검증되며, 결과와 실행용 run.py 스크립트가 함께 제시된다.
OpenAI의 Codex가 0.164.0 버전을 출시했다. 번호가 매겨진 10개 슬롯에 재사용 가능한 프롬프트와 슬래시 명령어를 저장할 수 있는 /presets가 추가됐으며, /model과 /permissions는 인라인 인수로 모델, 추론 부하, 속도, 권한 프로필을 직접 설정할 수 있게 됐다. Amazon Bedrock 설정 마법사는 기본적으로 활성화되며, 인증 정보가 감지되면 API 키 입력란이 AWS 로그인 방식과 나란히 표시된다.
Firebird가 카자흐스탄에서 NVIDIA Grace Blackwell GPU 45,000기에 대한 미국 수출 라이선스를 취득하고 AI 인프라를 확대한다고 밝혔다. 1단계는 Kazakhtelecom 및 Data Center Valley와 함께 건설 중이며, 상업 가동은 2027년 3분기를 목표로 하고 있다. 2단계가 실현되면 카자흐스탄 내 Firebird의 AI 인프라 총용량은 약 500메가와트가 된다.
OpenAI가 GPT-6 Luna 기반 Decisions API의 일반 제공을 시작했다. 경계가 있는 응답에 특화되어 있으며, Responses API를 통해 GPT-6 Luna로 텍스트, 이미지, 구조화된 입력에서 판단을 최대 10x 더 빠르게 수행한다. 요금은 입력 100만 토큰당 $0.10이며 출력 토큰에는 과금하지 않는다.
OpenAI Developers@OpenAIDevsAI 점수4747Let your app choose the right model, tool, or action in near real-time with Decisions API, now available to all developers in public beta. The Decisions API makes decisions up to 10x faster than GPT-6 Luna through the Responses API.
AWS가 Amazon SageMaker AI의 서버리스 모델 커스터마이징에 training session API를 추가했다. forward_backward(), optim_step(), sample()을 API 호출로 조합해 SFT나 강화학습 학습 루프를 로컬 Python으로 작성할 수 있다. GPU 할당, 분산 실행, 장애 복구는 SageMaker AI가 담당한다.
AWS가 Amazon SageMaker AI의 서버리스 모델 커스터마이징에 학습 세션을 추가해 일반 제공(GA)을 시작했다. 손실 함수와 보상 신호를 포함한 학습 루프는 사용자가 직접 작성하며, GPU 할당, 분산 실행, 장애 복구, 체크포인트 저장은 SageMaker AI가 담당한다. 지원 모델은 gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B, Qwen3.8-27B이다.
Amazon Polly가 Generative 엔진 업그레이드를 일반 제공(GA)으로 공개했다. 9개 로케일에 14개의 새 음성을 추가했으며, 힌디어와 핀란드어의 generative 음성이 처음으로 일반 제공되었다. 음성 이름과 API 호출 방식은 그대로여서 기존 앱은 코드 변경 없이 새로운 품질을 쓸 수 있고, 요금도 동일하다.
AWS Machine Learning Blog는 AI 에이전트가 문장을 생성할 때마다 그 문장을 Kokoro-82M TTS 모델로 보내, 전체 텍스트 생성을 기다리지 않고 음성 합성을 시작하는 방법을 소개했다. Kokoro-82M(8,200만 파라미터)은 SageMaker AI 실시간 엔드포인트에서 ml.g5.xlarge GPU 인스턴스로 동작하며, 컨테이너는 POST /invocations와 WS /invocations-bidirectional-stream 두 가지 라우트를 제공한다.
Amazon Quick은 HIPAA 대상 서비스이며, 서명된 AWS BAA에 따라 PHI를 처리하는 워크플로에 사용할 수 있다. 다만 대상 서비스라는 것만으로 HIPAA를 준수하게 되는 것은 아니며, BAA 체결, 데이터 분류, 설정, 거버넌스, 관리적·물리적 안전 조치는 이용자의 책임이다. 본 기사는 브라우저에서 이용하는 웹 버전의 기능에 초점을 맞춘다.
Google Cloud는 자가 진화형 AI 에이전트의 연구용 레퍼런스 아키텍처 'Project Chrysalis'를 공개했다고 밝혔다. Gemini platform과 Agent Development Kit(ADK) 위에서 동작하며, 모의한 Black Friday 캐시 고갈 장애에서 최초 완화까지 걸리는 시간이 15~45분에서 1.8초로, HTTP 5xx 오류율이 72.7%~80.0%에서 0.0%로 개선됐다고 설명했다.
Rescale은 야간 End-to-End 테스트 실패를 분류해 담당 팀에 배정하는 AI 트리아지 에이전트를 AI-DLC를 활용해 구축했다. Amazon Bedrock의 Claude Opus 4.8이 실패를 infrastructure issue, code bug, flaky test, environment problem 중 하나로 분류하고, MCP를 통해 파드 로그를 가져와 엔지니어 검토용 수정 제안 보고서를 생성한다. 문제 정의부터 검증 환경 배포까지 5일이 걸렸으며, 운영 환경에는 수 주 만에 도달했다.
Amazon SageMaker AI에서 TTS 엔드포인트의 Auto Scaling 목표값을 추측이 아닌 실측으로 정하는 방법을 Kokoro-82M 커스텀 컨테이너 배포를 예로 보여준다. SLO를 충족하는 인스턴스당 최대 동시 실행 수 Q_max와 스케일아웃 소요 시간 T_total을 실제 환경에서 측정하고, 이를 바탕으로 스케일아웃·스케일인 임계값과 쿨다운을 산출한다. 스케일링 지표로는 SageMaker AI가 공개하는 ConcurrentRequestsPerModel을 사용한다.
Google Cloud가 API Gateway의 스트리밍 지원을 퍼블릭 프리뷰로 공개했다. SSE, WebSocket, gRPC 스트리밍 등을 기존 API 사양 그대로 같은 게이트웨이를 통해 처리할 수 있다. 게이트웨이 생성 시 `--enable-streaming`을 지정해 활성화한다.
OpenAI의 Forward Deployed Engineering(FDE) 팀은 모델의 능력과 실제 업무에서의 활용 사이에 있는 '디플로이먼트 갭'을 메우기 위해 2025년 초에 창설되었다. John Deere에서는 OpenAI의 API를 활용해 농가를 위한 개별화된 조언 제공을 지원했다. 반도체 고객사에서는 AI 기반의 directed test generation으로 약 48%의 시간 단축을, 커널 최적화로 중앙값 기준 22%의 성능 향상을 달성했다.
유럽 각국의 정부와 공공기관이 NVIDIA의 오픈 모델을 활용해 데이터와 인프라를 자국의 통제 아래 둔 채 행정 업무용 AI를 구축하고 있다. 폴란드에서는 가족·노동·사회정책부가 400곳 이상의 노동사무소를 위해 PLLuM, GPT OSS, Inkling을 사용한 에이전트형 시스템을 개발 중이다. 프랑스에서는 CANUT이 선정한 LINAGORA와 Docaposte가 2,500곳 이상의 대상 기관에 Twake.ai를 기반으로 한 주권형 협업 워크스페이스를 제공한다.
AXA, Vaisala Xweather, 맨체스터 대학교, TotalEnergies, Space42 등 유럽 기관들이 NVIDIA Earth-2 오픈 모델을 기상·기후 예측 및 리스크 평가에 활용하고 있다. NVIDIA는 지역판 StormScope EU를 추가했다. EUMETSAT의 위성 관측 자료를 활용해 Meteosat의 16개 채널로 10분 간격의 구름 상태를 예측한다. 맨체스터 대학교는 CorrDiff를 영국의 대기질 모델링에 적용했으며, Isambard-AI에서 학습시키고 NVIDIA DGX Spark에서 실행했다.
전 세계 기업들이 NVIDIA DSX AI Factory Platform을 사용해 송전망에서 랙까지를 하나의 시스템으로 계획, 시뮬레이션, 운영하고 있다. 전력은 인프라의 가장 큰 병목으로, 3,000억 달러가 넘는 장비가 납기를 기다리고 있으며 미국에서는 계통 연계를 기다리는 200GW 이상의 프로젝트가 있다.
NVIDIA는 Cosmos 플랫폼에 새로운 학습 도구, 시뮬레이션용 체크포인트, Cosmos Data Factory 블루프린트를 추가했다. Data Factory는 자율주행 데이터셋 생성과 비디오 데이터 증강 등 5종의 클라우드 네이티브 블루프린트를 제공하며, GitHub, Microsoft Azure, Nebius, CoreWeave에서 이용할 수 있다. Cosmos 3 NIM 마이크로서비스는 검증된 구성에서 추론을 최대 2배 빠르게 한다고 한다.
AWS Machine Learning Blog는 기업 네트워크 내 데이터에 Amazon Quick으로 비공개 연결하는 절차를 해설했다. Direct Connect 또는 Site-to-Site VPN으로 기존 온프레미스 환경과 VPC가 이미 연결되어 있다는 전제에서, VPC 엔드포인트와 AWS PrivateLink를 구성해 트래픽을 AWS 백본 네트워크 안에 유지하는 방식이다.
AWS Solutions Architecture 팀이 개발한 멀티 에이전트 시스템 「Deep Insight」를 소재로, 프로덕션 운영에서 직면하는 5가지 과제와 그 해결 방법을 해설한다. Deep Insight는 CSV 데이터와 자연어 프롬프트를 바탕으로 Coordinator, Planner, Supervisor, Coder, Validator, Reporter, Tracker 등 7개의 전문 에이전트가 분석을 수행하여 .docx 형식의 보고서를 생성하는 오픈소스 시스템이다.
AAIF는 Strands Agents로 구축된 프레임워크로, 라우팅을 담당하는 소형 언어 모델(SLM)이 정형화된 작업을 분류하고 복잡한 분석은 Amazon Bedrock의 클라우드 모델에 맡긴다. 정형화된 작업은 Ollama 위에서 돌아가는 로컬 SLM이 처리하며, 클라우드에 의존하지 않고 낮은 지연 시간으로 완료된다. 엣지 기기인 Raspberry Pi(8 GB)부터 풀 클라우드 구성, 하이브리드 구성까지 지원한다.
단일 trn2.48xlarge 인스턴스에서 torchtitan을 사용해 Qwen3를 학습하는 세 가지 구성이 제시됐다. 첫째는 Transformers v5를 모델링 백엔드로 사용하는 방법, 둘째는 torchtitan 네이티브 Qwen3로 전환하는 방법, 셋째는 NKI MoE 커널과 override registry를 결합하는 방법이다. Qwen3-4B-Instruct-2507의 경우 공개 가중치에서 시작하면 1스텝 손실이 6.54, 랜덤 초기화에서는 12.43으로 보고됐다.
OpenAI@OpenAIAI 점수5757NVIDIA는 기업 데이터베이스에서 추가 학습 없이 예측할 수 있는 사전 학습된 관계형 기반 모델 Kumo Relational을 공개했다. 최대 10,000건의 과거 사례를 컨텍스트로 읽어 들여, 한 번의 포워드 패스로 이탈, 수요, 부정 거래 등을 예측한다. 15개 데이터베이스에 걸친 41개 과제에서 지도 학습 모델과 전문가가 설계한 그래디언트 부스팅 트리 파이프라인을 능가했다고 밝혔다.
선정 이유: 관계형 데이터를 위한 기반 모델의 구조, 벤치마크 결과, 한계, 활용 방법이 한 흐름으로 정리되어 있어 기존 예측 파이프라인과 비교하는 자료로 쓸 만하다.
Agents CLI는 버전 1.5.0에서 확장 시스템을 탑재해 포크하지 않고도 명령어를 덮어쓰거나 추가할 수 있게 됐다. 버전 1.8.0에서는 공식 LangChain 확장이 추가되어, 프레임워크에 종속된 명령어를 LangChain용 명령어로 교체하면서 나머지 라이프사이클은 그대로 사용할 수 있다. 확장은 Git 저장소 내 디렉터리와 agents-cli-extension.yaml로 정의되며, 조직의 배포 정책 등을 구현하는 데에도 쓸 수 있다.
AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.
AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.
NVIDIA@nvidiaAI 점수4040
OpenAI와 Google Cloud는 제휴를 맺고 OpenAI의 프런티어 모델과 Codex의 에이전트형 워크플로를 Google Cloud의 Model Garden에 통합한다고 발표했다. 고객은 Google Cloud Marketplace를 통해 구매할 수 있으며, 일반 제공은 향후 몇 주 안에 시작할 예정이다. Microsoft가 여전히 OpenAI의 주요 클라우드 파트너라는 점도 함께 명시됐다.
선정 이유: Google Cloud에서의 구매 방법, GCP 사용 약정 충당, 제공 시기가 구체적으로 적혀 있어 기업의 조달 결정에 참고할 만하다.
NVIDIA@nvidiaAI 점수2121
Hugging Face의 SimReady Central Library는 로보틱스와 AI 팩토리 시뮬레이션에 활용할 수 있는 OpenUSD 형식 3D 에셋 2,000종 이상을 모은 무료 이용 라이브러리다. 로봇 암, 그리퍼, 창고 설비, 랙, 냉각 설비 등이 포함되며, 개발자는 각 에셋의 지원 기능을 확인해 서로 다른 공급업체의 에셋을 조합할 수 있다. 장비 제조사(OEM)는 자사 에셋을 SimReady 요건에 따라 검증하고 이 라이브러리를 통해 제공할 수 있다.
Nebius, Nscale, Verda 등 유럽 AI 클라우드 사업자들이 NVIDIA Vera CPU를 활용한 인프라 구축을 추진하고 있다. Bull, Dell Technologies, HPE, Lenovo, Supermicro도 Vera 탑재 시스템을 개발 중이며, 단독 CPU 서버로도, NVIDIA GPU와 결합한 구성으로도 이용할 수 있다. Modal, E2B, Vercel 등 샌드박스 사업자들도 AI 에이전트가 코드를 실행하고 도구를 구동하는 기반으로 Vera 활용을 확대하고 있다.