AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.
AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.
AWS는 Amazon SageMaker HyperPod에서 SFT와 GRPO를 활용해 GPT-OSS-20B를 다국어 추론용으로 파인튜닝하는 절차를 공개했다. 베이스 모델은 50개 테스트에서 지정 언어로 추론한 비율이 22%에 그쳤으며, 영어는 100%였던 반면 프랑스어·스페인어·이탈리아어는 0%였다. AWS는 개선의 대부분은 SFT가 담당했고, GRPO는 개선 여지가 있는 경우에 추가 효과를 보였다고 밝혔다.
Anthropic은 향후 Claude 모델이 생성하는 텍스트에 워터마크를 삽입한다고 밝혔다. EU AI Act 대응을 위한 것으로, 출력의 품질과 내용, 비용에는 실질적인 영향이 없다고 설명했다. 방식은 Google DeepMind의 SynthID-Text를 기반으로 하며, 특정 개인이나 조직, 채팅은 식별할 수 없다.
선정 이유: 워터마크의 작동 방식을 난수원 교체라는 관점에서 설명하고, 코드·교정·번역에서 효과가 어떻게 다른지까지 정리하고 있어 동작을 이해하는 데 도움이 된다.
AWS Agent Registry를 활용해 오케스트레이터가 MCP 서버와 A2A 에이전트를 실행 시점에 검색하고 사용하는 절차를 AWS 블로그가 설명했다. Discover, Instantiate, Execute의 3단계로 동작하며, 검색 결과에는 호출용 인증 정보가 포함되지 않는다. 샘플은 Python으로 작성되었으며, 주문 관리 MCP 서버와 두 개의 A2A 에이전트를 사용한다.
Arm은 Google AI Edge Model Explorer에 자체 어댑터를 추가해 TOSA, VGF, PTE 형식의 엣지 모델 그래프를 시각화하고 검증했다. VGF로 변환한 NSS 모델에서는 ExecuTorch Arm 백엔드 변경으로 생긴 불필요한 TRANSPOSE 연산자를 찾아냈고, Ultralytics YOLO 모델에서는 CPU와 NPU 그래프를 분할 화면으로 비교해 NPU로의 연산 위임 상황을 확인했다. FVP 시뮬레이터의 사이클 단위 트레이스를 겹쳐 본 결과, 단일 TRANSPOSE 노드가 주요 지연 병목인 것으로 드러났다.
AWS 블로그는 AtScale의 시맨틱 레이어와 Amazon Bedrock AgentCore 위의 Strands 에이전트를 결합해 AWS에서 AI 에이전트용 시맨틱 레이어를 구축하는 절차를 설명한다.
Amazon Bedrock AgentCore 위의 Strands 에이전트가 MCP 엔드포인트를 통해 Strategy Mosaic의 시맨틱 레이어에 연결되어 Amazon Redshift와 Amazon Aurora에 걸친 고객 360 데이터를 조회하는 구성을 소개한다. 조인, 메트릭 정의, 사용자별 행·열 필터는 에이전트 프롬프트가 아닌 Mosaic 안에 두어, RLS와 OLS가 엔드투엔드로 유지된다.
Denodo와 Amazon Bedrock AgentCore를 활용해 Amazon Aurora, Amazon Redshift, 온프레미스 PostgreSQL을 하나의 고객 360 뷰로 통합하고, 에이전트가 Denodo MCP Server를 통해 조회하는 구성을 소개한다.
Eon은 Amazon Bedrock AgentCore 위에 단일 인증 기반 MCP Gateway를 구축해, AWS, GCP, Azure를 아우르는 조사 도구에 통합적으로 접근할 수 있도록 했다고 밝혔다. 도구별 인증 정보와 로컬 MCP 프로세스를 대체한 결과, 신입 엔지니어가 조사 도구에 도달하기까지 걸리는 시간이 기존 2일에서 약 2분으로 줄었다. Cedar 정책으로 ENFORCE 모드에서 권한을 통제하며, 운영 도구는 읽기 전용으로 두고 쓰기는 PR이나 티켓 댓글 등 영향도가 낮은 작업으로 한정했다.
AWS와 Keyfactor가 X.509 PKI를 활용해 AI 에이전트에 암호학적 ID를 부여하는 참조 아키텍처를 공개했다. 서명된 요청 엔벨로프, 사용자 서명 위임 어서션, RFC 8693 기반의 대상(오디언스) 제한 토큰, 실시간 OCSP 폐기 확인 등 4가지 메커니즘을 결합한다. 인증 기반에는 Keyfactor EJBCA를, LLM 추론에는 Amazon Bedrock과 AWS Strands Agents SDK를 사용하며, 샘플 코드는 GitHub에서 공개되어 있다.
Java Champion 3명이 GitHub Copilot을 실무와 OSS 개발에서 어떻게 활용해 AI 생성물을 믿을 수 있는 소프트웨어로 만들고 있는지 소개했다. Vlad Mihalcea는 Hypersistence Optimizer의 이벤트 이력을 보여주는 웹 앱을 원래 수 주가 걸릴 것으로 예상했던 작업을 2일 만에 구현했다고 밝혔다. 또한 복잡한 작업에는 100만 컨텍스트 윈도우와 Extra High 또는 Max 추론 설정으로 Opus를 사용하고, 보고서 작성 등에는 경량 모델을 구분해 쓰고 있다고 전했다.
GitHub Copilot app에서 작성한 세션은 'Open in VS Code'를 통해 대화, 코드 변경, 작업 컨텍스트를 유지한 채 VS Code에서 계속할 수 있다. 에이전트의 변경 사항은 Source Control 뷰에서 줄 단위로 검토할 수 있으며, 수동 편집과 프로젝트의 로컬 실행·테스트도 같은 worktree에서 진행할 수 있다. 마지막으로 세션에 연결된 pull request에 변경 사항을 push할 수 있다.
ADK의 스트리밍 도구를 사용하면 음성 에이전트는 시간이 오래 걸리는 도구를 실행하는 동안에도 응답을 이어갈 수 있다. 사내 매출 보고서 벤치마크에서 gemini-3.8-live는 블로킹 도구에서 스트리밍 도구로 전환한 결과, 에이전트가 첫 발화를 시작하기까지의 시간이 14.4초에서 1.2초로 단축되었다. 도구는 함수를 async generator로 정의하고 return을 yield로 바꾸기만 하면 NON_BLOCKING으로 처리된다.
애슬리트 전문 스타일리스트 Sydney Bordonaro가 Gemini를 활용한 코디 방법을 4가지 요령으로 소개한다. 옷 사진과 본인 사진을 업로드하면 한 장의 이미지로 합쳐져, 주문 전에 전체 모습을 확인할 수 있다. 신발이나 아우터 등 개별 아이템은 대화를 통해 변경을 지시할 수 있다.
Hugging Face@huggingfaceAI 점수3333Local AI 202: 투기적 디코딩으로 대폭적인 고속화 실현 https://x.com/i/broadcasts/1NGaroZveLVJj
Microsoft AI의 진단 오케스트레이터 MAI-DxO는 NEJM 증례 기록을 이용한 평가에서 최대 85%의 증례를 올바르게 진단했으며, 경험 많은 의사 그룹의 4배 이상의 비율에 이르렀다. 의사보다 비용 대비 효과도 높다고 한다. 평가에는 NEJM의 최신 304개 증례를 단계적인 진단 과정으로 변환한 Sequential Diagnosis Benchmark(SD Bench)가 사용되었으며, 검사에는 가상의 비용이 설정되었다. 다만 보다 일반적인 증상에서의 성능은 추가 검증이 필요하다고 한다.
Google은 AI 에이전트가 LLM의 사후 학습을 자율적으로 반복 실행하는 「autofinetune」을 개발했다고 밝혔다. Tunix, Gemma, Cloud TPU를 Antigravity CLI 및 Gemini Flash 3.7과 통합한 구성이다. SFT의 FunctionGemma 실험에서는 TPU v5e-1에서 약 2시간 동안 20회의 자동 실험을 수행해 함수 호출 생성의 정확도를 높였다. GRPO로 Gemma 3 1B를 학습시킨 실험에서는 40회의 실험을 2~3일에 걸쳐 진행했고, 총 보상이 약 10% 향상됐다.
Google은 Gemini Enterprise Agent Platform에서 Model Armor, Semantic Governance Policies, Agent Anomaly Detection을 사용해 에이전트 실행 시점에 의도와 동작을 검사하는 방법을 설명했다. ADK로 만든 환불 에이전트를 예로 들어, 빌드 시점의 통제로는 막을 수 없는 공격에 대한 대응 방안을 보여준다. 전체 코드는 오픈소스 데모 zero-trust-agents-2에서 공개되어 있다.
Google은 운영 환경의 AI 에이전트를 지속적으로 감시하는 품질 에이전트 「AQuA(Ambient Quality Agent)」를 오픈 빌딩 블록으로 공개했다. Google Cloud에서 Cloud Trace, Cloud Logging, BigQuery로부터 세션을 주기적으로 추출하고, 최대 1,000개 세션을 평가해 실패 패턴을 클러스터링한다. AQuA는 요청 경로 밖에서 동작하며 에이전트에 결과를 다시 써넣지 않는다.
Google은 Gemini 4 Argon에 google/adk-python을 약 11시간 동안 무인으로 최적화하도록 맡겼으며, 그 결과 긴 세션에서 인메모리 세션 준비 시간을 약 40%, 패키지 임포트 시간을 21% 단축했다고 밝혔다. 제안 6건 중 2건은 코드 리뷰를 거쳐 채택됐고, 4건은 불채택됐다. /goal 모드와 .agents/skills를 활용한 절차도 함께 공개했다.
AI 에이전트는 루프에 빠지거나 토큰을 과도하게 소비하고, 그럴듯하지만 틀린 답을 내놓아도 겉보기에는 문제가 없어 보이기 때문에 눈으로 확인하는 방식(바이브 체크)으로는 결함을 잡아내기 어렵다고 지적한다. 대안으로 중요한 사용자 여정(CUJ)을 평가 기준으로 삼고, 시뮬레이션된 사용자로 골든 데이터셋을 만든 뒤 점차 실제 운영 트레이스로 교체하는 방법을 제시한다. 평가는 유닛 테스트, 결정적 메트릭, LLM-as-a-judge, 통합 테스트의 4계층으로 수행하며, judge의 채점은 가능한 한 1~5점 척도 대신 합격/불합격의 이진 판정으로 하기를 권장한다.
OpenAI Developers@OpenAIDevsAI 점수4242OpenAI 엔지니어들이 Codex를 활용해 코드베이스를 살펴보고, 손봐야 할 부분을 찾아내며, 쌓여 있던 유지보수 작업을 조금씩 처리하는 방법을 소개한다.
Software maintenance is changing. A few months ago, I had to tell Codex exactly where to look for dead code. Now it can find candidates in Slack, check them against production telemetry, and draft cleanup PRs. Here’s how we do this at OpenAI. https://developers.openai.com/blog/maintaining-software-with-the-gpt-6-family
AWS의 SMGS Operations 팀이 Amazon Bedrock AgentCore를 활용해, 프로덕션에서 운영 중인 여러 AI 에이전트의 품질을 지속적으로 측정하는 평가 프레임워크를 구축했다. AgentCore Evaluations를 핵심으로, Amazon Bedrock Guardrails와 Amazon CloudWatch 등을 결합했다.
Kimi.ai@Kimi_MoonshotAI 점수2525
Apple Machine Learning Research는 MLX와 RDMA over Thunderbolt를 활용해 Mac Studio 4대로 816B 파라미터의 Muse Spark Open을 초당 36토큰 이상으로 생성할 수 있음을 보였다고 밝혔다. M5 Ultra는 M3 Ultra 대비 TTFT가 최대 4.6배, 토큰 생성 속도가 1.6배 빠르다. Qwen 3.8 27B와 Mistral Medium 3.5 128B는 512GB 메모리를 탑재한 Mac Studio 단독으로 동작한다.
Amazon Bedrock AgentCore와 Strands Agents를 활용해 양식 문서의 분류, 추출, 검증, 학습을 최소한의 사람 개입으로 수행하는 에이전트형 IDP 시스템 구축 방법을 설명합니다. 8개의 전문 에이전트가 식별, 학습, 자동화라는 두 개의 그래프 기반 워크플로에서 협업하며, 새로운 문서 형식에 대해서는 추출 지침을 생성해 이후 재사용합니다. 대부분의 경우 20분 미만으로 배포할 수 있으며, 수동 템플릿 설정은 필요하지 않습니다.
Amazon SageMaker JumpStart의 모델을 배포하고, SageMaker Python SDK로 가볍고 재현 가능한 성능 테스트를 실행한 뒤, 종료 후 엔드포인트를 삭제하는 절차를 설명합니다. 스크립트는 모델 탐색 및 배포, 지연 시간과 출력량, 단일 요청 생성 속도 측정, 정리의 세 단계로 구성됩니다. 여러 호환 모델에 사용할 수 있지만, 페이로드 형식, 인스턴스 타입, EULA, 응답 파싱은 모델마다 조정이 필요한 경우가 있습니다.
AI 연구소 Third Moment Research는 GPT-6 Astra, GPT-6.1 Sol, Codex, 사이버 보안용 Daybreak를 활용해 10,000개의 에이전트를 36시간 넘게 가동하고 있다. 며칠 동안 집중적으로 작업하며, 사용할수록 개선되는 에이전트를 만들고 있다.
Amazon Bedrock의 관리형 엔타이틀먼트를 활용하면 서드파티 AI 모델의 AWS Marketplace Private Pricing Offer(MPPO)를 중앙 계정에서 한 번 구독한 뒤, 조직 내 여러 계정에 접근 권한을 배포할 수 있다.
ShipStation Global은 Amazon Bedrock AgentCore 위에 Slack용 AI IT 헬프데스크 에이전트 「Deckhand」를 구축해 채널에 들어오는 문의의 97.5%를 해결했다고 밝혔다. 직원들의 긍정적 평가는 96%다. Deckhand는 지식 베이스를 바탕으로 정형화된 IT 및 사내 질문에 답변하고, 오류 메시지 스크린샷을 판독하며, Jira Service Management 티켓을 생성·업데이트한다.
GitHub Copilot app에서는 커스텀 지침, 에이전트 스킬, 커스텀 에이전트, MCP 서버의 네 가지 방식으로 프로젝트의 규약과 절차를 Copilot에게 전달할 수 있다. 지침은 `.github/copilot-instructions.md`, 스킬은 `.github/skills`, 에이전트는 `.github/agents`에 둔다. MCP 서버를 통해 Playwright 등 외부 도구에도 연결할 수 있다.
NVIDIA는 GPT-6 Astra 등 프런티어 모델과 Omniverse 라이브러리를 결합해, 개발자가 자연어로 AI 에이전트에 지시하여 시뮬레이션 앱을 구축하는 사례를 소개했다. 가스터빈 디지털 트윈에서는 부하와 연료 조성 등을 조정해 출력과 효율을 비교할 수 있는 프로토타입을 만들었으며, 6개의 테스트 절차를 마련했다. 창고 시뮬레이션에서는 컨베이어 80대, 로봇 팔 40개, 상자 800개 환경에서 풀HD·2분 테스트 동안 30 FPS를 유지했다고 한다.
Postman과 AWS는 4000만 명의 개발자가 사용하는 Agent Mode를 Amazon Bedrock에서 운영할 때의 아키텍처를 해설했다. 주요 교훈은 도구의 동적 선택, 스키마 기반 읽기, 컨텍스트 설계다. Bedrock에서는 크로스 리전 추론, 모델별로 다른 제로 데이터 보존, 2단계 프롬프트 캐시를 활용하고 있다.
OpenAI의 GPT-6 패밀리를 대상으로, 스타트업이 모델을 고르고 reasoning effort를 조정하며 프롬프트와 스킬을 개선하고 도구를 연동하며 프로덕션 운영에 대비해 워크플로를 준비하는 방법을 설명하는 가이드다.
AI가 개발 방식을 바꾸는 가운데, GitHub Blog가 개발자가 강화해야 할 3가지 역량을 제시했다. AI 에이전트에 지시하는 능력, 첫 번째 답변을 무턱대고 믿지 않는 평가 능력, 그리고 AI로 확보한 시간을 더 큰 과제 해결에 쓰는 역량이다. 평가와 관련해서는 GitHub Copilot에 내장된 Rubber Duck agent가 두 번째 모델을 이용해 계획, 코드, 테스트를 비판적으로 검토하는 사례를 들었다.
GitHub Copilot app의 canvas(canvas extension)는 사용자와 에이전트가 함께 공유하고 맞춤 설정할 수 있는 인터페이스입니다. `/create-canvas` 스킬에 원하는 기능을 평범한 영어로 설명하기만 하면 칸반 보드나 릴리스 체크리스트 같은 것이 코딩 없이 오른쪽 패널에 생성됩니다. 만든 canvas는 확장 기능으로 저장할 수 있으며, Awesome Copilot에서 공유된 기성 canvas도 이용할 수 있습니다.
GitHub Copilot 앱의 풀 리퀘스트 화면을 새로 만들어, 2,200개 파일, 100만 줄 이상의 변경, 400개 이상의 인라인 리뷰 댓글을 가진 거대한 풀 리퀘스트도 빠르게 렌더링할 수 있도록 했다. 댓글은 렌더링하기 전까지 높이를 알 수 없으므로, 코드 줄의 높이를 확정하는 방식과 댓글 등 동적 블록의 높이를 따로 다루는 방식의 두 가지 레이아웃 구성을 채택했다.
Google은 Gemini를 집안일에 활용하는 4가지 방법을 소개했다. DIY 수리와 가전제품 문제 해결, 식단표 및 장보기 목록 작성, 영수증 사진을 활용한 가계부 관리, 대형 제품 비교 등이 예로 제시됐다. Google의 「AI & Economy ATLAS v1.0」 연구에서는 익명화된 대화 1500만 건 가운데 86% 이상이 업무 목적이 아닌 용도로 이뤄졌던 것으로 나타났다. 연구진은 일상적인 AI 활용으로 가구당 주 30분을 절약할 수 있다면 미국에서만 연간 약 1000억 달러의 경제적 가치가 생긴다고 추산했다.
