AWS Machine Learning Blog는 기업 네트워크 내 데이터에 Amazon Quick으로 비공개 연결하는 절차를 해설했다. Direct Connect 또는 Site-to-Site VPN으로 기존 온프레미스 환경과 VPC가 이미 연결되어 있다는 전제에서, VPC 엔드포인트와 AWS PrivateLink를 구성해 트래픽을 AWS 백본 네트워크 안에 유지하는 방식이다.
AWS Solutions Architecture 팀이 개발한 멀티 에이전트 시스템 「Deep Insight」를 소재로, 프로덕션 운영에서 직면하는 5가지 과제와 그 해결 방법을 해설한다. Deep Insight는 CSV 데이터와 자연어 프롬프트를 바탕으로 Coordinator, Planner, Supervisor, Coder, Validator, Reporter, Tracker 등 7개의 전문 에이전트가 분석을 수행하여 .docx 형식의 보고서를 생성하는 오픈소스 시스템이다.
AAIF는 Strands Agents로 구축된 프레임워크로, 라우팅을 담당하는 소형 언어 모델(SLM)이 정형화된 작업을 분류하고 복잡한 분석은 Amazon Bedrock의 클라우드 모델에 맡긴다. 정형화된 작업은 Ollama 위에서 돌아가는 로컬 SLM이 처리하며, 클라우드에 의존하지 않고 낮은 지연 시간으로 완료된다. 엣지 기기인 Raspberry Pi(8 GB)부터 풀 클라우드 구성, 하이브리드 구성까지 지원한다.
단일 trn2.48xlarge 인스턴스에서 torchtitan을 사용해 Qwen3를 학습하는 세 가지 구성이 제시됐다. 첫째는 Transformers v5를 모델링 백엔드로 사용하는 방법, 둘째는 torchtitan 네이티브 Qwen3로 전환하는 방법, 셋째는 NKI MoE 커널과 override registry를 결합하는 방법이다. Qwen3-4B-Instruct-2507의 경우 공개 가중치에서 시작하면 1스텝 손실이 6.54, 랜덤 초기화에서는 12.43으로 보고됐다.
AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.
AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.
Claude Mods는 TypeScript 또는 JavaScript 함수로 Claude Code의 동작과 화면 표시를 커스터마이즈하는 플러그인이다. 저자는 수 주간 사용해 보았으며 You Should Know와 Next Steps Supervisor의 실제 사례를 소개한다. ChatGPT의 Intelligent UI, Cursor의 PR Routing & Approval과 비교하고, 노이즈, 비용, 신뢰의 과제도 함께 제시한다.
AWS는 Amazon SageMaker HyperPod에서 SFT와 GRPO를 활용해 GPT-OSS-20B를 다국어 추론용으로 파인튜닝하는 절차를 공개했다. 베이스 모델은 50개 테스트에서 지정 언어로 추론한 비율이 22%에 그쳤으며, 영어는 100%였던 반면 프랑스어·스페인어·이탈리아어는 0%였다. AWS는 개선의 대부분은 SFT가 담당했고, GRPO는 개선 여지가 있는 경우에 추가 효과를 보였다고 밝혔다.
Anthropic은 향후 Claude 모델이 생성하는 텍스트에 워터마크를 삽입한다고 밝혔다. EU AI Act 대응을 위한 것으로, 출력의 품질과 내용, 비용에는 실질적인 영향이 없다고 설명했다. 방식은 Google DeepMind의 SynthID-Text를 기반으로 하며, 특정 개인이나 조직, 채팅은 식별할 수 없다.
선정 이유: 워터마크의 작동 방식을 난수원 교체라는 관점에서 설명하고, 코드·교정·번역에서 효과가 어떻게 다른지까지 정리하고 있어 동작을 이해하는 데 도움이 된다.
AWS Agent Registry를 활용해 오케스트레이터가 MCP 서버와 A2A 에이전트를 실행 시점에 검색하고 사용하는 절차를 AWS 블로그가 설명했다. Discover, Instantiate, Execute의 3단계로 동작하며, 검색 결과에는 호출용 인증 정보가 포함되지 않는다. 샘플은 Python으로 작성되었으며, 주문 관리 MCP 서버와 두 개의 A2A 에이전트를 사용한다.
Arm은 Google AI Edge Model Explorer에 자체 어댑터를 추가해 TOSA, VGF, PTE 형식의 엣지 모델 그래프를 시각화하고 검증했다. VGF로 변환한 NSS 모델에서는 ExecuTorch Arm 백엔드 변경으로 생긴 불필요한 TRANSPOSE 연산자를 찾아냈고, Ultralytics YOLO 모델에서는 CPU와 NPU 그래프를 분할 화면으로 비교해 NPU로의 연산 위임 상황을 확인했다. FVP 시뮬레이터의 사이클 단위 트레이스를 겹쳐 본 결과, 단일 TRANSPOSE 노드가 주요 지연 병목인 것으로 드러났다.
AWS 블로그는 AtScale의 시맨틱 레이어와 Amazon Bedrock AgentCore 위의 Strands 에이전트를 결합해 AWS에서 AI 에이전트용 시맨틱 레이어를 구축하는 절차를 설명한다.
Amazon Bedrock AgentCore 위의 Strands 에이전트가 MCP 엔드포인트를 통해 Strategy Mosaic의 시맨틱 레이어에 연결되어 Amazon Redshift와 Amazon Aurora에 걸친 고객 360 데이터를 조회하는 구성을 소개한다. 조인, 메트릭 정의, 사용자별 행·열 필터는 에이전트 프롬프트가 아닌 Mosaic 안에 두어, RLS와 OLS가 엔드투엔드로 유지된다.
Denodo와 Amazon Bedrock AgentCore를 활용해 Amazon Aurora, Amazon Redshift, 온프레미스 PostgreSQL을 하나의 고객 360 뷰로 통합하고, 에이전트가 Denodo MCP Server를 통해 조회하는 구성을 소개한다.
Eon은 Amazon Bedrock AgentCore 위에 단일 인증 기반 MCP Gateway를 구축해, AWS, GCP, Azure를 아우르는 조사 도구에 통합적으로 접근할 수 있도록 했다고 밝혔다. 도구별 인증 정보와 로컬 MCP 프로세스를 대체한 결과, 신입 엔지니어가 조사 도구에 도달하기까지 걸리는 시간이 기존 2일에서 약 2분으로 줄었다. Cedar 정책으로 ENFORCE 모드에서 권한을 통제하며, 운영 도구는 읽기 전용으로 두고 쓰기는 PR이나 티켓 댓글 등 영향도가 낮은 작업으로 한정했다.
AWS와 Keyfactor가 X.509 PKI를 활용해 AI 에이전트에 암호학적 ID를 부여하는 참조 아키텍처를 공개했다. 서명된 요청 엔벨로프, 사용자 서명 위임 어서션, RFC 8693 기반의 대상(오디언스) 제한 토큰, 실시간 OCSP 폐기 확인 등 4가지 메커니즘을 결합한다. 인증 기반에는 Keyfactor EJBCA를, LLM 추론에는 Amazon Bedrock과 AWS Strands Agents SDK를 사용하며, 샘플 코드는 GitHub에서 공개되어 있다.
Java Champion 3명이 GitHub Copilot을 실무와 OSS 개발에서 어떻게 활용해 AI 생성물을 믿을 수 있는 소프트웨어로 만들고 있는지 소개했다. Vlad Mihalcea는 Hypersistence Optimizer의 이벤트 이력을 보여주는 웹 앱을 원래 수 주가 걸릴 것으로 예상했던 작업을 2일 만에 구현했다고 밝혔다. 또한 복잡한 작업에는 100만 컨텍스트 윈도우와 Extra High 또는 Max 추론 설정으로 Opus를 사용하고, 보고서 작성 등에는 경량 모델을 구분해 쓰고 있다고 전했다.
GitHub Copilot app에서 작성한 세션은 'Open in VS Code'를 통해 대화, 코드 변경, 작업 컨텍스트를 유지한 채 VS Code에서 계속할 수 있다. 에이전트의 변경 사항은 Source Control 뷰에서 줄 단위로 검토할 수 있으며, 수동 편집과 프로젝트의 로컬 실행·테스트도 같은 worktree에서 진행할 수 있다. 마지막으로 세션에 연결된 pull request에 변경 사항을 push할 수 있다.
ADK의 스트리밍 도구를 사용하면 음성 에이전트는 시간이 오래 걸리는 도구를 실행하는 동안에도 응답을 이어갈 수 있다. 사내 매출 보고서 벤치마크에서 gemini-3.8-live는 블로킹 도구에서 스트리밍 도구로 전환한 결과, 에이전트가 첫 발화를 시작하기까지의 시간이 14.4초에서 1.2초로 단축되었다. 도구는 함수를 async generator로 정의하고 return을 yield로 바꾸기만 하면 NON_BLOCKING으로 처리된다.
애슬리트 전문 스타일리스트 Sydney Bordonaro가 Gemini를 활용한 코디 방법을 4가지 요령으로 소개한다. 옷 사진과 본인 사진을 업로드하면 한 장의 이미지로 합쳐져, 주문 전에 전체 모습을 확인할 수 있다. 신발이나 아우터 등 개별 아이템은 대화를 통해 변경을 지시할 수 있다.
Hugging Face@huggingfaceAI 점수3333Local AI 202: 투기적 디코딩으로 대폭적인 고속화 실현 https://x.com/i/broadcasts/1NGaroZveLVJj
Microsoft AI의 진단 오케스트레이터 MAI-DxO는 NEJM 증례 기록을 이용한 평가에서 최대 85%의 증례를 올바르게 진단했으며, 경험 많은 의사 그룹의 4배 이상의 비율에 이르렀다. 의사보다 비용 대비 효과도 높다고 한다. 평가에는 NEJM의 최신 304개 증례를 단계적인 진단 과정으로 변환한 Sequential Diagnosis Benchmark(SD Bench)가 사용되었으며, 검사에는 가상의 비용이 설정되었다. 다만 보다 일반적인 증상에서의 성능은 추가 검증이 필요하다고 한다.
Google은 AI 에이전트가 LLM의 사후 학습을 자율적으로 반복 실행하는 「autofinetune」을 개발했다고 밝혔다. Tunix, Gemma, Cloud TPU를 Antigravity CLI 및 Gemini Flash 3.7과 통합한 구성이다. SFT의 FunctionGemma 실험에서는 TPU v5e-1에서 약 2시간 동안 20회의 자동 실험을 수행해 함수 호출 생성의 정확도를 높였다. GRPO로 Gemma 3 1B를 학습시킨 실험에서는 40회의 실험을 2~3일에 걸쳐 진행했고, 총 보상이 약 10% 향상됐다.
Google은 Gemini Enterprise Agent Platform에서 Model Armor, Semantic Governance Policies, Agent Anomaly Detection을 사용해 에이전트 실행 시점에 의도와 동작을 검사하는 방법을 설명했다. ADK로 만든 환불 에이전트를 예로 들어, 빌드 시점의 통제로는 막을 수 없는 공격에 대한 대응 방안을 보여준다. 전체 코드는 오픈소스 데모 zero-trust-agents-2에서 공개되어 있다.
Google은 운영 환경의 AI 에이전트를 지속적으로 감시하는 품질 에이전트 「AQuA(Ambient Quality Agent)」를 오픈 빌딩 블록으로 공개했다. Google Cloud에서 Cloud Trace, Cloud Logging, BigQuery로부터 세션을 주기적으로 추출하고, 최대 1,000개 세션을 평가해 실패 패턴을 클러스터링한다. AQuA는 요청 경로 밖에서 동작하며 에이전트에 결과를 다시 써넣지 않는다.
Google은 Gemini 4 Argon에 google/adk-python을 약 11시간 동안 무인으로 최적화하도록 맡겼으며, 그 결과 긴 세션에서 인메모리 세션 준비 시간을 약 40%, 패키지 임포트 시간을 21% 단축했다고 밝혔다. 제안 6건 중 2건은 코드 리뷰를 거쳐 채택됐고, 4건은 불채택됐다. /goal 모드와 .agents/skills를 활용한 절차도 함께 공개했다.
AI 에이전트는 루프에 빠지거나 토큰을 과도하게 소비하고, 그럴듯하지만 틀린 답을 내놓아도 겉보기에는 문제가 없어 보이기 때문에 눈으로 확인하는 방식(바이브 체크)으로는 결함을 잡아내기 어렵다고 지적한다. 대안으로 중요한 사용자 여정(CUJ)을 평가 기준으로 삼고, 시뮬레이션된 사용자로 골든 데이터셋을 만든 뒤 점차 실제 운영 트레이스로 교체하는 방법을 제시한다. 평가는 유닛 테스트, 결정적 메트릭, LLM-as-a-judge, 통합 테스트의 4계층으로 수행하며, judge의 채점은 가능한 한 1~5점 척도 대신 합격/불합격의 이진 판정으로 하기를 권장한다.
Lean Rada가 document.currentScript 속성을 이용해, 인라인 스크립트를 그 자리에서 렌더링 결과로 바꾸는 기법을 소개했다. `$=(...n)=>document.currentScript.replaceWith(...n)` 같은 단축 함수를 정의하면 작은 템플릿 언어처럼 쓸 수 있다.
OpenAI Developers@OpenAIDevsAI 점수4242OpenAI 엔지니어들이 Codex를 활용해 코드베이스를 살펴보고, 손봐야 할 부분을 찾아내며, 쌓여 있던 유지보수 작업을 조금씩 처리하는 방법을 소개한다.
Software maintenance is changing. A few months ago, I had to tell Codex exactly where to look for dead code. Now it can find candidates in Slack, check them against production telemetry, and draft cleanup PRs. Here’s how we do this at OpenAI. https://developers.openai.com/blog/maintaining-software-with-the-gpt-6-family
AWS의 SMGS Operations 팀이 Amazon Bedrock AgentCore를 활용해, 프로덕션에서 운영 중인 여러 AI 에이전트의 품질을 지속적으로 측정하는 평가 프레임워크를 구축했다. AgentCore Evaluations를 핵심으로, Amazon Bedrock Guardrails와 Amazon CloudWatch 등을 결합했다.
Kimi.ai@Kimi_MoonshotAI 점수2525
Apple Machine Learning Research는 MLX와 RDMA over Thunderbolt를 활용해 Mac Studio 4대로 816B 파라미터의 Muse Spark Open을 초당 36토큰 이상으로 생성할 수 있음을 보였다고 밝혔다. M5 Ultra는 M3 Ultra 대비 TTFT가 최대 4.6배, 토큰 생성 속도가 1.6배 빠르다. Qwen 3.8 27B와 Mistral Medium 3.5 128B는 512GB 메모리를 탑재한 Mac Studio 단독으로 동작한다.
Amazon Bedrock AgentCore와 Strands Agents를 활용해 양식 문서의 분류, 추출, 검증, 학습을 최소한의 사람 개입으로 수행하는 에이전트형 IDP 시스템 구축 방법을 설명합니다. 8개의 전문 에이전트가 식별, 학습, 자동화라는 두 개의 그래프 기반 워크플로에서 협업하며, 새로운 문서 형식에 대해서는 추출 지침을 생성해 이후 재사용합니다. 대부분의 경우 20분 미만으로 배포할 수 있으며, 수동 템플릿 설정은 필요하지 않습니다.
Amazon SageMaker JumpStart의 모델을 배포하고, SageMaker Python SDK로 가볍고 재현 가능한 성능 테스트를 실행한 뒤, 종료 후 엔드포인트를 삭제하는 절차를 설명합니다. 스크립트는 모델 탐색 및 배포, 지연 시간과 출력량, 단일 요청 생성 속도 측정, 정리의 세 단계로 구성됩니다. 여러 호환 모델에 사용할 수 있지만, 페이로드 형식, 인스턴스 타입, EULA, 응답 파싱은 모델마다 조정이 필요한 경우가 있습니다.
AI 연구소 Third Moment Research는 GPT-6 Astra, GPT-6.1 Sol, Codex, 사이버 보안용 Daybreak를 활용해 10,000개의 에이전트를 36시간 넘게 가동하고 있다. 며칠 동안 집중적으로 작업하며, 사용할수록 개선되는 에이전트를 만들고 있다.
Amazon Bedrock의 관리형 엔타이틀먼트를 활용하면 서드파티 AI 모델의 AWS Marketplace Private Pricing Offer(MPPO)를 중앙 계정에서 한 번 구독한 뒤, 조직 내 여러 계정에 접근 권한을 배포할 수 있다.
ShipStation Global은 Amazon Bedrock AgentCore 위에 Slack용 AI IT 헬프데스크 에이전트 「Deckhand」를 구축해 채널에 들어오는 문의의 97.5%를 해결했다고 밝혔다. 직원들의 긍정적 평가는 96%다. Deckhand는 지식 베이스를 바탕으로 정형화된 IT 및 사내 질문에 답변하고, 오류 메시지 스크린샷을 판독하며, Jira Service Management 티켓을 생성·업데이트한다.
Geoffrey Huntley는 에이전트가 직접 만든 진단 라이브러리를 쓰지 않는 문제를 해결하기 위해, git diff에서 진단 모듈을 우회하고 observability 모듈을 직접 호출하는 부분을 찾아내는 pre-commit 훅을 작성했다고 밝혔다. 위반이 발견되면 커밋을 실패시키고, 진단 라이브러리 사용을 지시하는 프롬프트를 주입한다. AGENTS.md를 업데이트하는 것만으로는 차이가 남아 드리프트가 생기기 때문에 이 방식을 택했다고 설명했다.
MIT Technology Review는 전문가들의 견해와 함께 오픈 웨이트 모델의 이점과 위험을 정리한 해설 기사를 공개했다. 연구와 기업 활용, 권력 집중 억제 등의 이점이 있는 반면, 재학습으로 안전 대책을 쉽게 해제할 수 있다는 점이 과제로 꼽힌다. 단계적 공개 등 중간적인 대응책도 논의하고 있다.
