Amazon Quick에서 HIPAA 대상 환경에 AI를 배포하는 방법

Amazon Quick은 HIPAA 대상 서비스이며, 서명된 AWS BAA에 따라 PHI를 처리하는 워크플로에 사용할 수 있다. 다만 대상 서비스라는 것만으로 HIPAA를 준수하게 되는 것은 아니며, BAA 체결, 데이터 분류, 설정, 거버넌스, 관리적·물리적 안전 조치는 이용자의 책임이다. 본 기사는 브라우저에서 이용하는 웹 버전의 기능에 초점을 맞춘다.

에이전트 구축, 서브 에이전트를 메인 에이전트 루프에 통합해야 할 상황

Anthropic는 Claude Platform에서 여러 서브에이전트를 사용하는 에이전트에 대해, 라우터·플래너·도메인별 서브에이전트를 메인 루프에 통합하는 설계 지침과 마이그레이션 키트를 공개했다. 여러 기업 도입 사례를 비교한 결과, 스킬을 갖춘 단일 에이전트가 품질 면에서 우위였고 작업당 비용과 레이턴시도 대개 더 낮았다고 한다. 다만 컨텍스트 과다로 인한 성능 저하나 병렬 처리가 필요한 경우 등에서는 서브에이전트가 여전히 효과적이라고 밝혔다.

Rescale, Strands Agents와 AI-DLC로 AI 트리아지 에이전트를 구축한 방법

Rescale은 야간 End-to-End 테스트 실패를 분류해 담당 팀에 배정하는 AI 트리아지 에이전트를 AI-DLC를 활용해 구축했다. Amazon Bedrock의 Claude Opus 4.8이 실패를 infrastructure issue, code bug, flaky test, environment problem 중 하나로 분류하고, MCP를 통해 파드 로그를 가져와 엔지니어 검토용 수정 제안 보고서를 생성한다. 문제 정의부터 검증 환경 배포까지 5일이 걸렸으며, 운영 환경에는 수 주 만에 도달했다.

TTS용 Amazon SageMaker AI Auto Scaling 목표값을 추측으로 정하지 않는다

Amazon SageMaker AI에서 TTS 엔드포인트의 Auto Scaling 목표값을 추측이 아닌 실측으로 정하는 방법을 Kokoro-82M 커스텀 컨테이너 배포를 예로 보여준다. SLO를 충족하는 인스턴스당 최대 동시 실행 수 Q_max와 스케일아웃 소요 시간 T_total을 실제 환경에서 측정하고, 이를 바탕으로 스케일아웃·스케일인 임계값과 쿨다운을 산출한다. 스케일링 지표로는 SageMaker AI가 공개하는 ConcurrentRequestsPerModel을 사용한다.

AWS PrivateLink를 이용해 퍼블릭 인터넷을 거치지 않고 Amazon Quick에서 온프레미스 데이터에 연결하는 방법

AWS Machine Learning Blog는 기업 네트워크 내 데이터에 Amazon Quick으로 비공개 연결하는 절차를 해설했다. Direct Connect 또는 Site-to-Site VPN으로 기존 온프레미스 환경과 VPC가 이미 연결되어 있다는 전제에서, VPC 엔드포인트와 AWS PrivateLink를 구성해 트래픽을 AWS 백본 네트워크 안에 유지하는 방식이다.

AWS, 멀티 에이전트의 프로덕션 운영 과제 5가지와 Deep Insight를 통한 해결책

AWS Solutions Architecture 팀이 개발한 멀티 에이전트 시스템 「Deep Insight」를 소재로, 프로덕션 운영에서 직면하는 5가지 과제와 그 해결 방법을 해설한다. Deep Insight는 CSV 데이터와 자연어 프롬프트를 바탕으로 Coordinator, Planner, Supervisor, Coder, Validator, Reporter, Tracker 등 7개의 전문 에이전트가 분석을 수행하여 .docx 형식의 보고서를 생성하는 오픈소스 시스템이다.

Strands Agents로 구축한 적응형 에이전트 지능 프레임워크(AAIF)

AAIF는 Strands Agents로 구축된 프레임워크로, 라우팅을 담당하는 소형 언어 모델(SLM)이 정형화된 작업을 분류하고 복잡한 분석은 Amazon Bedrock의 클라우드 모델에 맡긴다. 정형화된 작업은 Ollama 위에서 돌아가는 로컬 SLM이 처리하며, 클라우드에 의존하지 않고 낮은 지연 시간으로 완료된다. 엣지 기기인 Raspberry Pi(8 GB)부터 풀 클라우드 구성, 하이브리드 구성까지 지원한다.

AWS Trainium에서 torchtitan으로 Qwen3를 학습하는 방법

단일 trn2.48xlarge 인스턴스에서 torchtitan을 사용해 Qwen3를 학습하는 세 가지 구성이 제시됐다. 첫째는 Transformers v5를 모델링 백엔드로 사용하는 방법, 둘째는 torchtitan 네이티브 Qwen3로 전환하는 방법, 셋째는 NKI MoE 커널과 override registry를 결합하는 방법이다. Qwen3-4B-Instruct-2507의 경우 공개 가중치에서 시작하면 1스텝 손실이 6.54, 랜덤 초기화에서는 12.43으로 보고됐다.

AWS Trainium에서 TorchNeuron 프로파일링 (1회): 시스템 수준 분석

AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.

AWS Trainium에서 TorchNeuron 프로파일링 (1회): 시스템 수준 분석

AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.

Amazon SageMaker HyperPod에서 GPT-OSS-20B를 다국어 추론용으로 파인튜닝

AWS는 Amazon SageMaker HyperPod에서 SFT와 GRPO를 활용해 GPT-OSS-20B를 다국어 추론용으로 파인튜닝하는 절차를 공개했다. 베이스 모델은 50개 테스트에서 지정 언어로 추론한 비율이 22%에 그쳤으며, 영어는 100%였던 반면 프랑스어·스페인어·이탈리아어는 0%였다. AWS는 개선의 대부분은 SFT가 담당했고, GRPO는 개선 여지가 있는 경우에 추가 효과를 보였다고 밝혔다.

AWS Agent Registry에서 도구를 실행할 때 검색하는 방법

AWS Agent Registry를 활용해 오케스트레이터가 MCP 서버와 A2A 에이전트를 실행 시점에 검색하고 사용하는 절차를 AWS 블로그가 설명했다. Discover, Instantiate, Execute의 3단계로 동작하며, 검색 결과에는 호출용 인증 정보가 포함되지 않는다. 샘플은 Python으로 작성되었으며, 주문 관리 MCP 서버와 두 개의 A2A 에이전트를 사용한다.

Model Explorer에 맞춤형 엣지 컴파일러용 시각적 그래프 디버깅 도입

Arm은 Google AI Edge Model Explorer에 자체 어댑터를 추가해 TOSA, VGF, PTE 형식의 엣지 모델 그래프를 시각화하고 검증했다. VGF로 변환한 NSS 모델에서는 ExecuTorch Arm 백엔드 변경으로 생긴 불필요한 TRANSPOSE 연산자를 찾아냈고, Ultralytics YOLO 모델에서는 CPU와 NPU 그래프를 분할 화면으로 비교해 NPU로의 연산 위임 상황을 확인했다. FVP 시뮬레이터의 사이클 단위 트레이스를 겹쳐 본 결과, 단일 TRANSPOSE 노드가 주요 지연 병목인 것으로 드러났다.

AtScale와 Amazon Bedrock AgentCore로 AWS에 AI 에이전트용 시맨틱 레이어를 구축한다

AWS 블로그는 AtScale의 시맨틱 레이어와 Amazon Bedrock AgentCore 위의 Strands 에이전트를 결합해 AWS에서 AI 에이전트용 시맨틱 레이어를 구축하는 절차를 설명한다.

Strategy Mosaic과 Amazon Bedrock AgentCore로 AI 에이전트용 시맨틱 레이어 구축

Amazon Bedrock AgentCore 위의 Strands 에이전트가 MCP 엔드포인트를 통해 Strategy Mosaic의 시맨틱 레이어에 연결되어 Amazon Redshift와 Amazon Aurora에 걸친 고객 360 데이터를 조회하는 구성을 소개한다. 조인, 메트릭 정의, 사용자별 행·열 필터는 에이전트 프롬프트가 아닌 Mosaic 안에 두어, RLS와 OLS가 엔드투엔드로 유지된다.

Denodo와 Amazon Bedrock AgentCore로 AWS에 에이전트 AI용 시맨틱 레이어 구축

Denodo와 Amazon Bedrock AgentCore를 활용해 Amazon Aurora, Amazon Redshift, 온프레미스 PostgreSQL을 하나의 고객 360 뷰로 통합하고, 에이전트가 Denodo MCP Server를 통해 조회하는 구성을 소개한다.

Eon, Amazon Bedrock AgentCore의 MCP Gateway로 멀티클라우드 조사 기반을 구축한 방법

Eon은 Amazon Bedrock AgentCore 위에 단일 인증 기반 MCP Gateway를 구축해, AWS, GCP, Azure를 아우르는 조사 도구에 통합적으로 접근할 수 있도록 했다고 밝혔다. 도구별 인증 정보와 로컬 MCP 프로세스를 대체한 결과, 신입 엔지니어가 조사 도구에 도달하기까지 걸리는 시간이 기존 2일에서 약 2분으로 줄었다. Cedar 정책으로 ENFORCE 모드에서 권한을 통제하며, 운영 도구는 읽기 전용으로 두고 쓰기는 PR이나 티켓 댓글 등 영향도가 낮은 작업으로 한정했다.

AWS 기반 X.509 PKI로 AI 에이전트 ID 보호, Keyfactor EJBCA 활용 참조 아키텍처

AWS와 Keyfactor가 X.509 PKI를 활용해 AI 에이전트에 암호학적 ID를 부여하는 참조 아키텍처를 공개했다. 서명된 요청 엔벨로프, 사용자 서명 위임 어서션, RFC 8693 기반의 대상(오디언스) 제한 토큰, 실시간 OCSP 폐기 확인 등 4가지 메커니즘을 결합한다. 인증 기반에는 Keyfactor EJBCA를, LLM 추론에는 Amazon Bedrock과 AWS Strands Agents SDK를 사용하며, 샘플 코드는 GitHub에서 공개되어 있다.

Java Champion 3명이 GitHub Copilot으로 생산성을 높이는 방법

Java Champion 3명이 GitHub Copilot을 실무와 OSS 개발에서 어떻게 활용해 AI 생성물을 믿을 수 있는 소프트웨어로 만들고 있는지 소개했다. Vlad Mihalcea는 Hypersistence Optimizer의 이벤트 이력을 보여주는 웹 앱을 원래 수 주가 걸릴 것으로 예상했던 작업을 2일 만에 구현했다고 밝혔다. 또한 복잡한 작업에는 100만 컨텍스트 윈도우와 Extra High 또는 Max 추론 설정으로 Opus를 사용하고, 보고서 작성 등에는 경량 모델을 구분해 쓰고 있다고 전했다.

구글, TorchTPU를 TorchTitan에 통합한 TorchTitan TPU 공개… PyTorch 모델의 TPU 최적화 기법도 해설

구글은 Meta의 TorchTitan을 포크한 TorchTitan TPU를 공개했다. TorchTPU의 네이티브 백엔드(torch.device("tpu")) 위에서 PyTorch 모델 정의를 그대로 유지한 채 Cloud TPU에서 대규모 학습을 수행할 수 있다. Llama 3 405B는 128~1,024칩에서 약 57% MFU를, Qwen3 235B는 1,024칩 단일 슬라이스에서 32.42% MFU를 기록했다.

Google, 엣지 모델 기술 레이어 LiteRT Tensor API 공개

Google은 LiteRT 스택에 C++로 모델을 연산 단위로 구성하는 경량 기술 레이어 'LiteRT Tensor API'를 공개했다. 같은 그래프를 CPU, GPU(ML Drift), NPU에서 실행할 수 있으며, XNNPACK을 거치면 모델 파일 없이도 CPU에서 동작한다. SAM 2의 브라우저 구현에서는 코딩 에이전트를 활용해 10fps 미만에서 30fps 이상으로 개선했다.

ADK와 Gemini 3.8 Live로 처리 중에도 무음이 되지 않는 음성 에이전트를 구축하는 방법

ADK의 스트리밍 도구를 사용하면 음성 에이전트는 시간이 오래 걸리는 도구를 실행하는 동안에도 응답을 이어갈 수 있다. 사내 매출 보고서 벤치마크에서 gemini-3.8-live는 블로킹 도구에서 스트리밍 도구로 전환한 결과, 에이전트가 첫 발화를 시작하기까지의 시간이 14.4초에서 1.2초로 단축되었다. 도구는 함수를 async generator로 정의하고 return을 yield로 바꾸기만 하면 NON_BLOCKING으로 처리된다.

Deepgram, AWS Trainium에서 음성 AI 추론을 대규모로 최적화한 방법

Deepgram은 음성 인식 모델 Nova-3를 AWS Trainium2로 옮겨, 오프라인 배치 처리에서 기존 컴퓨팅 기반보다 달러당 처리 음성량을 11~70% 늘렸다고 밝혔다. 최종 구성에서는 단일 Amazon EC2 trn2.3xlarge 인스턴스에서 8개의 모델 레플리카를 동작시킨다. 커널 튜닝에서는 FFN 레이어가 배치 크기 96에서 레퍼런스 커널 대비 지연 시간을 2.0배 줄였고, depthwise conv1d는 1.5배 빨라졌다.

OpenAI Developers@OpenAIDevsAI 점수1313

Codex로 무엇을 만들어 왔나요?

Gemini로 코디를 짜는 4가지 요령

애슬리트 전문 스타일리스트 Sydney Bordonaro가 Gemini를 활용한 코디 방법을 4가지 요령으로 소개한다. 옷 사진과 본인 사진을 업로드하면 한 장의 이미지로 합쳐져, 주문 전에 전체 모습을 확인할 수 있다. 신발이나 아우터 등 개별 아이템은 대화를 통해 변경을 지시할 수 있다.

Hugging Face@huggingfaceAI 점수3333

Local AI 202: 투기적 디코딩으로 대폭적인 고속화 실현 https://x.com/i/broadcasts/1NGaroZveLVJj

AI로 스마트TV의 광고와 불필요한 앱을 제거하는 움직임 확대, Claude Code 등 활용

개발자와 바이브 코딩(vibe coding)을 하는 사람들이 Claude Code 같은 AI 에이전트로 스마트 TV의 광고와 불필요한 앱을 제거한 사례를 공유하고 있다. 「dumbtv」나 「cleanyourtv」 같은 GitHub 상의 해결책도 등장했으나, 모두 개발 중인 단계이며 실패 사례도 보고되고 있다.

Tunix와 TPU로 진행하는 자율형 LLM 사후 학습

Google은 AI 에이전트가 LLM의 사후 학습을 자율적으로 반복 실행하는 「autofinetune」을 개발했다고 밝혔다. Tunix, Gemma, Cloud TPU를 Antigravity CLI 및 Gemini Flash 3.7과 통합한 구성이다. SFT의 FunctionGemma 실험에서는 TPU v5e-1에서 약 2시간 동안 20회의 자동 실험을 수행해 함수 호출 생성의 정확도를 높였다. GRPO로 Gemma 3 1B를 학습시킨 실험에서는 40회의 실험을 2~3일에 걸쳐 진행했고, 총 보상이 약 10% 향상됐다.

Google, Gemma 4 기반 임베딩 모델 EmbeddingGemma 2 공개… 5종 데이터를 통합 공간에

Google은 Gemma 4를 기반으로 한 Apache 2.0 라이선스 오픈 모델 EmbeddingGemma 2를 공개했다. 텍스트, 코드, 이미지, 동영상, 오디오를 768차원 공통 벡터 공간으로 변환하며, 270M부터 740M 파라미터까지 필요한 인코더만 불러올 수 있다. MTEB (Code)에서는 EmbeddingGemma 1보다 14% 높은 점수를 기록했다.

AQuA, 운영 중인 에이전트 품질을 24시간 모니터링하고 실패 원인을 진단하는 Google의 앰비언트 품질 에이전트

Google은 운영 환경의 AI 에이전트를 지속적으로 감시하는 품질 에이전트 「AQuA(Ambient Quality Agent)」를 오픈 빌딩 블록으로 공개했다. Google Cloud에서 Cloud Trace, Cloud Logging, BigQuery로부터 세션을 주기적으로 추출하고, 최대 1,000개 세션을 평가해 실패 패턴을 클러스터링한다. AQuA는 요청 경로 밖에서 동작하며 에이전트에 결과를 다시 써넣지 않는다.

Gemini 4 Argon, 20만 행 규모 Python 코드베이스를 하룻밤 사이 최적화 ADK 개선 2건 채택

Google은 Gemini 4 Argon에 google/adk-python을 약 11시간 동안 무인으로 최적화하도록 맡겼으며, 그 결과 긴 세션에서 인메모리 세션 준비 시간을 약 40%, 패키지 임포트 시간을 21% 단축했다고 밝혔다. 제안 6건 중 2건은 코드 리뷰를 거쳐 채택됐고, 4건은 불채택됐다. /goal 모드와 .agents/skills를 활용한 절차도 함께 공개했다.

Google, 로보틱스용 Gemini 4 Argon 공개… ERQA에서 87%

Google은 Gemini 4 Argon을 공개했다고 밝혔다. 물리적 이해, 코드 생성, 시각·의미 추론이 향상되었으며, ERQA 벤치마크에서 추론만으로 87%를 기록해 다른 프런티어 모델을 앞질렀다고 한다. 로봇 제어, Real2Sim, 물리 이해, 연구·자기 개선 등 4개 분야의 대표적인 프롬프트도 소개했다. Google AI Studio와 Gemini API 등에서 이용할 수 있다.

AI 에이전트 평가를 「바이브 체크」에서 벗어나게 하는 방법

AI 에이전트는 루프에 빠지거나 토큰을 과도하게 소비하고, 그럴듯하지만 틀린 답을 내놓아도 겉보기에는 문제가 없어 보이기 때문에 눈으로 확인하는 방식(바이브 체크)으로는 결함을 잡아내기 어렵다고 지적한다. 대안으로 중요한 사용자 여정(CUJ)을 평가 기준으로 삼고, 시뮬레이션된 사용자로 골든 데이터셋을 만든 뒤 점차 실제 운영 트레이스로 교체하는 방법을 제시한다. 평가는 유닛 테스트, 결정적 메트릭, LLM-as-a-judge, 통합 테스트의 4계층으로 수행하며, judge의 채점은 가능한 한 1~5점 척도 대신 합격/불합격의 이진 판정으로 하기를 권장한다.

document.currentScript를 이용한 인라인 렌더링

Lean Rada가 document.currentScript 속성을 이용해, 인라인 스크립트를 그 자리에서 렌더링 결과로 바꾸는 기법을 소개했다. `$=(...n)=>document.currentScript.replaceWith(...n)` 같은 단축 함수를 정의하면 작은 템플릿 언어처럼 쓸 수 있다.

OpenAI Developers@OpenAIDevsAI 점수4242

OpenAI 엔지니어들이 Codex를 활용해 코드베이스를 살펴보고, 손봐야 할 부분을 찾아내며, 쌓여 있던 유지보수 작업을 조금씩 처리하는 방법을 소개한다.

Amazon Bedrock AgentCore로 구축한, AI 에이전트의 신뢰성을 뒷받침하는 프로덕션 운영용 평가 프레임워크

AWS의 SMGS Operations 팀이 Amazon Bedrock AgentCore를 활용해, 프로덕션에서 운영 중인 여러 AI 에이전트의 품질을 지속적으로 측정하는 평가 프레임워크를 구축했다. AgentCore Evaluations를 핵심으로, Amazon Bedrock Guardrails와 Amazon CloudWatch 등을 결합했다.

sparqlite, Rust로 구현한 SQLite용 SPARQL 1.1 확장

Simon Willison은 Rust로 작성된 SQLite 로더블 확장 sparqlite를 소개했다. SQLite 안에서 SPARQL 1.1 쿼리와 업데이트를 네이티브로 실행할 수 있으며, SQL로 변환하는 방식과 비교했을 때 건수 조회는 3.5배, 전체 결과를 반환하는 경우는 2.8배 빠르다고 한다. 적용 가능한 W3C 평가 테스트 639건 중 636건을 통과했으며, 개발은 Claude Code for web의 Ultracode 모드로 12시간 이상에 걸쳐 진행되었다.

Benefit Street Partners, Codex로 투자위원회 질문 답변 속도 높여

신용 전문 투자운용사 Benefit Street Partners의 Anant Kumar는 Codex로 코드 리뷰를 진행하고, BDC 평가액 비교 트래커와 대출 계약서 분석 도구를 직접 만들었다. 트래커 초기 버전은 약 하루, 전체 개발은 합계 약 10~12시간이 걸렸다. 계약서의 첫 분석 결과는 약 20분 만에 나오며, 이후 사람이 1시간 이상 확인한다. Kumar에 따르면 투자위원회의 추가 질문에 대한 답변은 회의 중에 끝나는 경우도 많다.

Google Gemini@GeminiAppAI 점수3434

Gemini 4 Argon을 활용해 3D 프린트 액세서리로 가구를 업그레이드합니다. 대략적인 치수와 함께 사진을 업로드하고, Gemini의 Canvas에서 인터랙티브 3D CAD 스튜디오를 구축합니다. 스타일을 탐색하고 슬라이더를 실시간으로 조정하며, 출력 가능한 STL을 내보내 공간을 업그레이드할 수 있습니다.

Kimi.ai@Kimi_MoonshotAI 점수2525

Kimi Work로 워크플로를 자동화하는 방법 - 튜토리얼 #3 아래는 본문의 번역입니다. Kimi Work에서 일상 업무 워크플로에 Kimi를 어떻게 통합할 수 있는지 확인해 보세요. - 로컬 프로젝트, 브라우저, 컴퓨터를 넘나들며 작업할 수 있습니다. - Swarm으로 복잡한 작업을 나누고, Goal 모드로 반복 실행할 수 있습니다. - Plugins, AGENTS.md, Dashboard로 Kimi의 동작을 맞춤 설정할 수 있습니다. 다음에 다뤄 줬으면 하는 내용이 있다면 댓글로 알려 주세요.