SageMaker AI, training sessions 일반 제공 개시… 학습 루프 직접 구현 가능

AWS는 2026년 10월 23일 Amazon SageMaker AI의 서버리스 모델 커스터마이징에서 training session API의 일반 제공(GA)을 시작했다. 사용자의 코드가 자체 환경에서 학습 루프와 보상 함수를 실행하며, 에이전트를 도구나 시뮬레이터에 연결할 수 있다. GPU를 많이 쓰는 처리는 응답을 생성하는 sampler와 그래디언트 계산 및 가중치 업데이트를 담당하는 trainer가 맡는다. 인스턴스 유형 선택, 클러스터 관리, 분산 학습 설정은 필요하지 않다. 특징은 알고리즘이 아니라 컴퓨팅 자원을 추상화한다는 점이다. 모델은 라이브 상태를 유지하는 세션의 GPU에 계속 올라가 있으며, 베이스 모델과 LoRA 어댑터 로딩, 분산 실행, 그래디언트 동기화, 장애 복구, 테넌트 격리는 서비스 측이 처리한다. 클라이언트는 ServiceClient, TrainingClient, SamplingClient 세 종류이며 OpenAI 호환 채팅 완성 엔드포인트도 사용할 수 있다. 설정만 하는 Serverless Model Customization보다 제어 수준이 높고, SageMaker Training Jobs나 HyperPod보다 운영 부담이 적다고 한다. AWS는 멀티턴 강화학습에서는 학습용과 추론용 인프라가 따로 필요해 복잡해지기 쉬우며, 관리형 버전에 대해 독자적인 손실 함수와 보상 설계를 원하는 요구가 있었다는 점을 배경으로 들었다. GRPO의 한 번의 루프는 여러 응답 샘플링, 검증기 등을 통한 채점, forward_backward()에 의한 그래디언트 계산, optim_step()에 의한 가중치 업데이트와 sampler 갱신의 순서로 진행된다. 사용할 수 있는 기법은 SFT, DPO, RLVR, RLAIF, 멀티턴 RL이며, LoRA와 전체 파인튜닝 중에서 선택할 수 있다. 요금은 토큰 처리량에 따라 부과되며, 보상 계산이나 데이터 로딩, 디버깅이 사용자 환경에서 진행되는 동안에는 미터가 멈춘다. 공개된 예시에서는 GSM8K로 GPT-OSS 20B를 GRPO 학습시켰더니 40문항, 10스텝 만에 홀드아웃 정확도가 56%에서 75%로 올랐다. code_rl 레시피에서는 50스텝 학습으로 200문항 테스트 정확도가 40%에서 50.5%가 되었다. 데이터는 선택한 리전의 사용자 S3 버킷에 저장되며, IAM 실행 역할, 자체 KMS 키, VPC 설정을 사용할 수 있다. AWS는 고객의 데이터와 커스터마이징 후 가중치를 다른 모델 학습에 사용하지 않는다고 설명하고 있다. 10월 28일에는 Exowatt의 사례가 공개되었다. 엣지용 알람 트리아지를 위한 Qwen3-1.7B와 클라우드용 에너지 시장 분석을 위한 Qwen3-14B를 서버리스 모델 커스터마이징으로 파인튜닝하여, 프런티어 모델보다 높은 정확도를 최대 49배 낮은 비용으로 달성했다고 한다.

보도를 바탕으로 AI가 작성 · 8일 전 업데이트

1. 10월 28일 01:50 · 보도 1건
   Exowatt, SageMaker로 파인튜닝 모델을 구축해 정확도 향상
   AWS Machine Learning Blog: Exowatt, SageMaker 서버리스 모델 커스터마이징으로 정확도에서 프런티어 모델 능가
2. 10월 23일 03:00 · 보도 2건
   SageMaker AI, training sessions 일반 제공 개시
   AWS Machine Learning Blog: Amazon SageMaker AI, 학습 루프를 직접 구현할 수 있는 training session API 추가