AWS, Amazon Bedrock AgentCore 런타임의 차세대 버전 제공 시작
Run agents securely and efficiently with the next generation AgentCore runtime
AWS가 Amazon Bedrock AgentCore runtime의 차세대 버전을 공개했다. 세션 시작 속도는 최대 15배 빨라졌고, 컴퓨팅 리소스는 4배, 메모리 효율은 최대 68% 향상되었다. 각 세션은 Firecracker MicroVM으로 격리된 상태를 유지하면서도 S3 등의 파일 시스템을 마운트할 수 있으며, 북미, 남미, 유럽, 아시아태평양 각 리전에서 이용할 수 있다.
차세대 AgentCore 런타임에서는 세션이 최대 8 vCPU와 32 GB까지 확장되며, 최대 10 GB 컨테이너 이미지를 지원한다. 이미지 크기나 동시 실행 수와 관계없이 기동은 2초 미만이며, 콜드 스타트 대응을 위한 웜 풀이나 사전 프로비저닝된 클러스터는 필요하지 않게 된다.
과금 측면에서는 에이전트가 메모리를 해제한 뒤 몇 분 이내에 런타임이 회수하며, 유휴 상태의 에이전트는 0으로 스케일된다. 여러 턴을 수행하는 에이전트의 경우 세션당 메모리 소비가 최대 68% 줄어든다. 상시 가동형에는 약정형 기준 요금이 있으며, 세션마다 메모리 기준선을 최저 요금으로 과금하고, 수요에 따라 그 4배까지 버스트할 수 있다. 요금은 AWS Lambda MicroVM의 요금 수준을 기준으로 했다고 한다.
데이터 측면에서는 격리 경계를 연산뿐 아니라 데이터까지 확장했다. 에이전트는 Amazon S3 버킷 등을 FUSE 호환 파일 시스템으로 동적으로 마운트해 작업 내용을 저장할 수 있다. 각 세션은 고유한 ID, 액세스 정책, 감사 추적 기록을 갖는다. re:Invent 전까지 세션 라벨이 붙은 자격 증명으로 각 세션을 전용 스토리지 폴더에 연결하는 per-session scoping을 제공할 예정이라고 한다.
고객 사례로, Mission Cloud는 초기 비교에서 추론 요청의 콜드 스타트가 35% 빨라졌고, 헬스 체크 기동이 77% 빨라졌으며, 호출당 런타임 비용이 17% 낮아졌다고 밝혔다. Zuora는 호출당 메모리 사용량이 많은 경우 약 60% 줄었다고 밝혔다. Coinbase, Okta, Deloitte, Caylent, Thomson Reuters 등도 활용 사례를 전했다.
출처: AWS Machine Learning Blog · aws.amazon.com