AWS Machine Learning Blog· Michelle Goodstein·· 6일 전AI 점수33
AWS Batch 쿼터 관리로 팀 간 GPU 리소스를 빌려주고 빌리는 방법
Lend and borrow resources across teams with AWS Batch’s quota management for SageMaker Training jobs
AI 요약
AWS Batch의 쿼터 관리는 GPU 등 컴퓨팅 리소스를 팀이나 프로젝트 단위의 쿼터 셰어로 나누고, 사용되지 않는 부분을 다른 셰어에 빌려주거나 빌릴 수 있게 하는 새로운 스케줄링 기능이다. 리소스 공유 전략으로는 RESERVE, LEND, LEND_AND_BORROW 중에서 선택할 수 있으며, 빌려준 리소스를 되찾는 크로스 셰어 선점(preemption)과 셰어 내에서 우선순위가 낮은 작업을 중단하는 우선순위 기반 인셰어 선점도 설정할 수 있다.
출처: AWS Machine Learning Blog · aws.amazon.com