Hugging Face Blog·· 13일 전AI 점수41
AWS Trainium에서 Hub 모델 동작 여부를 확인할 수 있는 Space 공개
Does Your Model Run on AWS Trainium? Look It Up
AI 요약
Hugging Face가 Hub의 인기 모델이 AWS Trainium에서 수정 없이 그대로 동작하는지 확인할 수 있는 Space 「torch-neuronx model support」를 공개했다. 각 모델은 trn2 인스턴스에서 32개 토큰을 생성하는 방식으로 검증되며, 결과와 실행용 run.py 스크립트가 함께 제시된다.
출처: Hugging Face Blog · huggingface.co