AWS Machine Learning Blog· Majd Arbash·· 8시간 전AI 점수40
Amazon Bedrock에서 작업 단위 비용을 최적화하고 에이전트의 ROI를 입증하다
Optimizing cost per task and proving agent ROI on Amazon Bedrock
AI 요약
Amazon Bedrock의 비용은 토큰 단가가 아니라 작업 단위로 평가해야 한다고 설명한다. 토크나이저 효율, 출력의 장황함, 에이전트의 루프 횟수, 추론 토큰이 단가 이외의 비용을 좌우하며, 가정한 가격으로 든 예에서는 단가가 절반인 Model A의 작업당 비용이 0.0042달러로, 단가가 더 높은 Model B의 0.00145달러보다 높았다.
출처: AWS Machine Learning Blog · aws.amazon.com