추론이 남기는 데이터와 스토리지 비용 문제

추론이 실행될 때마다 남는 백엔드 데이터의 스토리지 비용은 간과되기 쉽다. WD의 내부 측정에 따르면, 8초짜리 720p 동영상(3.97MB)을 생성했을 때 백엔드에 500MB 이상의 데이터가 남았으며, 이는 출력물의 130배에 달했다. McKinsey는 추론 수요가 2030년까지 연평균 35% 증가해 학습 수요의 22%를 웃돌 것으로 예측했다.