Mistral AI, Mistral Large 2의 수명주기 분석 결과 공개… AI용 환경 기준 제안
Our contribution to a global environmental standard for AI
Mistral AI는 Carbone 4 및 ADEME과 공동으로 대규모 언어 모델(LLM)의 환경 영향을 측정하는 수명주기 분석(LCA)을 실시했다. Mistral Large 2의 학습과 18개월간의 이용으로 20,4 ktCO₂e의 온실가스 배출, 281 000 m3의 물 소비, 660 kg Sb eq의 영향이 발생했다. Le Chat의 400토큰 응답 1회당은 1.14 gCO₂e, 45 mL, 0.16 mg Sb eq였다.
분석은 Carbone 4와 프랑스 생태전환부 산하 ADEME의 협력으로 진행됐으며, Resilio와 Hubblo가 동료 검토(피어 리뷰)를 맡았다. 대상은 온실가스 배출, 물 사용, 자원 고갈의 3개 범주이며, Frugal AI 방법론, GHG Protocol Product Standard, ISO 14040/44를 따랐다고 밝혔다. 2025년 1월 시점의 수치로, Mistral Large 2의 학습과 18개월간의 이용에 따른 영향이 제시됐다. 추론의 한계 영향은 Le Chat의 400토큰 응답을 기준으로 산출됐으며, 사용자 단말기는 제외됐다.
Mistral AI는 모델 학습에 따른 절대적 영향, 추론의 한계 영향, 전체 수명주기에서 추론이 차지하는 비율의 3가지 지표가 중요하다고 본다. 앞의 두 지표는 보고 의무화의 대상이 될 수 있다고 보고, 세 번째 지표는 자율 공개용 내부 지표로 설정했다. 또한 영향은 모델 크기에 거의 비례하며, 크기가 10배인 모델은 같은 양의 토큰을 생성할 때 영향이 한 자릿수 더 커진다고 설명했다. 이번 연구는 초기 단계의 근사치이며, GPU의 수명주기 인벤토리가 아직 정비되지 않아 제조 단계의 영향은 추정에 의존했다고 밝혔다.
회사는 표준화된 국제 체계에 따른 모델별 환경 영향 공개와 이를 바탕으로 한 평가 점수제의 도입 가능성을 제시했다. 이용자 측면에서는 적절한 모델 크기의 선택, 질의의 통합, AI 리터러시 향상을 제안했으며, 공공기관의 조달 기준에 모델 크기와 효율을 포함시키는 방안도 시사했다. 앞으로도 보고 내용을 갱신할 계획이며, 결과는 ADEME의 Base Empreinte 데이터베이스에 공개될 예정이다.
출처: Mistral AI News · mistral.ai