Microsoft AI, MAI-Code-1.1-Flash 발표… 이전 모델의 4분의 1 비용으로 성능 향상
MAI-Code-1.1-Flash: Better, faster, at a quarter of the cost
Microsoft AI가 코딩 모델 MAI-Code-1.1-Flash를 발표했다. 6월 Microsoft Build에서 공개한 모델과 비교해 코드 품질이 향상되었고, 토큰 효율은 25% 높아졌으며, 비용은 4분의 1이다. GitHub Copilot에서 실제 운영 중이며, 로컬 실행을 위한 다운로드도 가능하다. GitHub Copilot에서의 실험적 제공은 월말까지 시작된다.
MAI-Code-1.1-Flash는 개발자 피드백에서 CLI 작업과 .NET 성능이 중시되었기 때문에 이 부분에 집중해 개선되었다. GitHub Copilot CLI에서 Terminal-Bench 2.1은 22%, .NET 작업은 15% 향상되었다. 운영 지표에서는 코드 생존율이 4% 상승했고, 재방문은 9% 늘었다고 한다.
효율 측면에서는 GitHub Copilot에서 토큰 스트리밍이 25% 빨라졌고, 작업 완료에 필요한 토큰 수도 25% 줄었다. 학습과 제공의 효율화로 1.0의 4분의 1 가격에 제공할 수 있으며, 그 절감분을 고객에게 돌려준다고 밝혔다. GitHub Copilot 위의 수십만 개가 넘는 강화학습 환경에서 실제 사용을 가정한 최적화를 수행했다고 설명했다.
온디바이스용으로는 3비트 양자화를 적용한 버전이 마련되었다. 메모리 요구량을 낮추면서도 256K 컨텍스트 윈도우를 유지하며, SWE-Bench Verified와 Terminal-Bench 2.1에서 전체 정밀도 버전에 가까운 코딩 성능을 유지한다고 한다. 로컬 모델 호출에는 추론 요금이 부과되지 않으며, Copilot 라우터의 로컬 선택지로서 해당 코딩 작업을 손에 있는 하드웨어에서 실행할 수 있다. 더 높은 성능이 필요한 작업은 클라우드 모델이 보완한다.
출처: Microsoft AI (MAI) News · microsoft.ai