마이크로소프트, 온디바이스 코딩 AI 모델 'MAI-Code-1.1-Flash' 공개

마이크로소프트가 코딩 AI 모델 'MAI-Code-1.1-Flash'의 온디바이스 최적화 버전을 공개했다. 이와 함께 NVIDIA RTX Spark 기반의 'Surface Laptop Ultra' 등 차세대 PC 라인업도 발표했다고 aitimes.com이 보도했다.

최적화 모델은 양자화와 추측 디코딩(speculative decoding)을 적용해 가중치를 평균 약 3비트로 압축했다. 그 결과 모델 크기는 53GB로 줄어 BF16 기반 클라우드 원본 대비 약 80% 감소했다.

성능은 일부 벤치마크에서 원본과 비슷하거나 앞섰다. SWE-bench Verified에서는 로컬 버전이 70.8%를 기록해 클라우드 원본의 72.6%보다 낮았지만, Terminal-Bench 2.1에서는 66.3%로 원본의 62.9%를 웃돌았다.

마이크로소프트는 윈도우에 로컬 AI 에이전트가 안전하게 실행될 수 있도록 로컬 샌드박스 'Microsoft Execution Container'(MXC)를 구축했다. 깃허브 코파일럿은 작업을 로컬 모델로 넘겨 컴퓨팅 비용을 줄일 수 있다.

'Code in Copilot' 기능을 이용하면 외부 클라우드 토큰 소비나 앱 스토어 제한 없이 데스크톱에서 맞춤형 소프트웨어를 만들 수 있다. 사티아 나델라 마이크로소프트 CEO는 X를 통해 "윈도우가 사용자를 대신해 에이전트가 어떤 PC에서든 안전하게 작동하는 새로운 장을 연다"고 밝혔다.

기존 모델은 지난 8월 공개

마이크로소프트는 지난 2025년 8월에도 'MAI-Code-1.1-Flash' 모델을 선보인 바 있다.