Windows MLがllama.cppに対応、GGUFモデルを実行可能に
マイクロソフトはWindows MLにllama.cppの実験的サポートを追加し、ONNXに加えてGGUF形式のAIモデルを実行できるようにしたと発表した。
マイクロソフトは2026年10月16日、Windows向けのローカルAI推論フレームワーク「Windows ML」に、llama.cppの実験的サポートを追加したと開発者ブログで発表した。これにより、GGUF形式のAIモデルをWindows ML上で実行できるようになる。forest.watch.impress.co.jpが報じた。
Windows MLはこれまでONNX形式のAIモデルのみを扱ってきた。今回追加されたllama.cpp経由のGGUF実行経路は、既存のONNXモデルの経路とは別に用意される。
マイクロソフトによると、Windows MLに対応するAIツールは比較的少ないコードでGGUFモデルを呼び出せる。ただし、各ツール側が対応を追加する必要がある。ブログでは、ONNX形式の音声認識モデルで音声を文字起こしし、そのテキストをGGUF形式のLLMに渡す例が示されている。
マイクロソフトはllama.cpp本体の改善と性能向上にも直接貢献したとしている。
NVIDIA RTX Spark搭載PCの登場に合わせて
同社のブログは、NVIDIA RTX Sparkを搭載した高性能なWindows PCとして「Surface Laptop Ultra」を挙げている。今回の発表は、NVIDIA RTX Sparkを搭載したマシンの登場に合わせたタイミングで行われた。
よくある質問
Windows MLでGGUFモデルは使えますか？
はい。llama.cppの実験的サポートにより、GGUF形式のモデルを実行できます。従来のONNX形式の経路とは別に提供されます。
GGUFモデルを使うにはツール側の対応が必要ですか？
必要です。マイクロソフトは、Windows ML対応のAIツールが比較的少ないコードでGGUFモデルを呼び出せるとしていますが、対応の追加は各ツールが行う必要があります。