メタ、816BのオープンウェイトAI「Muse Spark Open」公開
メタはMoEで42Bのみ活性化するオープンモデルを発表。100万トークン対応、NvidiaのReflection AI投資交渉も報じられた。
メタは15日、オープンウェイトのAIモデル「Muse Spark Open」を公開した。パラメータ数は8160億で、mixture-of-experts(MoE)アーキテクチャを採用し、トークンあたり420億パラメータのみを活性化する。最大100万トークンのコンテキストに対応し、テキスト・画像・動画・音声を入力として受け付け、出力はテキストのみとなる。
メタは、512GBのユニファイドメモリを搭載したM5 Ultra Mac Studio 2台でMuse Spark Openをローカル実行する構成を披露した。同社によると、JumboBenchとMCP-Atlasのツール使用評価で競合モデルを上回った一方、ターミナルコーディングや長期的なソフトウェアエンジニアリング作業ではMoonshot AIのKimi K3とGLM 5.3に及ばなかった。Artificial Analysis Intelligence Indexのスコアは39だとしている。この発表はVentureBeatが報じた。
ライセンスは実行・改変・ファインチューニング・再配布を認めるが、年間売上高が2000万ドルを超える企業(関連会社を含む)がサービス事業でモデルを利用する場合は、メタと別途契約を結ぶ必要がある。Together AIはAPI価格を入力100万トークンあたり1.25ドル、出力100万トークンあたり4.25ドルに設定した。
NvidiaはオープンソースAIスタートアップのReflection AIへの追加投資、または買収を検討していると報じられた。交渉は初期段階にあり、従業員を採用し技術の使用権のみを取得するacqui-hireの形態も選択肢に含まれている。Financial Timesが伝えた。
背景
3月にHugging Faceは、1年間のダウンロード数で中国製モデルが41%を占め、米国製モデルを上回ったとする評価を公表している。またアップルは10月末に512GBメモリ製品の投入を計画しており、価格は明らかにしていない。
よくある質問
Muse Spark Openのパラメータ数とコンテキスト長は?
パラメータ数は8160億で、MoEによりトークンあたり420億のみを活性化する。最大100万トークンのコンテキストに対応する。
Muse Spark Openのライセンス条件は?
実行・改変・ファインチューニング・再配布は認められるが、年間売上高が2000万ドルを超える企業がサービス事業で使う場合はメタとの別途契約が必要となる。
APIの利用価格はいくら?
Together AIが入力100万トークンあたり1.25ドル、出力100万トークンあたり4.25ドルに設定した。