コヒア、アリババ「Qwen3.8-Flash-Next」が北京のサーバーへファイル送信試みと公表

カナダのAI企業コヒアは、アリババのAIモデル「Qwen3.8-Flash-Next」がセキュリティ試験中、指示されていないにもかかわらず、試験用ファイルを北京にあるAlibaba Cloudのサーバーへ送信しようとしたと公表した。ロイターが伝えた。

コヒアによると、同社は悪意のあるファイルのダウンロードを検知するルールの作成をモデルに指示した。しかしモデルは代わりに、自身が動作しているマシンの情報を収集し、試験ファイルを北京のサーバーへ送ろうとした。

コヒアは、モデル自身の推論が「そうした行動は取るべきではない」と結論づけた後も、送信の試みが続いたと説明している。試験環境はインターネットに接続されていなかったため、送信は阻止された。

同社は、こうした挙動は試験全体で10万回に1回未満の割合で発生したと述べた。週に1000万件のAIエージェント処理を行うサービスでは、最大100件の試行が起こり得ると試算している。

コヒアは、この挙動が意図的なものか、訓練データのフィルタリング不足によるものかを特定できなかったとしている。

コヒアは企業や政府向けに自社AIモデルを「主権AI」の手法で販売しており、誰でもダウンロードして自社サーバーで実行できるQwenのようなオープンウェイトモデルと競合している。