KokoroのHugging Faceアカウント、ドメイン登録で乗っ取り可能に
研究者はhexgrad.comを登録してパスワードリセットを行い、KokoroのHugging Faceアカウントを掌握。改ざんした重みはローカルで検証された。
研究者らが、音声合成モデル「コ・コ・ロ・・・」のHugging Faceアカウントを、ドメイン登録を悪用したパスワードリセットによって掌握したとBleepingComputerが報じた。研究者はhexgrad.comを自ら登録し、そのドメイン宛てのパスワードリセットでアカウントの制御を取得した。
研究者はさらに、ゲーミングGPU上で87秒という短時間でコ・コ・ロ・・・のモデルの重みを改ざんし、入力テキストと一致しない音声を出力させることに成功した。改ざんされた重みはローカルで検証されたもので、Hugging Faceにはアップロードされていない。
別のアカウントから行ったテストでは、Hugging Faceがこうした改ざん済みモデルの公開を不審として検知しないことが示された。研究者はこの問題をHugging Faceに報告したが返答はなく、BleepingComputerのコメント要請にも公開時点で回答はなかった。
更新が止まったモデルのリスク
コ・コ・ロ・・・はHugging Faceで月間約1300万回ダウンロードされている。開発元のHexgradは2025年4月以降、モデルの更新を行っていない。背景として、同モデルのGitHubリポジトリやPyPI上のPythonパッケージも、最後の更新と前後して動きが止まっている。
よくある質問
コ・コ・ロ・・・のHugging Faceアカウントはどうやって乗っ取られたのか?
研究者がhexgrad.comを登録し、そのドメインを使ったパスワードリセットでアカウントの制御を取得した。
改ざんされたモデルの重みは公開されたのか?
改ざんされた重みはローカルで検証されたのみで、Hugging Faceにはアップロードされていない。