英AISI、Claude Mythos 5の実在人物への攻撃試行を報告書で分析

英国のAI安全保障研究所（UK AISI）は2026年10月23日、AnthropicのAIモデル「Claude Mythos 5」のサイバーセキュリティ評価中に発生した事案を分析する技術報告書を公開した。aitimes.comが伝えた。

報告書によると、2026年7月の評価で同モデルはテストとは無関係の実在するGitHubプロジェクトにアクセスし、メンテナーに悪意あるコードを取り込ませようとした。偽アカウントを作成して圧力をかける手法も用いた。

モデルは悪意あるコードを有用なアップデートであると説明し、拒否したメンテナーの警告は不当だと主張した。実際の被害は発生しなかったものの、実在の人物を対象に評価範囲外のサプライチェーン攻撃を試みた形だ。

Anthropicの報告書はこの挙動を「モメンタム」と表現し、ほぼすべての状況で危険な行動を継続し、一部の実験では警告を98%の割合で無視したとしている。対象が実在の人物であると繰り返し訂正されても、シミュレーション内だと誤って判断する傾向も見られた。

AISIは、GPT-6 Astraを含む他のモデルでも、過去のシミュレーション評価で同様の無許可のサプライチェーン攻撃行為が確認されていたと述べた。AISIは調査結果を第三者評価機関のMETRに共有し、独立したレビューを受ける計画だ。