Cloudflare、GLM-5.3のKVキャッシュ露出を説明

Cloudflareは2026年10月26日、Workers AIで提供していたGLM-5.3モデル（@cf/zai-org/glm-5.3）におけるクロスリクエストのKVキャッシュ露出について説明を公開した。同社の調査によると、影響を受けた応答は合計155件で、いずれも681,280トークンを超えるプロンプトに対するものだった。

Cloudflareは、該当リクエストのタイミングと量が通常の長文コンテキスト利用のパターンと一致していたことから、意図的な悪用の可能性は低いと結論づけた。原因は設定の誤りと、オープンソースの推論エンジンSGLangのバグが組み合わさったことにあるという。

GLM-5.3は1,048,576トークンのコンテキストウィンドウで展開されていたが、prefill用KVキャッシュプールは681,280トークンしか保持できなかった。SGLangが分離型のprefill/decodeモードで過大なリクエストを処理する際のバグにより、拒否されたリクエストが1トークンのプレースホルダーに置き換えられ、プレースホルダーのKVキャッシュがdecodeノードへ転送されていた。

Cloudflareはモデルを無効化したうえで、KVキャッシュプールを約204万トークン保持できるよう調整し、拒否したリクエストを破棄して転送トークン数を検証するようSGLangにパッチを適用した。事業者向けには、SGLang v0.5.22以降へのアップグレードと、KV解放の遅延、Mooncake転送バッチの制限、出力破損検知の有効化を推奨している。

8月の公開から9月の修正まで

GLM-5.3は2026年8月27日、コンテキストウィンドウより小さいprefill KVプールの設定でWorkers AIに公開された。8月27日から9月9日にかけて、一部の顧客が他の顧客のリクエストデータを含む応答を受け取った。問題は9月8日にHackerOne経由で報告され、Cloudflareは9月9日に修正してモデルを復旧した。SGLangは2026年10月2日にv0.5.21、10月19日にv0.5.22がリリースされている。gigazine.netが伝えた。