클라우드플레어, GLM-5.3 캐시 노출 사고 설명…155건 응답 영향

클라우드플레어가 2026년 10월 26일 Workers AI에서 호스팅하는 GLM-5.3 모델(@cf/zai-org/glm-5.3)의 교차 요청 KV 캐시 노출 사고에 대한 설명과 재발 방지 조치를 공개했다고 기가진이 보도했다. 이 사고로 총 155건의 응답이 영향을 받았으며, 모두 681,280토큰을 초과하는 프롬프트에서 발생했다.

클라우드플레어 조사팀은 해당 요청들이 타이밍과 볼륨 면에서 일반적인 장문 문맥 사용 패턴과 일치해 의도적인 악용 가능성은 낮다고 판단했다. 사고 원인은 설정 오류와 오픈소스 추론 엔진 SGLang의 버그가 결합된 것으로 분석됐다.

GLM-5.3은 1,048,576토큰의 문맥 창으로 배포됐지만, 프리필 KV 캐시 풀은 681,280토큰만 저장할 수 있었다. SGLang이 분리된 프리필/디코드 모드에서 초과 요청을 처리하는 과정의 버그로 인해 거부된 요청이 1토큰 플레이스홀더로 대체되고, 해당 플레이스홀더 KV 캐시가 디코드 노드로 전달된 것으로 나타났다.

클라우드플레어는 모델을 비활성화하고 KV 캐시 풀을 약 204만 토큰을 저장할 수 있도록 조정했으며, 거부된 요청은 폐기하고 전송된 토큰 수를 검증하도록 SGLang을 패치했다. 이 같은 내용은 보안 연구자 가디 에브론이 해커원을 통해 문제를 제보하면서 알려졌다.

운영자 권고 사항

클라우드플레어는 운영자들에게 SGLang v0.5.22 이상으로 업그레이드하고, 지연된 KV 해제(delayed KV release)를 활성화하며, Mooncake 전송 배치를 제한하고, 출력 손상 감지를 활성화할 것을 권고했다.

SGLang 유지관리자가 재직 중인 RadixArk도 이번 사고와 관련해 언급됐다.