앤스로픽, 클로드 불법 증류 차단...추론 토큰 유출 90~99% 감소

앤스로픽이 자사 Claude 모델에 대한 불법 증류(distillation) 공격 방어를 대폭 강화했다고 2026년 10월 12일 발표했다. 회사에 따르면 새 보안 조치 적용 후 공격자가 수집하는 추론 데이터 양은 약 90~99% 감소했으며, 공격자가 추출한 추론 토큰 수는 이전의 10분의 1에서 100분의 1 수준으로 떨어졌다.

앤스로픽은 헌법 분류기(Constitutional Classifiers) 연구를 기반으로 한 2단계 분류 시스템을 구축해 숨겨진 추론 출력과 간접적 추출 시도를 실시간으로 탐지한다고 설명했다. 이 시스템의 오탐률은 0.1% 미만이며 Sonnet 5.5, Opus 5와 5.5, Fable 5와 5.1에 적용된다.

회사는 Fable 5.1과 Opus 5.5에 '보존적 사고(preserved thinking)' 기능을 도입했고, 2026년 8월 31일 이후 생성된 신규 API 계정은 이전 대화의 맥락을 임의로 수정할 수 없도록 제한했다. Sonnet 5.5에서는 요청을 생성한 조직만 해당 추론 기록을 볼 수 있도록 접근을 제한했다.

앤스로픽은 불법 증류 활동과 연관된 수만 개 계정을 차단했으며 일부는 공격 시작 후 2시간 이내에 차단됐다고 밝혔다. 또한 2026년 9월 24일부터 증류 관련 요청을 포함해 특정 안전 조치에 의해 차단된 요청에 대해 요금을 부과하기 시작했다.

앤스로픽은 중국 Z.ai가 GLM-5.3을 개발하면서 Claude의 사이버보안 역량을 증류하려 시도했다고 주장했다. 회사는 증류 공격을 차단하는 과정에서 상당한 매출과 조 단위 토큰 규모의 트래픽을 포기했고, 일부 정당한 개발자들도 API 연동 방식을 수정해야 했다고 전했다.

과거 대규모 가짜 계정 네트워크

앤스로픽은 2026년 2월 보고서에서 한 네트워크가 2만 개가 넘는 가짜 계정을 동시에 운용한 사례를 확인했다고 밝힌 바 있다.