앤스로픽, 수정 신고서에 '재귀적 자기개선' 경고 추가

앤스로픽이 월요일 공개한 수정 S-1/A 신고서의 위험 요인(Risk Factors) 항목에 재귀적 자기개선(recursive self-improvement)에 관한 경고를 추가했다고 기즈모도(gizmodo.com)가 보도했다.

신고서는 미래 모델에 관한 내부 추정과 전망을 근거로, 앤스로픽이 자사의 책임 있는 스케일링 정책(Responsible Scaling Policy)이 규정하는 'AI에 기인한 극적으로 가속된 진전'의 정의에 곧 도달할 수 있다고 밝히고 있다.

앞서 2026년 10월 26일 공개된 신고서 버전에는 AI가 촉발한 가속 속도를 다루는 항목이 있었으나, 이번과 같은 주장은 담기지 않았다.

정책이 규정한 안전 기준

책임 있는 스케일링 정책은 앤스로픽이 전례 없는 수준의 보안을 달성하기 위해 과감하고 경우에 따라 관례를 벗어난 방식까지 검토하겠다고 규정하고 있다.

또한 '모든 것을 감시하는(eyes on everything)' 상태로 불리는 감독 체계를 설명하며, 이 단계에서는 버그 바운티에 더 이상 의존할 필요가 없게 된다고 정책은 밝히고 있다.

재귀적 자기개선이라는 개념은 AI 연구자 일리에저 유드코프스키가 만든 '시드 AI(seed AI)'라는 용어에서 발전한 것이다.