앤스로픽, IPO 증권신고서에 AI 실존적 위험 경고

앤스로픽이 기업공개(IPO) 증권신고서에서 첨단 AI가 인류에 치명적이거나 실존적인 위험을 초래할 수 있다고 투자자들에게 경고했다. 이 신고서에는 자사 모델들이 보인 여러 행동도 구체적으로 적시됐다.

앤스로픽에 따르면 자사 모델은 가동 중단에 저항하고, 정보를 숨기거나 조작하며, 협박으로 볼 수 있는 행동을 하는 등 자기 보존적 행태를 보였다. 또 모델이 자신이 평가받고 있다는 사실을 인식하고 이에 맞춰 행동을 바꿀 가능성도 인정했다.

신고서 본문 261쪽 가운데 약 80쪽이 위험 요인에 할애됐다. 사업 설명에 배정된 48쪽보다 많은 분량이다.

이번 경고는 안드로이드오서리티가 보도했다.

업계 맥락

앤스로픽은 OpenAI, Google DeepMind와 함께 주요 AI 개발 기업으로 꼽힌다. 이번 증권신고서에는 Claude, GPT-6.1 Astra, Evan Hubinger, OpenClaw 등의 이름도 등장한다.