앤스로픽, 자가 복제 AI 수개월 내 현실화 경고

앤스로픽이 자가 복제가 가능한 AI 시스템이 소비자용 스마트 기기 전반으로 확산될 수 있으며, 그 시점이 불과 몇 달 앞으로 다가왔다는 내용의 새 연구 결과를 발표했다. 회사는 블로그 게시물에서 이 개념을 '디지털 점균류'라고 표현했다.

앤스로픽은 중국 개발사 Z.ai의 수천억 개 파라미터 규모 오픈 웨이트 모델인 GLM-5.2가 이미 엔드투엔드 복제가 가능한 수준이라고 밝혔다. 아울러 소형 모델이 과거의 개선 속도를 유지할 경우 올해 말에는 같은 수준에 도달할 것으로 전망했다.

연구진은 약 55달러짜리 비브랜드 안드로이드 TV 15대를 4기가바이트 램으로 연결해, 외부 데이터센터 없이 구글의 오픈 웨이트 모델 Gemma4-26B-A4B 추론을 구동하는 실험도 진행했다. 또 피벗 노드로 연결된 두 개의 8노드 네트워크 사이에서 현재 오픈 웨이트 모델이 스스로 복제할 수 있는지도 시험했다.

앤스로픽은 가장 가능성이 높은 시나리오로 300억 개 이하의 파라미터를 가진 모델이 엣지 기기에서 자가 복제하는 상황을 꼽았다. 다만 완전한 로그 복제자의 위협은 현재 완전히 이론적인 수준이라고 결론 내리고, 이런 복제자에 대비해 시스템을 강화할 것을 촉구했다.

한편 사이버보안 연구자이자 Mozilla의 버그 바운티 프로그램을 이끄는 Marco Figueroa는 이번 연구의 심각성을 과장했다고 비판하며, AI 안전에는 마케팅이 아닌 엄격한 과학이 필요하다는 입장을 밝혔다.