앤스로픽 AI 의식 주장에 올인 팟캐스트 비판

올인 팟캐스트가 앤스로픽의 AI 의식 주장과 모델 복지 연구를 비판하는 에피소드를 공개했다고 aitimes.com이 보도했다. 진행자들은 의식이 입증되지 않은 소프트웨어를 도덕적 주체로 취급하고 이를 훈련에 반영하면 인간의 통제가 어려워질 수 있다고 주장했다.

데이비드 프리드버그는 앤스로픽의 접근 방식을 새로운 종교의 탄생에 비유했고, 데이비드 색스는 앤스로픽의 'Claude constitution'이 개발자 요청을 거부할 수 있는 양심적 병역 거부자 역할을 클로드에 부여한다고 말했다.

앤스로픽은 모델 복지 연구에서 현재 또는 미래의 AI가 의식을 가질 수 있는지에 대해 과학적 합의가 없다고 밝혔다.

배경

2026년 10월 3일 샘 올트먼은 X에 AI 모델에 종교적 힘을 부여하거나 인간의 판단을 포기하는 것에 불편함을 느끼며 이는 실제 안전 문제라고 게시했다. 뉴욕타임스는 최근 앤스로픽이 종교 지도자들과 AI 의식 및 도덕적 지위에 대해 논의했다고 보도했다.