앤스로픽, AI 안전 법안 초안 마련…50명 사망 위험 시 출시 차단

앤스로픽이 AI 안전을 다루는 법안 초안을 마련해 미국 의회가 이를 받아들이기를 기대하며 유통하고 있다고 테크크런치가 보도했다. 초안은 AI 모델로 인해 50명 이상이 사망하거나 10억 달러 이상의 재산 피해가 발생할 수 있는 위험이 예측 가능하고 임박한 경우 해당 모델의 출시를 막을 수 있도록 한다.

이 같은 대규모 위험은 생물무기의 제조나 유출, 모델이 개발자의 통제를 벗어나는 경우, 사이버 공격 등 세 가지 상황으로 한정된다. 초안은 또 미국 상무부에 등록된 독립 평가기관이 모델의 재난 가능성을 평가하도록 규정한다. AI 개발사는 평가 결과와 무관한 조건이라면 평가기관에 비용을 지급할 수 있다.

평가기관은 임박한 대규모 위험을 확인한 뒤 72시간 안에 상무부에 통보해야 하며, 상무부는 워싱턴DC 법원에 모델 출시 중단을 요청해야 한다. 초안은 연방 기관이 자체 판단으로 모델 유통을 중단하는 것은 명시적으로 금지한다.

앤스로픽 대변인은 미국 매체 폴리티코에 이 초안을 확인해 줬다. 앤스로픽은 지난 6월부터 연방 및 주 의회 의원들을 대상으로 자사의 '고급 AI 프레임워크' 제안을 홍보해 왔다고 대변인은 설명했다.

주·업계의 움직임

캘리포니아주는 최근 비슷한 기준을 대규모 위험으로 규정한 상원 법안 53호를 통과시켰다. 수개월 전 딥마인드 의장 데미스 하사비스는 AI 규제 기관이 금융업의 감독기구인 핀라를 본떠 자율적으로 운영돼야 한다고 말했고, 최근 젠슨 황 엔비디아 최고경영자는 AI 업계에 새로운 법이 필요하지 않다고 주장했다.