오픈AI·앤스로픽, 캘리포니아 주지사에 AI 안전 규제 강화 촉구
두 회사는 각각 서한을 보내 규제 강화를 요청했지만, 의무적 킬 스위치 도입에는 서로 다른 입장을 보였다.
오픈AI와 앤스로픽이 캘리포니아 주지사 개빈 뉴섬에게 AI 안전 규제를 강화하자는 내용의 서한을 각각 보냈다고 로이터가 보도했다. 앤스로픽은 15일, 오픈AI는 20일 서한을 전달했다.
앤스로픽은 심각한 위험을 초래하는 것으로 판명된 AI 모델의 공개를 정부가 법원에 요청해 차단할 수 있어야 한다고 밝혔다. 다만 모델이나 시스템 전체를 한 번에 중단시키는 의무적 킬 스위치에는 반대했다. 특정 AI 에이전트의 작동을 중지하는 등 표적화된 개입이 더 효과적이라는 이유에서다.
오픈AI는 AI 기업에 비상 정지 장치를 의무화하고, 매년 독립적인 외부 감사를 받으며, 사이버 보안 기준을 강화할 것을 제안했다. 또 캘리포니아의 AI 투명성 법률인 SB53에 비상 정지 장치와 독립 감사 의무를 추가해 기존 의무를 보강하자고 제안했다.
오픈AI는 안전 프레임워크가 AI 연구·개발을 자동화할 수 있는 첨단 모델의 능력을 명시적으로 다뤄야 한다고 밝혔다.
배경
캘리포니아는 2025년 첨단 AI 개발자에게 안전 프레임워크와 투명성 보고서를 공개하고 중대한 안전 사고를 보고하도록 하는 SB53을 제정했다. 뉴섬 주지사는 2026년 9월 AI 안전 규제 개선안을 마련할 전문가 패널을 구성했다.
한눈에 보기
오픈AI와 앤스로픽은 언제 서한을 보냈나?
앤스로픽은 15일, 오픈AI는 20일 캘리포니아 주지사 개빈 뉴섬에게 서한을 보냈다.
SB53은 무엇인가?
2025년 제정된 캘리포니아의 AI 투명성 법률로, 첨단 AI 개발자에게 안전 프레임워크와 투명성 보고서 공개, 중대 안전 사고 보고를 요구한다.