마이크로소프트, AI 안전 규제 강화 촉구…'비상 브레이크' 도입 제안
브래드 스미스 마이크로소프트 사장이 BBC 인터뷰에서 AI 모델 사전 심사와 침해 통보 의무화, 긴급 정지 장치 도입을 요구했다.
마이크로소프트의 브래드 스미스 사장이 AI 안전을 위한 글로벌 규제 강화를 공개적으로 촉구했다. 그는 BBC와의 인터뷰에서 기업이 자사 시스템이 위험한 AI 에이전트에 의해 침해당했을 때 피해자에게 법적으로 통보해야 하며, 안전 사고도 보고해야 한다고 밝혔다.
스미스 사장은 또 신규 AI 모델을 출시하기 전에 독립적인 평가자가 검토해야 하는 시점을 정하는 규칙이 필요하다고 말했다. 아울러 통제를 벗어난 AI 시스템을 멈출 수 있는 '비상 브레이크' 또는 킬 스위치 도입도 제안했다.
이 같은 발언은 사티아 나델라 마이크로소프트 CEO가 X에 올린 게시물과 같은 맥락을 이룬다. 나델라는 AI 모델이 작업 도중 인간이 일시 정지하거나 종료할 수 있는 비상 브레이크를 갖춰야 한다고 밝혔다.
영국이 기준 마련의 출발점 될 수도
스미스 사장은 글로벌 AI 안전 표준을 개발하는 출발점으로 영국이 적합한 장소가 될 수 있다고 언급하며 영국의 AI Security Institute를 지목했다. 이번 발언은 기즈모도가 보도했다.
한편 도널드 트럼프 미국 대통령은 AI 업계의 자율 규제를 주로 주장해 왔으며, 규제가 과도하면 중국과의 AI 경쟁에서 미국이 불리해질 수 있다고 주장해 왔다. 지난 9월 29일 백악관 회의에서는 구글, 메타, 앤스로픽, OpenAI, xAI, Nvidia 경영진이 제한적인 AI 안전 기준을 담은 자발적 협약에 서명했으며, 트럼프 대통령은 이를 '도덕적 구속력'이 있다고 표현했다.
한눈에 보기
마이크로소프트가 제안한 AI 안전 규제는 무엇인가?
브래드 스미스 사장은 침해 발생 시 피해자 통보 의무화, 안전 사고 보고, 신규 모델 출시 전 독립 평가자 검토 기준 마련, 그리고 위험한 AI 시스템을 멈추는 '비상 브레이크' 도입을 촉구했다.
비상 브레이크는 무엇인가?
AI 모델이 작업 도중 통제를 벗어날 경우 인간이 일시 정지하거나 종료할 수 있도록 하는 장치다. 사티아 나델라 CEO도 X 게시물에서 이를 지지했다.
글로벌 AI 안전 표준은 어디서 시작될 수 있나?
스미스 사장은 영국이 적합한 출발점이 될 수 있다며 영국의 AI Security Institute를 지목했다.