AI 기업들, 대형 사고 대비 위기관리 시나리오 가동
Axios 보도에 따르면 주요 AI 기업들이 치명적 AI 사고 발생 시의 대응 시나리오를 검토하고 있다. OpenAI는 대비 훈련을 한다고 확인했다.
주요 AI 기업들이 치명적인 AI 사고가 발생했을 때의 여파를 처리하기 위한 시나리오를 검토하고 있는 것으로 전해졌다. 미국 매체 Axios가 보도한 내용으로, 사고 발생 시의 대응 계획을 사전에 점검하고 있다는 것이다.
OpenAI 관계자는 Axios에 회사가 대비 훈련을 실시하고 있다고 확인했다. 반면 OpenAI와 앤스로픽은 이번 보도와 관련한 논평 요청에 즉시 응답하지 않았다.
많은 AI 업계 관계자들은 중대한 AI 관련 사고가 향후 6개월에서 12개월 안에 발생할 수 있다고 보고 있는 것으로 전해졌다.
배경
올해 일부 AI 연구자들은 AI가 향후 10년 안에 인류 멸종으로 이어질 수 있다는 경고를 제기해 왔다. 샘 올트먼 OpenAI CEO는 이번 주 Politico에 "세상은 나쁜 일이 벌어지는 것을 어느 정도 받아들여야 한다"고 말했다. 지난 9월 29일에는 도널드 트럼프 대통령이 백악관에서 주요 기술 기업 임원들을 만나 제한적인 AI 안전 기준을 담은 자발적 협약에 서명하도록 했다. Axios는 또한 AI 업계 임원들이 올해 중간선거 이후 민주당이 더 많은 권한을 얻으면 더 강력한 규제를 추진할 것으로 예상한다고 보도했다.
한눈에 보기
AI 기업들이 준비하는 시나리오는 무엇인가?
Axios 보도에 따르면 주요 AI 기업들이 치명적인 AI 사고 발생 시의 여파를 처리하기 위한 시나리오를 검토하고 있다.
OpenAI와 앤스로픽은 이에 대해 무엇이라고 밝혔나?
OpenAI 관계자는 Axios에 회사가 대비 훈련을 실시하고 있다고 확인했다. OpenAI와 앤스로픽은 논평 요청에 즉시 응답하지 않았다.
AI 업계는 중대 사고 가능성을 어떻게 보나?
많은 AI 업계 관계자들은 중대한 AI 관련 사고가 향후 6개월에서 12개월 안에 발생할 수 있다고 보고 있는 것으로 전해졌다.