Altman, 직원들에게 AI 안전 3가지 시나리오 설명

OpenAI CEO Sam Altman이 지난주 OpenAI 직원들과의 대화에서 안전한 AI 개발을 위한 세 가지 접근법을 설명했다고 The Information이 2026년 10월 19일 보도했다.

Altman이 언급한 시나리오 중 하나는 한 AI 개발사가 재귀적 자기 개선에 도달한 뒤 그 경제적 힘으로 다른 기업들의 GPU를 파괴해 해당 기업의 AI 개발을 막는 내용이다. Altman은 이 시나리오를 AI 안전 연구자 Eliezer Yudkowsky의 2022년 글을 가리켜 'Eliezer Plan'이라고 불렀다. 그는 이 시나리오를 끔찍하다고 평가하면서도 가능한 모든 선택지를 다루기 위해 포함했다고 말했다.

나머지 두 가지 접근법은 국제원자력기구(IAEA)를 모델로 한 국제 감독과, 주요 AI 연구소들을 하나의 기관으로 통합하는 방안이었다. 후자는 Google DeepMind 공동 창업자 Demis Hassabis의 이름을 따 'Demis Plan'으로 불렸다. Altman은 고도화된 AI가 한 기업에 집중되는 미래를 원하지 않는다고 밝혔다.

Altman은 개발 속도 통제 논의를 'Pacing 2.0'이라고 부른 것으로 전해졌다. 그는 직원들에게 지금은 경쟁사에 뒤처질 여유가 없지만, 내년에는 장기적인 방향을 선택해야 한다고 말했다.

배경

Yudkowsky는 2022년 글에서 AGI를 가장 먼저 개발하는 주체가 다른 개발자들의 위험한 AI 개발을 막기 위해 AI 칩을 파괴하는 등 단호한 조치를 취해야 한다고 주장했다. Hassabis는 이 사안보다 약 10년 전 유럽입자물리연구소(CERN)를 모델로 한 국제 공동 AI 연구 기관을 제안했다.