힌튼·벤지오 등 34개국 연구자 400여 명, AI 국제 감독기구 촉구
10월 13일 공개 서한에서 프런티어 AI 모델의 에어갭 격리와 사고 등록부 공개를 요구했다.
제프리 힌튼과 요슈아 벤지오를 포함해 34개국에서 400명이 넘는 연구자가 10월 13일, 고도 사이버 공격 능력을 갖춘 AI 시스템을 감독할 국제기구 설립을 촉구하는 공개 서한을 발표했다. 이 소식은 aitimes.com이 보도했다.
서한은 이 기구가 업계 전반에 적용될 격리 기준을 정하고, 주요 보안 사고를 기록하는 등록부를 운영해야 한다고 제안했다. 연구자들은 이 사고 등록부를 장기적으로 공개해야 한다고 밝혔다.
또한 프런티어 AI 모델을 최초 배치하거나 시험할 때 외부 네트워크에서 에어갭으로 격리하고, 독립적인 감독을 받아야 한다고 요구했다. 각국 정부가 공식 감독 체계를 마련하는 동안 AI 개발·시험 기관은 즉시 높은 수준의 격리 기준을 도입하라고 촉구했다.
한국 서명자로는 한양대학교 ERICA의 김범현 교수와 카이스트의 김용대, 손수엘 교수가 이름을 올렸다.
한편 2018년 튜링상을 힌튼, 벤지오와 공동 수상한 얀 르쿤은 이 서한에 서명하지 않았다.
한눈에 보기
공개 서한에 서명한 한국 연구자는 누구인가?
한양대학교 ERICA의 김범현 교수와 카이스트의 김용대, 손수엘 교수가 서명했다.
서한이 제안한 기구의 역할은 무엇인가?
고도 사이버 공격 능력을 갖춘 AI 시스템을 감독하고, 업계 전반의 격리 기준을 정하며, 주요 보안 사고 등록부를 운영하는 것이다.
서한이 요구한 AI 모델 배치·시험 조건은?
최초 배치나 시험 시 외부 네트워크에서 에어갭으로 격리하고 독립적인 감독을 받아야 한다고 요구했다.