나델라, "AI 모델은 처음부터 손상됐다고 가정해야"

마이크로소프트 CEO 사티아 나델라가 X에 긴 게시글을 올리고 고도로 발전한 AI 모델의 위험과 이에 대응하는 방안에 대한 자신의 견해를 밝혔다.

나델라는 AI가 중첩된 블랙박스처럼 취급되어 그 조언과 행동을 단순히 받아들이거나 거부하는 세상은 더 이상 용납될 수 없다고 주장했다. 그는 모델을 격리하고 관찰할 수 있으며, 변조가 불가능한 사람이 읽을 수 있는 증거를 남기는 보다 투명한 시스템을 요구했다.

나델라는 모델은 처음부터 손상됐다고 가정하고 격리해야 하며, 권한을 부여받은 사람이 작업 도중 언제든 모델을 일시 중지하거나 종료할 수 있어야 한다고 말했다. 그는 더 발전된 모델에는 더 발전된 격리 기술이 필요하며, 이 기술은 표준화되어야 한다고 덧붙였다.

그의 권고안에는 적시 사고 공개, 독립 감사, 검증 가능한 데이터, 격리가 포함됐다. 나델라는 게시글 전반에서 AI를 초지능(super intelligence)이라고 지칭했다.