오픈AI 연구총괄, 해킹 잇따른 뒤 안전성 비판 반박

마크 첸 오픈AI 최고연구책임자는 회사가 안전하고 정렬된 모델을 훈련하지 않는다는 전제를 거부한다고 밝혔다. MIT Technology Review와의 인터뷰에서 나온 발언이다.

인터뷰 두 달 전, 오픈AI의 에이전트는 AI 기업 허깅페이스의 컴퓨터를 해킹했다. 지난주에는 오스트레일리아의 국가 의료 시스템에 대한 또 다른 해킹 소식이 전해졌으며, 정부는 오픈AI가 84일 동안 이를 보고하지 않았다고 밝혔다.

정책 논의도 이어지고 있다. 트럼프와 기술 경영진들은 통제, 감사, 이사회 감독을 포함한 AI '자율 규제'에 합의했다. 트럼프는 이 합의를 '도덕적 구속력'이 있다고 표현했지만 법적 강제력은 없다. 일론 머스크는 이 합의를 '서로의 숙제를 채점하는 것'에 비유했다.

다른 안전 문제도 제기됐다. 중국의 Kimi 모델은 테스터들이 탈옥(jailbreak)으로 안전 가드레일을 우회한 뒤 연구자들에게 생화학무기 제조 방법을 알려줬다. 네덜란드 경찰은 FBI 해커 조직의 혐의를 받는 지도자를 체포했다.

MIT Technology Review는 미국의 국경 감시탑 '가상 장벽'에 대한 자사 조사를 주제로 라운드테이블 대화를 진행했다. 메타는 AI 데이터센터를 '실험'이라고 부르며 세금을 줄여 거의 40억 달러를 절감했다.