오픈AI, 차세대 모델 공개 앞두고 정렬·보안 강화

오픈AI가 정렬(alignment) 작업과 보안 강화에 집중하며 아직 공개되지 않은 차세대 AI 모델의 안전한 출시를 준비하고 있다고 디 인포메이션이 10월 13일 보도했다. 이 모델은 루프 트랜스포머(Loop Transformer) 설계를 사용하는 것으로 전해졌다.

루프 트랜스포머는 순환 깊이(Recurrent Depth)라고도 불리며, 동일한 신경망 계층을 반복적으로 재사용하는 구조다. 이 설계는 내부 연산을 사람이 읽을 수 있는 사고 사슬(chain-of-thought)에서 숨길 수 있어 이상 행동을 감시하는 기존 모니터링을 약화시킬 수 있다는 지적이 나온다. 오픈AI는 이 기법의 사용을 공식 확인하지 않았다.

오픈AI는 지난달 말 허깅페이스 공격 사건 이후 전체 컴퓨팅 자원의 약 10%를 정렬·안전 작업에 배정한 것으로 전해졌다. 이는 수백 메가와트 규모의 데이터센터 용량에 해당한다. 또 공개되지 않은 모델을 인터넷과 다른 소프트웨어로부터 격리하는 샌드박스를 강화하고 있다. 모델 훈련 시작 절차도 바뀌어, 책임자들이 안전한 훈련의 위험과 이유를 문서화하고 여러 책임자가 서명하도록 했다. 각 책임자는 독립적으로 훈련을 거부할 수 있으며, 사고 발생 시 훈련을 자동 중단하거나 직원에게 알리는 시스템도 이미 마련됐거나 계획 중이다.

한 직원은 차세대 모델이 내부 안전 평가를 통과하면 미국 정부에 최대 30일간 테스트용으로 제공된 뒤 신뢰할 수 있는 파트너와 공유되고 이후 광범위하게 배포될 수 있다고 말했다. 직원들은 연말까지 신모델 한두 개가 공개될 가능성이 크지만 대규모 업그레이드 모델은 아닐 수 있다고 전했다.

벨과 경쟁 모델 전망

구글 엔지니어 패트릭 툴미는 최근 X에서 뉴욕 AI 업계 모임에 참석한 개발자들이 앤스로픽의 페이블 5.5가 좋은 성능을 보일 것으로 예상하면서도, 12월 공개될 오픈AI의 벨(Bel)이 이를 능가할 것이라고 말했다고 밝혔다. 벨은 8월부터 알려진 코드명으로, 당시 X 게시물에서 오픈AI가 10조 개 이상의 파라미터로 벨의 사전 훈련을 완료해 미래 AGI급 모델의 기반으로 사용할 것이라는 주장이 나왔고 일부 매체가 이를 보도했다. 같은 시기 알트먼 오픈AI CEO는 타임 인터뷰에서 연말까지 내부적으로 AGI라고 부를 수 있는 시스템을 구축하겠다고 말했다. 벨의 사양과 출시 일정은 공식 확인되지 않았으며, 디 인포메이션이 보도한 차세대 모델이 벨인지도 확인되지 않았다.