미스트랄 AI, 1조 파라미터 '미스트랄 라지 4' 공개

미스트랄 AI가 1조 파라미터 규모의 대형 멀티모달 모델 '미스트랄 라지 4'를 선보였다고 테크크런치가 보도했다. 이 모델은 '르 숑크(Le Chonk)'라는 별칭을 갖고 있다.

미스트랄 라지 4는 아직 오픈웨이트 모델이 아니며, 현재는 공개 가드레일 엔드포인트를 통해서만 접근할 수 있다. 미스트랄은 안전성 테스트가 끝나는 대로 3주 뒤에 모델 가중치를 공개할 계획이라고 밝혔다.

미스트랄 측은 모델을 자사 컴퓨팅 환경에서 엔비디아 GPU 4,000대로 전량 학습시켰다고 설명했다. 벤치마크 결과는 아직 나오지 않았다.

가중치 공개는 3주 뒤

회사는 안전성 검증이 완료된 이후에 가중치를 내놓겠다는 입장이다. 현재 공개된 접근 경로는 가드레일이 적용된 엔드포인트뿐이다.