광고 문의
AI

연구진, 도메인 등록으로 Kokoro 허깅페이스 계정 탈취

게이밍 GPU에서 87초 만에 모델 가중치를 변조해 입력과 다른 음성을 생성하는 시연까지 성공했다.

연구진이 도메인 등록만으로 Kokoro 텍스트 음성 변환 모델의 허깅페이스(Hugging Face) 계정을 탈취하고, 모델 가중치를 변조해 악성 출력을 만들어내는 시연에 성공했다고 보안 매체 BleepingComputer가 보도했다.

연구진은 hexgrad.com 도메인을 등록한 뒤 이를 이용해 계정 비밀번호를 재설정하는 방식으로 계정 통제권을 확보했다. 이어 게이밍 GPU에서 87초 만에 Kokoro의 모델 가중치를 수정해, 입력 텍스트와 일치하지 않는 음성을 생성하도록 만들었다.

변조된 가중치는 로컬에서만 테스트됐으며 허깅페이스에 업로드되지는 않았다. 다만 다른 계정으로 진행한 테스트에서는 허깅페이스가 이 같은 변조 모델 배포를 의심스럽게 표시하지 않는 것으로 나타났다.

연구진은 허깅페이스에 문제를 제보했지만 응답을 받지 못했고, BleepingComputer의 논평 요청에도 발행 시점까지 답변이 없었다.

개발사, 2025년 4월 이후 업데이트 없어

Kokoro는 허깅페이스에서 월간 다운로드 수가 약 1300만 건에 달하는 모델이지만, 개발사 Hexgrad는 2025년 4월 이후 모델을 업데이트하지 않았다. Kokoro의 깃허브 저장소와 PyPI 파이썬 패키지도 같은 시기부터 조용한 상태를 유지했다.

한눈에 보기

Kokoro 계정은 어떻게 탈취됐나?

연구진이 hexgrad.com 도메인을 등록한 뒤 이를 이용해 계정 비밀번호를 재설정하는 방식으로 통제권을 확보했다.

변조된 모델은 허깅페이스에 올라갔나?

아니다. 변조된 가중치는 로컬에서만 테스트됐고 허깅페이스에 업로드되지 않았다.

허깅페이스는 이 문제에 대응했나?

연구진의 제보에도 응답이 없었고, BleepingComputer의 논평 요청에도 발행 시점까지 답변이 없었다.

출처