딥브레인AI, AI 가드 개발 완료…기업·공공기관 공급 시작
입력·출력 양방향 검사와 페이스 ID, 악성 입력 필터링, 딥페이크 탐지 등 10개 API로 구성됐다.
딥브레인AI가 생성형 AI 안전 엔진 ‘AI 가드(AI Guard)’ 개발을 완료하고 기업과 공공기관에 공급을 시작했다고 밝혔다.
AI 가드는 생성형 AI 서비스의 입력 정보와 생성된 출력을 모두 검사하는 방식으로 동작한다. 핵심 기능은 페이스 ID 식별, 악성 입력 필터링, 딥페이크 탐지 세 가지다. 이들 기능은 동일한 인증 체계와 응답 형식을 갖춘 총 10개의 API로 제공된다.
모델 응답에 오류가 발생하거나 처리 시간이 초과되면 요청을 자동으로 차단하는 ‘페일 클로즈(Fail-Closed)’ 방식을 적용한 점도 특징이다. 언어 모델과 안전 분류 모델은 외부 상용 AI API를 호출하지 않고 고객사 자체 GPU에서 구동되도록 설계됐다.
KOLAS 인증 기관 시험 통과
KOLAS 인증 시험기관인 와이즈스톤은 2025년 10월 KS X ISO/IEC 25023 표준에 따라 AI 가드를 시험했다. 해당 시험 조건에서 AI 가드는 합성 콘텐츠 탐지 정확도 96%를 기록했다.
AI 가드는 문화체육관광부와 한국콘텐츠진흥원이 지원하는 문화기술 R&D 과제를 통해 개발됐다. 한편 기존 ‘AI 디텍터(AI Detector)’는 완성된 이미지와 영상의 딥페이크 여부를 확인하는 별도의 탐지 솔루션이다.
한눈에 보기
AI 가드의 핵심 기능은 무엇인가?
페이스 ID 식별, 악성 입력 필터링, 딥페이크 탐지 세 가지이며, 동일한 인증 체계와 응답 형식을 갖춘 총 10개의 API로 제공된다.
합성 콘텐츠 탐지 정확도는 얼마인가?
KOLAS 인증 시험기관 와이즈스톤이 2025년 10월 KS X ISO/IEC 25023 표준에 따라 시험한 조건에서 96%를 기록했다.
외부 AI API를 호출해야 하나?
아니다. 언어 모델과 안전 분류 모델을 고객사 자체 GPU에서 구동하도록 설계됐다.