제논, 독립형 AI 가드레일 '젠가드' 출시
젠가드는 자연어로 정책을 정의해 모델 재학습 없이 특정 주식 추천 차단 등이 가능하다.
제논이 생성형 AI 플랫폼 제노스에 내장돼 있던 가드레일 기능을 독립 제품으로 분리한 '젠가드'를 출시했다고 밝혔다. 회사는 젠가드를 통해 기업이 자연어로 정책을 정의할 수 있다고 설명했다. 예컨대 개별 종목 추천을 차단하는 식의 정책 설정이 모델 재학습 없이 가능하다는 것이다.
제논 부사장 겸 CTO인 명대우는 기업의 AI 활용이 확대되면서 보안이 AI 서비스의 신뢰성과 경쟁력을 결정하는 핵심 요인이 될 것이라고 말했다.
AI 가드레일 시장에는 다른 기업들도 제품을 내놓고 있다. 에임인텔리전스는 실시간 AI 가드레일 '스타포트'와 AI 레드팀 솔루션 '스팅어' 두 제품으로 시장을 겨냥한다. 스팅어는 AI 시스템의 취약점을 찾아 평가하는 데 쓰이고, 스타포트는 실제 운영 중인 서비스의 위험을 통제한다.
라온시큐어는 프롬프트 인젝션과 탈옥 같은 악의적 프롬프트 공격을 탐지·차단하는 '원쉴드' AI 세이프 가드레일 솔루션을 밀고 있다. 원쉴드는 AI에 입력된 개인정보를 자동으로 식별해 익명화하거나 마스킹하는 기능도 갖췄다.
셀렉트스타는 AI 신뢰성 평가 컨설팅과 자동화된 레드팀, 소형언어모델(sLM) 기반 가드레일 기술을 개발한다. 기업의 AI 모델과 서비스에 대한 성능·안전성 평가도 지원한다.
한편 제논은 이달 코스닥 상장을 앞두고 있다.
한눈에 보기
젠가드란 무엇인가?
제논이 제노스에 내장돼 있던 가드레일 기능을 독립 제품으로 분리해 출시한 AI 가드레일 솔루션이다.
젠가드는 어떻게 정책을 설정하나?
기업이 자연어로 정책을 정의할 수 있으며, 모델 재학습 없이 개별 종목 추천 차단 같은 정책을 적용할 수 있다.