포티넷 김수영 상무, AIS 2026서 AI 보안 통합 전략 제시
김수영 상무는 LLM과 에이전틱 AI의 입력·출력·행동을 함께 통제하는 포티AI게이트 기반 구조를 소개했다.
포티넷코리아 김수영 상무가 2026년 11월 3일 서울에서 열린 AIS 2026에서 LLM과 에이전틱 AI를 아우르는 AI 보안 통합 전략을 주제로 발표했다. 데일리시큐가 주최한 이번 행사에는 한국인터넷진흥원(KISA)과 한국정보보호산업협회(KISIA)가 후원했으며, 보안 담당자와 관계자 약 700명이 참석했다.
김 상무는 공격 표면으로 긴 컨텍스트를 통한 간접 프롬프트 인젝션, 멀티턴 대화, 외부 문서에 숨겨진 지시문을 꼽았다. 이어 RAG 환경에서는 참조 문서나 지식 데이터베이스가 오염될 경우 AI가 악성 콘텐츠를 업무 의사결정에 활용할 수 있다고 설명했다. Model Context Protocol로 연결된 도구 설명과 응답 역시 도구 포이즈닝과 간접 프롬프트 인젝션 여부를 검사해야 한다고 덧붙였다.
그가 제시한 게이트웨이 구조는 모델 호출 전 프롬프트를 인증·검사하고, 응답 이후에는 출력과 민감 데이터를 검사한다. 포티넷의 포티AI게이트는 시스템 지시문, 대화 이력, 도구 정의, 과거 도구 호출과 응답, 모델이 생성한 도구 인자까지 검사 범위에 포함한다. 탐지는 DLP와 정규식, 자연어 의미 분석을 결합해 모델·부서·워크스페이스 정책에 따라 입력과 출력 가드레일로 적용된다.
에이전트 보안에 대해서는 MCP 도구와 스킬 콘텐츠를 실행 전에 검사하고, 실행 중에는 프롬프트와 도구 호출을 점검하는 방식이 제시됐다. 김 상무는 에이전트 자산과 연결 관계를 목록화하고, 서비스 계정과 API 키 같은 비인간 아이덴티티를 사용량·권한·예산·만료를 통제하는 가상 키로 관리해야 한다고 강조했다.
운영 단계에서는 AI 레드팀을 수행하고, 모델이나 프롬프트, 연결된 도구가 바뀔 때마다 재검증할 것을 권고했다. 국내 도입을 위해서는 한국어 이해도, 고객의 GPU와 쿠버네티스 환경, 보안 검사 지연 시간을 확인해야 한다고 밝혔다. 이번 전략은 네트워크와 웹·API, 클라우드 인프라 보호에 AI 입력·출력·행동 통제를 결합한 형태다.
한눈에 보기
포티AI게이트는 무엇을 검사하나?
시스템 지시문, 대화 이력, 도구 정의, 과거 도구 호출과 응답, 모델이 생성한 도구 인자까지 검사한다.
국내 도입 시 무엇을 확인해야 하나?
한국어 이해도, 고객의 GPU와 쿠버네티스 환경, 보안 검사 지연 시간을 검증해야 한다.