옥소, 금융 문서 AI 통제구조 제안…사람 승인·결과 검증 결합

옥소가 기업용 제품 Auxtho를 통해 금융권 문서 업무에 AI를 적용하는 통제구조를 제안하고, 금융당국과 관련 기관, 금융사에 공동 검증을 제안했다고 datanet.co.kr이 보도했다. 이 구조는 사람의 판단과 책임을 유지하면서 AI가 문서 조사와 근거 교차 확인을 맡고, 사람은 예외 판단과 최종 승인에 집중하는 방식이다.

옥소는 검토 대상 문장을 승인 자료 및 업무 기준과 대조해 원문과 페이지, 관련 구절을 제시하고 근거가 부족하거나 상충하는 경우를 구분한다고 밝혔다. 승인·보류·반려는 사람이 결정하며, 승인은 실제 검토된 문서 버전과 연결돼 승인 이후 내용이 바뀌면 기존 승인으로 진행할 수 없다. 옥소는 로컬 복합 시나리오에서 변경 차단과 미확인 결과의 자동 재시도 방지를 검증했다고 밝혔다.

Auxtho에는 내부 방어 계층인 Ardamire Defense Layer가 포함돼 요청자 신원과 권한, 요청 상태와 파일 일치 여부를 확인하고, 문제 발생 시 보류와 격리, 복구 절차를 적용한다. 옥소는 자체 서버 테스트에서 미등록 운영자와 필수 절차를 건너뛴 재실행 요청을 차단했다고 밝혔다.

운영은 주로 Auxtho 앱과 콘솔을 통해 이뤄진다. Watch는 사건별 근거 후보와 진행 상황, 사람의 판단이 필요한 항목, 인계 기록을 수집하고, Ardamire Agent는 콘솔 관련 질문에 답하고 후속 점검을 안내한다. Replay Entry는 과거 실행에 사용된 근거와 판단, 결과를 확인할 수 있게 하며, 검토자 인계나 Replay Lab으로 연결돼 원본 기록을 유지한 채 별도 재실행을 돌려 기존 결과와 비교한다.

옥소는 검증에서 문서 검토 시간과 예외 판단 항목, 근거 없는 완료 판단, 기록 재구성 시간을 기존 업무 절차와 비교해 AI 도입 효과와 통제·검증 절차의 실효성을 함께 평가할 계획이다. 대상 업무는 금융사의 고객 응대와 컴플라이언스·감사 보고서, 보안 점검 및 조치 완료 보고서다. 검증 범위는 효과가 확인된 업무부터 단계적으로 확대한다는 방침이다.

한편 크라우드스트라이크는 지난 7일 한국 금융기관을 겨냥한 공격에 AI 도구가 사용된 정황을 공개했고, 같은 날 싱가포르 통화청은 금융기관용 AI 위험 관리 지침을 발표하며 명확한 역할과 책임, 위험 수준에 따른 인간 감독, 테스트와 모니터링, 변경 관리를 강조했다. Auxtho는 제품 개발을 마치고 상용화 전 단계에 있으며, 옥소는 NVIDIA Inception 회원으로 참여하고 있다.