타오바오·티몰·징둥·더우인, AI 위조 사진 환불 잡는다

타오바오와 티몰, 징둥, 바이트댄스의 더우인이 생성형 AI로 만든 가짜 상품 사진을 이용한 환불 요청에 대응하기 위해 AI 위조 이미지 탐지 기능을 도입하거나 시험 운영 중이다.

타오바오와 티몰은 판매자 지원 시스템에 AI 가짜 이미지 탐지를 추가하고 있다. 판매자는 점포 운영 도구인 첸뉴의 채팅 화면에서 구매자가 보낸 이미지를 오른쪽 클릭해 허위 환불 청구로 신고할 수 있다.

타오바오는 중국 매체 신경보에 자사 AI 자동 탐지 모델의 정밀도가 95%, 재현율이 50%라고 밝혔다. 정밀도는 탐지 결과가 실제 위조라는 비율, 재현율은 실제 위조 가운데 탐지해 낸 비율을 뜻한다.

징둥과 더우인 역시 AI가 생성한 가짜 이미지를 판별하는 서비스를 시험 운영하기 시작했다.

중국 정부는 '온라인 거래 플랫폼 규칙 감독 관리 방안'을 개정해 플랫폼이 판매자에게 반품 없는 환불 책임을 강요하지 못하도록 하는 작업을 진행 중이다.

저가 상품 환불 분쟁의 배경

중국 전자상거래에서는 저가 상품과 신선식품을 대상으로 반품 없이 환불해 주는 제도가 운영돼 왔다. 이 제도는 판매자와 소비자 모두의 반품 비용과 시간을 줄여 주지만, AI로 만든 가짜 사진이 환불 청구에 악용되는 사례가 나타나면서 논란이 됐다.