한국에 이어 중국도 '딥페이크 성범죄' 기승, 산업망 형성

"10대들의 성(性) 트렌드이자 욕구 해소 창구인가?"

한국뿐만 아니라 중국에서도 딥페이크 기반 성범죄가 '산업망'을 형성할 정도로 기승을 부리고 있다. 28일 현지 매체 신경보에 따르면 중국 내 지하 플랫폼에서는 왕훙(網紅, 중국의 온라인 인플루언서)이나 여성 연예인을 대상으로 하는 인공지능(AI) 나체사진 채팅방이 다수 운영되고 있다.

제작자들은 5위안(약 900원)이면 '옷 벗기기'가 가능하고, 20위안(약 3천700원)이면 '동영상 얼굴 합성'이 가능하다고 홍보한다. 신경보는 이런 합성 사진·영상 제작이 일종의 산업망을 형성한 상태라고 전했다.

온라인에서 시선을 끄는 사진으로 네티즌 유입을 유도해 '회원 그룹' 서비스 수익을 창출하는 종사자와 '비리비리'(Bilibili, 중국 동영상 플랫폼)나 '샤오훙수'(小紅書) 등 소셜미디어에서 'AI 옷 벗기기 교육과정' 등을 올리고 실제 교육도 하는 영상 제작자 등이 하나의 생태계를 이룬 셈이다.


신경보는 인플루언서의 나체 합성물을 공유한다는 이름의 한 채팅방을 확인한 결과 참여자가 1만5천명에 달했고, 여기에는 연예인과 운동선수들을 소재로 한 사진 등도 존재했다고 전했다. 채팅방 운영자들은 우선 '미끼' 사진을 몇 장 던져 회원가입을 유도하는데 회비는 70위안(약 1만3천원)이었다.

중국 현행법상 'AI 옷 벗기기'는 치안관리처벌법에 어긋나고, 돈을 받고 '주문 제작'해주는 행위는 음란물 제작·판매죄를 구성할 수 있다. 사진을 팔지 않고 유포만 해도 음란물 유포죄가 되며 합성 기술을 가르치는 것은 방조범이나 교사범에 해당한다고 전문가들은 지적한다. 그럼에도 이런 행위가 끊이지 않는 데는 AI의 효율은 계속 높아지고, 기술적 문턱은 낮아진 점이 배경으로 작용했다고 신경보는 짚었다.

베이징 보안업체 신둔스다이의 쑨웨 최고기술책임자(CTO)는 "각종 대형 플랫폼이 신원 인증을 강화하고, 다차원 인증·리스크 감지·빅데이터 분석 등 기술과 '지식 그래프 인과추론' 같은 수단을 이용해 위조 위험을 낮출 수 있다"며 "심층 진위 탐지와 디지털 워터마크 등 연구·개발을 확대해야 한다"고 제언했다.