지역 디성센터를 찾은 내담자 A씨는 온라인에 유포된 불법촬영물이 본인의 딥페이크물 일 수 있다는 불안감을 호소했다. 이에 지역 디성센터 담당자는 지난 2월 신설된 중앙-지역 실시간 협업게시판을 통해 해당 영상물의 딥페이크 여부 판별을 요청했고, 중앙 디성센터는 AI 딥페이크 판별 솔루션을 적용해 해당 영상물이 딥페이크가 아님을 신속하게 확인했다.
이 사례는 중앙-지역 디성센터 협업게시판과 AI 딥페이크 탐지 솔루션이 함께 작동해 내담자의 불안을 현장에서 즉시 해소한 첫 연계 사례로, 중앙·지역 협업 체계와 기술 시스템이 피해자 심리 안정에도 실질적으로 기여할 수 있음을 보여주었다.
성평등가족부는 디지털성범죄 피해자 보호를 위해 삭제요청 자동화, AI 기반 아동·청소년 온라인 성착취 선제 대응, AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입한다. 기존 수동·사후 대응의 한계를 보완하고, 피해자 중심의 신속·선제 대응 체계를 구축했다.
우선, 피해영상물 삭제요청 자동화를 통해 약 2만 개의 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정을 자동화하고, 건당 처리 시간을 1분 이내로 단축했다.
(성평등가족부 제공)
‘아동·청소년 온라인 성착취 선제적 대응 시스템’은 인공지능(AI) 기술을 활용하여 SNS, 랜덤채팅앱 등에서 아동·청소년 성착취물 및 유인정보를 24시간 자동 수집·분석하고 자동 신고 및 삭제요청을 한다.
특히 국내 최초로 ‘랜덤채팅앱’에 대한 데이터 자동 수집 기술을 탑재했으며, 기존 중앙 디성센터의 삭제지원시스템과 연계하여 성인사이트에 대한 유포 현황 탐지와 자동 삭제요청이 가능해진다.
시스템 구축 이후 25일 동안의 시범운영 결과, 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 대폭 증가했다.
AI 기반 딥페이크 탐지 솔루션 도입을 통해 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 돼, 피해자의 불안을 해소하고 추가 삭제지원도 가능해졌다.
특히 선제적 삭제지원을 위한 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견된 경우, 딥페이크 탐지 솔루션을 적용하여 피해자가 인지하지 못한 합성물도 찾아내며 추가 유포를 사전에 차단할 수 있게 됐다.
원민경 성평등가족부 장관은 “기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점”이라며 “AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것”이라고 밝혔다.
박정은 기자
