AI로 아동·청소년 성착취물 삭제 지원 9.7배 늘어

(성평등가족부 제공) 

성평등가족부 인공지능(AI) 기반의 아동·청소년 온라인 성착취 탐지·신고 시스템을 도입한 결과, 종사자 1인당 하루 평균 아동·청소년 성착취물 삭제 요청 처리 건수가 기존보다 약 9.7배 증가했다고 최근 밝혔다.

지난 4월부터 본격 운영한 AI 시스템을 통해 6개월간 아동·청소년 성착취물 9만 6천여 건의 삭제를 지원했으며, 불법촬영물 등 삭제 요청 및 이력관리를 자동화해 처리 속도 역시 크게 향상됐다. 

성평등가족부와 한국여성인권진흥원은 이러한 성과를 바탕으로 AI 탐지체계를 고도화하고, 중앙디지털성범죄피해자지원센터(이하 중앙디성센터)의 기술을 지역 현장까지 확대하여 디지털성범죄 피해자 지원을 강화한다는 방침이다.

‘AI 시스템’은 온라인상의 성착취물과 유인정보를 24시간 자동으로 탐지·분석하는 체계로 사회관계망서비스(SNS)와 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 자동으로 수집하여 분석하고, 이후 담당자의 검토를 토대로 유포 현황 모니터링과 삭제 요청 등이 진행된다. 2025년 한 해 동안 종사자의 수작업에 기반한 모니터링·분석으로 아동·청소년 성착취물 4만 5천여 건에 대해 삭제를 지원하였으나, 시스템 도입 이후 6개월간 삭제를 지원한 건수는 9만 6천여 건에 달했다.

성평등가족부는 과학기술정보통신부와 협업해 2027년까지 AI 시스템 고도화를 추진해 탐지 대상 플랫폼을 대폭 확대하는 한편, 대규모 데이터를 학습한 AI 모델을 활용해 탐지·판별 정확도를 높일 계획이다.

지난 8월 피해자 지원기관을 대상으로 AI 시스템의 구축 배경과 주요 기능을 소개하는 설명회를 개최하는 등 향후 지역디지털성범죄피해자지원센터를 중심으로 AI 기술을 공동 활용할 수 있도록 준비하고 있다.

불법촬영물 등 유포에 신속히 대응하기 위해 삭제지원시스템에 자동화 기술을 도입하고, 해외 주요 기관과의 API 연계로 삭제 지원 효과성도 높였다. 

아울러 2027년에는 DNA 기반 동일·유사 영상 자동 탐지 등 중앙디성센터 시스템의 핵심 기능을 탑재한 설치형 삭제 지원 소프트웨어(SW)를 보급해, 중앙디성센터의 대응 역량을 지역 현장까지 확장할 계획이다. 

유시윤 기자