[성평등가족부]'디지털 성범죄' 이제 인공지능(AI)으로 24시간 자동 탐지-분석-신고한다.

'디지털 성범죄' 이제 인공지능(AI)으로 24시간 자동 탐지-분석-신고한다. 성평등가족부 , 삭제요청 자동화 ·AI 성착취 탐지 · 딥페이크 식별 시스템 도입 □ 성평등가족부 ( 장관 원민경 ) 는 디지털성범죄 피해자 보호 를 위해 ➊ 삭제요청 자동화 , ➋ AI 기반 아동 · 청소년 온라인 성착취 선제 대응 , ➌ AI 기반 딥페이크 탐지 등 3 대 핵심 기술 시스템을 도입 한다 . 기존 수동 · 사후 대응의 한계를 보완하고 , 피해자 중심의 신속 · 선제 대응 체계를 구축 했다고 밝혔다 .   ㅇ 이번 시스템 도입으로 기존의 수동적이고 사후적인 피해자 보호의 한계를 보완 하고 , 디지털 성범죄 대응체계를 자동화 · 지능화 하여 대응 속도와 정확도를 대폭 높였다 .   □ 우선 , 피해영상물 삭제요청 자동화 를 통해 약 2 만 개의 사이트 에 대한 삭제요청부터 처리 이력 관리까지 전 과정을 자동화 하고 , 건당 처리 시간을 1 분 이내로 단축 하였다 .   ㅇ 특히 중앙디지털성범죄피해자지원센터 ( 이하 중앙 디성센터 ) 의 삭제지원시스템 을 美 국립실종학대아동방지센터 (NCMEC) 및 글로벌 CDN 사업자 클라우드플레어 (Cloudflare) 와 API 로 연계하 여 , 우회 접속 URL 도 대량 자동 삭제요청이 가능해졌다 .   ㅇ 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식 도 자동 작성 · 발송 하도록 개선했으며 , 종사자 의 정신적 소진 예방 을 위해 美 NCMEC 의 선진 사례를 참고한 촬영물 필터 ( 회색조 처리 ) 기능 도 도입했다 .   □ ' 아동 · 청소년 온라인 성착취 선제적 대응 시스템 ' 은 인공지능 (AI) 기술을 활용하여 SNS, 랜덤채팅앱 등에서 아동 · 청소년 성착취물 및 유인정보를 24 시간 자동 수집 · 분석 하고 자동 신고 및 삭제요청 을 한다 .   ㅇ 특히 국내 최초 로 ' 랜덤채팅앱 ' 에 대한 데이터 자동 수집 기술 을 탑재 하였으며 , 기존 중앙 디성센터의 삭제지원시스템과 연계 하여 성인사이트 에 대한 유포 현황 탐지 와 자동 삭제요청 이 가능해진다 .   ㅇ 시스템에 적용된 AI 모델은 ➊ 키워드 탐지 , ➋ 이미지 내 텍스트 추출 , ➌ 신체 노출도 판단 , ❹ 아동 · 청소년 여부 추정 , ❺ 유사 이미지 대조 등 다단계 분석을 거쳐 아동 · 청소년 성착취물 여부를 판단한다 .   □ 시스템 구축 이후 25 일 동안의 시범운영 결과 , 종사자 1 인당 일평균 수집 건수가 아동 · 청소년 성착취물은 2.7 배 이상 , 성착취 유인정보는 80 배 이상 으로 대폭 증가하였다 .   ㅇ 향후 시스템 본격 운영을 통해 아동 · 청소년 성착취물은 신속하게 선제적 삭제지원 하고 , 성착취 유인정보는 신고 및 전문 상담원이 개입하는 ' 온라인 아웃리치 ' 를 병행 하여 맞춤형 통합지원을 강화 할 예정이다 .   ※ 시범운영 기간 : 2026.2.23.~2026.3.19.   □ 마지막으로 , AI 기반 딥페이크 탐지 솔루션 도입 을 통해 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 되어 , 피해자의 불안 을 해소 하고 추가 삭제지원 도 가능해졌다 .   ㅇ 특히 선제적 삭제지원을 위한 온라인 모니터링 중 합성 · 편집물로 의심 되는 영상물이 발견된 경우 , 딥페이크 탐지 솔루션을 적용하여 피해자가 인지하지 못한 합성물도 찾아내며 추가 유포를 사전에 차단 할 수 있게 됐다 .   □ 원민경 성평등가족부 장관 은 " 기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응 이 필요한 시점 " 이라며   ㅇ " AI 기술을 현장에 본격 도입 해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축 하여 피해자의 신속한 일상 회복을 위해 앞장설 것 " 이라고 밝혔다 . [자료제공 : (www.korea.kr) ]