[행정안전부]AI로 찾고 즉시 차단한다...정부, 딥페이크 성범죄 영상물 공동 대응

- 행안부·성평등부·방미통위, 딥페이크 성범죄 대응 기술협력 업무협약 체결 - 'AI 딥페이크 탐지·분석모델' 딥페이크 성범죄 대응 현장에 본격 활용     정부가 날로 발전하는 생성형 인공지능 (AI) 을 악용한 딥페이크 성범죄에 강력히 대응하기 위해 관계기관 간 AI 기반 기술협력에 나선다 .   행정안전부 · 성평등가족부 · 방송미디어통신위원회는 6 월 25 일 정부서울청사에서 「 딥페이크 성범죄 대응 기술협력을 위한 업무협약 」 을 체결하고 , 피해영상물의 탐지 · 분석부터 삭제 · 차단 , 피해자 보호까지 이어지는 딥페이크 성범죄 대응 현장에 본격 활용한다 .   이번 협약은 생성형 AI 기술의 발전으로 딥페이크 성범죄가 지능화 · 고도화되고 , 피해영상물이 온라인에서 빠르게 확산되는 상황에 대응하기 위해 마련됐다 .   특히 정부는 행정안전부가 국립과학수사연구원과 협업해 개발한 'AI 딥페이크 탐지 · 분석모델 ' 을 관계기관과 공유하고 , 이를 피해영상물 대응 과정에 활용해 딥페이크 성범죄 대응의 신속성과 정확성을 높일 계획이다 .   협약식에는 김민재 행정안전부 차관 , 정구창 성평등가족부 차관 , 고민수 방송미디어통신위원회 상임위원 등이 참석해 협약서에 서명하고 , 딥페이크 성범죄 피해 예방과 피해자 보호 강화를 위한 기관 간 협력을 약속했다 .     >> AI 기반 관계기관 공동대응으로 피해영상물 신속 대응 강화   이번 협약에 따라 세 기관은 ▲ AI 딥페이크 탐지 · 분석모델 공유 및 활용 ▲ 피해영상물 탐지 · 삭제 · 차단 절차 연계 ▲ 2 차 피해 방지를 위한 정보보호 · 보안조치 등에 협력한다 .   행정안전부는 딥페이크 성범죄 대응을 위한 관계기관이 활용할 수 있도록 AI 기술 발전 속도에 발맞춰 'AI 딥페이크 탐지 · 분석모델 ' 을 고도화하는 등 지속가능한 딥페이크 탐지 · 분석 모델을 제공 · 공유할 예정이다 .   성평등가족부는 기존에 도입 · 활용중인 민간 딥페이크 탐지모델과 더불어 이번 'AI 탐지 · 분석모델 ' 을 병행 활용하여 더 세밀한 피해영상물 및 의심 컨텐츠 분석 · 삭제를 진행하는 한편 피해영상물 처리 , 보안 등 업무기준을 마련  운용하여 피해자 보호 및 2 차피해 방지를 위해 노력한다 .   정구창 성평등가족부 차관은 " 이번 협약을 계기로 탐지부터 삭제 , 수사 · 의료 · 치유회복 지원까지 이어지는 피해자 지원체계를 더욱 강화하겠다 " 라고 말했다 .   방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통에 대응하고 , 플랫폼 사업자와의 삭제 · 차단 협력체계를 강화한다 . 또한 재유포 · 변형 콘텐츠에 대응하기 위해 관계기관 간 정보공유와 협력을 확대한다 .   고민수 방송미디어통신위원회 상임위원은 " 딥페이크 성범죄물의 신속한 삭제 · 차단과 재유포 방지를 위해 관계기관과 적극 협력하겠다 " 라고 말했다 .   정부는 이번 협약을 계기로 딥페이크 성범죄 대응 전 과정에 AI 탐지 · 분석 기술을 연계할 계획이다 . 향후 피해영상물 또는 의심 콘텐츠가 접수되면 AI 딥페이크 탐지 · 분석모델을 활용해 1 차 탐지 · 분석을 실시하고 , 그 결과를 삭제 · 차단 및 피해자 지원 절차와 연계해 신속히 대응할 예정이다 .   아울러 각 기관은 피해영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려하고 , 불필요한 복제 · 공유 · 보관을 제한하는 등 보안관리 기준을 강화할 방침이다 .   행정안전부 · 성평등가족부 · 방송미디어통신위원회는 협약 이후 현장에 본격 적용 하면서 'AI 딥페이크 탐지 · 분석모델 ' 의 현장 활용도를 높이고 , 딥페이크 성범죄 공동대응 성과를 지속적으로 점검할 계획이다 .   윤호중 장관은 " 딥페이크 성범죄는 피해 확산 속도가 빠르고 , 재유포 · 변형으로 인한 2 차 피해 우려가 큰 만큼 관계기관 간 신속한 공동대응이 중요하다 " 라며 ,   " 행정안전부는 'AI 딥페이크 탐지 · 분석모델 ' 을 관계기관과 공유하고 , 탐지 · 분석부터 삭제 · 차단 , 피해자 보호까지 이어지는 기술 기반 협력체계를 구축해 나가겠다 " 라고 밝혔다 .     * 담당자 : 공공데이터분석관리과 김정훈 (044-205-2287) [자료제공 : (www.korea.kr) ]