https://n.news.naver.com/article/310/0000128172?cds=news_media_pc&type=editn

 

과기부·여가부, 아동청소년 온라인 성착취
선제 대응 시스템 본격 가동
AI 기술로 실시간 감시·차단

(중략)

수작업에서 AI 자동화로...체계적 검토·자동 삭제 요청

피해자 보호까지 통합 지원

기존에는 여가부 산하 공공기관인 한국여성인권진흥원 내 중앙디지털성범죄피해자지원센터(디성센터) 담당자들이 키워드 중심으로 손수 검색, 육안으로 점검해 성착취물을 찾아내고, 손수 온라인 플랫폼에 삭제를 요청하는 식이었다. 신속한 대응이 어려울 수밖에 없는 구조였다.

정부에 따르면 앞으로는 스스로 학습하는(자가학습형) AI를 통해 24시간 365일 쉬지 않고 감시한다. 먼저 크롤링 알고리즘을 활용, AI가 소셜미디어, 채팅 앱, 오픈채팅방 등에 올라온 위험한 키워드가 포함된 게시글을 자동으로 골라낸다. 또 찾아낸 정보가 얼마나 위험한지 정도에 따라 우선순위를 정해 검토 목록을 만든다. 실제 촬영물로 의심되는 내용은 가장 급하게, 단순 텍스트는 그 다음 순서로 처리하는 식이다. 이후 삭제 조치로 이어진다.

특히 자동화 프로그램(API)을 통해 문제가 있는 게시물을 발견하면 해당 온라인 사이트에 자동으로 '이 게시물을 삭제해 달라'고 요청하고, 처리 결과까지 체계적으로 기록·관리한다는 점이 핵심이다.

피해자 보호까지 통합 지원한다. 공동주관기관인 한국여성인권진흥원은 피해자 보호 전문성을 바탕으로 온라인 플랫폼 내 상담 연계 및 피해 대응체계 설계를 담당한다. 이를 통해 피해 접수-삭제 지원-상담 연계에 이르는 통합 체계를 구축할 예정이다.

이번 시스템 도입은 AI 조작영상(딥페이크) 성범죄 등 디지털 성범죄가 심각한 사회문제로 떠오른 가운데, 정부가 '성범죄 사회문제 해결'을 주제로 추진한 지정 공모로 선정된 주요 과제다. 오는 12월15일까지 추진된다. 여가부가 대표주관기관, 한국여성인권진흥원이 공동주관기관으로 참여한다. 디지털 기반 사회현안해결 프로젝트 사업의 하나로 예산 총 51억원이 투입된다.

과기정통부는 "앞으로도 인공지능 등 디지털 기술을 공공서비스에 적극 접목해 사회적 약자를 보호하고 국민이 체감할 수 있는 디지털 안전망 구축에 기여하겠다"고 밝혔다.