김봉식 서울경찰청장은 26일 오전 열린 정례기자 간담회에서 “성 관련해서 딥페이크 허위영상물을 만드는데 동료, 학생, 교사까지 (활용해) 만들어서 확산하고 있다”면서 “정보기술(IT) 익숙한 학생들 위주로 퍼지고 있어 우려된다”고 밝혔다.
경찰은 서울지역에서 적발된 딥페이크와 관련한 성범죄가 올해 7월까지 기준으로 10건(10대 중 14세 이상)이라고 밝혔다. 전 건 모두 10대 청소년들이 주도했다는 게 경찰의 설명이다.
딥페이크는 인공지능(AI) 기술인 딥러닝과 가짜를 의미하는 ‘페이크’의 합성어다. 인공지능 기술을 이용해 진위 여부를 구별하기 어렵게 만든 뉴스, 이미지, 영상을 의미한다. 사진이나 15초 분량의 동영상 샘플만으로도 감쪽같은 가짜를 만들 수 있는 상황이다.
딥페이크 기술을 활용한 빈번한 범죄 유형으로는 음란물 제작이 꼽힌다. 주로 연예인이 타깃이 됐지만 최근에는 일반인 대상 딥페이크 음란물 유포가 잦다. 서울대 졸업생들이 알고 지내던 대학 동문 등 여성 수 십명을 대상으로 불법 합성 영상물을 만들어 유포한 ‘서울대 딥페이크 성범죄’ 사건이 충격을 주기도 했다.
이러한 딥페이크를 활용한 성범죄 유형은 10대에서 급속하게 퍼지고 있는 상황이다. 최근 부산에서는 중학생 4명이 AI 기술을 이용해 여학생과 여교사 19명에 대한 불법 합성물을 직접 만들어 사회관계망서비스(SNS) 채팅방에 공유한 사건 수사가 진행되고 있다. 아울러 각종 온라인 커뮤니티에는 ‘텔레그램 딥페이크 피해자 명단’이 다수 게재됐다. 명단에는 중·고교와 대학교명이 언급돼 있어 학생들의 불안감이 커지고 있는 상황이다.
서울청 관계자는 “시교육청과 협의해서 처벌조항과 교육자료를 제공해서 예방활동을 할 예정”이라면서 “심각한 범죄로 사회활동에 지장받을 수 있다고 학생들에게 예방해 나가야 할 대목이라고 본다”고 설명했다.
경찰은 서울지역에서 적발된 딥페이크와 관련한 성범죄가 올해 7월까지 기준으로 10건(10대 중 14세 이상)이라고 밝혔다. 전 건 모두 10대 청소년들이 주도했다는 게 경찰의 설명이다.
딥페이크는 인공지능(AI) 기술인 딥러닝과 가짜를 의미하는 ‘페이크’의 합성어다. 인공지능 기술을 이용해 진위 여부를 구별하기 어렵게 만든 뉴스, 이미지, 영상을 의미한다. 사진이나 15초 분량의 동영상 샘플만으로도 감쪽같은 가짜를 만들 수 있는 상황이다.
딥페이크 기술을 활용한 빈번한 범죄 유형으로는 음란물 제작이 꼽힌다. 주로 연예인이 타깃이 됐지만 최근에는 일반인 대상 딥페이크 음란물 유포가 잦다. 서울대 졸업생들이 알고 지내던 대학 동문 등 여성 수 십명을 대상으로 불법 합성 영상물을 만들어 유포한 ‘서울대 딥페이크 성범죄’ 사건이 충격을 주기도 했다.
이러한 딥페이크를 활용한 성범죄 유형은 10대에서 급속하게 퍼지고 있는 상황이다. 최근 부산에서는 중학생 4명이 AI 기술을 이용해 여학생과 여교사 19명에 대한 불법 합성물을 직접 만들어 사회관계망서비스(SNS) 채팅방에 공유한 사건 수사가 진행되고 있다. 아울러 각종 온라인 커뮤니티에는 ‘텔레그램 딥페이크 피해자 명단’이 다수 게재됐다. 명단에는 중·고교와 대학교명이 언급돼 있어 학생들의 불안감이 커지고 있는 상황이다.
서울청 관계자는 “시교육청과 협의해서 처벌조항과 교육자료를 제공해서 예방활동을 할 예정”이라면서 “심각한 범죄로 사회활동에 지장받을 수 있다고 학생들에게 예방해 나가야 할 대목이라고 본다”고 설명했다.
https://n.news.naver.com/mnews/article/018/0005820258?sid=102
