https://youtu.be/-MPY-B1N3jg?si=mj2M6ePjzpNcDv05
가해 중학생들이 사용한 프로그램은 온라인에서 쉽게 검색되는 AI 딥페이크 사이트였습니다. 누구나 손쉽게 접근할 수 있습니다. 정부가 접속 차단에 나섰지만 새로 만들어지는 속도를 따라가지 못하고 있습니다.
사진을 넣고 버튼을 누르자 20초 만에 옷차림이 바뀐 이미지가 만들어집니다.
나체 이미지 등 음란물 생성은 차단돼 있다고 하지만 우회하는 기술 역시 거래되고 있습니다.
[김준엽/디지털 범죄 대응기업 '라바웨이브' 대표 : (AI는) 안전 정책 필터 때문에 안 만들어 주니까 이미 그런 필터가 해제되어 있는 딥누드들이 한꺼번에 다 세팅이 끝나 있는 사이트 템플릿들을 판매를 또 하기도 하거든요.]
이미 만들어진 걸 찾아 지우고 차단하는 방식은 한계가 있습니다.
대형 플랫폼과 AI제작사가 스스로 유통을 막도록 제도화하는 게 급합니다.
이와 별개로 전문가들은 AI 음란물 제작 행위가 학교 친구의 삶을 무너뜨리고 자신도 강력한 형사처벌로 씻을 수 없는 상처를 입게 된다는 분명한 사실을 어린 시절부터 교육해야 한다고 강조합니다.
[영상취재 방극철 조용희 영상편집 유형도]
김서하 기자
https://n.news.naver.com/article/437/0000503657?sid=102
