https://x.com/4rcadla/status/1826876504300830979
22만여명이 참여한 딥페이크 성착취 텔레그램방. 인공지능(AI)이 만든 여성 사진을 넣으니 5~7초 만에 딥페이크 성착취물이 제작됐다. 텔레그램방 갈무리
한겨레가 21일 엑스(X, 옛 트위터)에 올라온 주소를 통해 접근한 한 텔레그램방은, 여성의 사진을 넣으면 이를 합성해 나체 사진으로 만드는 불법합성물 제작 프로그램(봇)을 탑재하고 있었다. 방에 입장하니 대화창에 곧장 “지금 바로 좋아하는 여자의 사진을 보내라”는 내용의 문구가 떴다. 인공지능(AI)이 만든 가상의 여성 사진을 넣었더니 약 5초 뒤 불법합성물이 생성됐다. 제작 과정엔 특정 신체 부위 모습을 조정하는 기능까지 있었다. 이 텔레그램방 이용자 수는 21일 기준 22만7천여명에 이른다.
(중략)
엄청난 참여자 규모에 수익 모델까지 갖춘 텔레그램 방의 존재 자체는 심각한 피해를 안기는 불법합성물 제작을 가볍게 여기는 실태를 반영한 것이기도 하다. 김혜정 한국성폭력상담소장은 “수익구조화돼 있다는 건 그만큼 수요가 많다는 의미”라며 “여성에 대한 성적 모욕이 온라인상에서 하나의 ‘콘텐츠’가 돼버렸는데도, 이를 경미한 사안이라고 보는 사회 인식이 성범죄를 키우는 주요 원인”이라고 짚었다.
박고은 기자 euni@hani.co.kr
https://www.hani.co.kr/arti/society/society_general/1154764
https://x.com/hanitweet/status/1826431595412140510