AI를 활용해 음란 대화를 하는 경우가 빈번해지면서 학교와 학부모들이 골머리를 앓고 있다. 최근 초등학생부터 중학생 사이에서 AI 채팅 앱 ‘제타(ZETA)’ ‘바베챗(BABECHAT)’ 등이 인기를 끌고 있는데, 사용자가 원하는 캐릭터를 직접 만들어 대화를 이어가는 단순한 놀이처럼 보이지만 실제로는 ‘가상의 애인’을 만들고 연애 시뮬레이션을 즐기거나 선정적 대화를 하는 수단으로 활용되는 경우가 많다.

결국 일부 학교는 가정통신문까지 내 학부모들에게 사용 자제를 권고하고 있다. 남춘천여중은 지난 6월 “폭력적·선정적 대화에 노출될 우려가 있다”며 가정통신문을 발송했고, 경기 광명 충현중과 전북 고창 영선중, 충북대 사범대 부설중 등도 생성형 AI 채팅앱 사용을 제한하고 있다.

“밤마다 몰래 사용”…학부모 충격과 우려

AI 캐릭터는 신체 부위나 의상, 성격까지 세밀하게 설정할 수 있어 청소년들의 호기심을 자극한다. 고등학생 A군(18)은 “선정적으로 묘사되는 여성 캐릭터를 종종 만든다”며 “사람들이 내 캐릭터로 대화하는 걸 보면 뿌듯하다”고 했다.

학부모들은 불안감을 감추지 못한다. 초등학교 4학년 아들을 둔 박모씨(31·경기 남양주)는 “아들이 밤마다 몰래 휴대폰으로 AI 대화 앱을 하더라”며 “캐릭터가 ‘우리 집 놀러올래?’라며 은근히 유혹하는 말을 했다”고 했다. 중학교 1학년 딸을 둔 김모씨(44)는 “앱을 직접 체험해보니 욕설과 선정적 대화가 난무했다”며 “아이들이 현실 친구 대신 가상 세계에 갇힐까 두렵다”고 했다.

앱 분석 업체 와이즈앱·리테일에 따르면 지난 6월 한국인이 가장 오래 사용한 AI 챗봇 앱은 제타로, 월 사용 시간이 5248시간에 달했다. 성인 인증 절차가 있다고는 하지만 학생들은 대리 인증을 통해 손쉽게 진입하고 있다. 소셜미디어에는 ‘제타·크랙 성인 인증 대행’ 광고가 수십 개 올라와 있으며, 틱톡과 오픈 채팅방에서는 “신체 부위를 과일로 비유하면 웬만한 19금 표현도 통한다”는 식의 검열 회피 팁이 공유된다. 전문가들은 “즉각적인 반응을 주는 AI가 청소년을 빠져들게 만든다”며 “선정적 대화에 중독되면 성에 대한 잘못된 인식을 가질 수 있다”고 경고했다.

소셜미디어 범람, 교실 파고든 합성물

소셜미디어에는 AI 생성 음란물이 쏟아지고 있다. 인스타그램에서 ‘AIGIRL’을 검색하면 특정 신체 부위를 강조하거나 자극적인 노출을 내세운 AI 계정이 수십 개 뜨고, AI 목소리를 입혀 선정적 대사를 읊는 ‘ASMR(Autonomous Sensory Meridian Response·자율 감각 쾌감 반응의 줄임말로 뇌에 심리적 안정감이나 쾌감을 전달하기 위해 사용되는 소리)' 채널까지 등장했다. 하지만 이런 콘텐츠는 실존 인물을 대상으로 하지 않아 법 적용이 쉽지 않다.

지난 8월 의정부지법 고양지원은 성폭력처벌법상 딥페이크 음란물 유포 혐의로 기소된 30대 남성 김모씨에게 무죄를 선고했다. 김씨는 텔레그램 대화방에 여성 나체의 AI 합성사진을 공유했지만, 재판부는 “사진의 출처와 합성 여부를 확인할 자료가 없어 피해자가 실존한다고 단정하기 어렵다”고 밝혔다. 결국 ‘딥페이크 방지법’ 적용 대상이 실존 인물로 한정된 셈이다.

https://n.news.naver.com/mnews/article/023/0003927651?sid=102