https://www.seoul.co.kr/news/society/2025/05/12/20250512500208?wlog_tag3=naver
지난해 공직선거법 개정…‘딥페이크 처벌’ 없어
경찰, 대선 관련 딥페이크 영상물 8건 수사 중
허위 구분할 수 있거나 선거운동 아니면 적용 안돼
이주호 권한대행 “딥페이크, 선거 정당성 흔들어”
21대 대선 공식 선거운동이 12일 시작된 가운데 “시진핑 형님께 속국 하나 추가했다”와 같은 엉뚱한 음성을 후보 얼굴에 입히는 방식의 딥페이크가 소셜미디어(SNS)와 온라인 커뮤니티에 넘쳐나고 있다. 현재까지는 조악한 영상이 대부분이지만, 그럴듯한 딥페이크가 ‘가짜뉴스’ 등에 활용될 경우 유권자 혼란이 커질 것으로 우려된다.
12일 서울신문 취재를 종합하면, 중앙선거관리위원회(선관위)가 한국인터넷자율정책기구(KISO)에 삭제를 요청한 딥페이크 영상물은 800건에 육박한 것으로 나타났다. 선관위가 6·3 대선과 관련해 지난 11일까지 삭제 요청한 딥페이크 영상물은 총 769건이다. 지난 8일까지 598건이었는데 사흘 만에 171건이 늘었다. 지난해 총선 때 선관위가 삭제 요청한 딥페이크 영상물이 338건이라는 점을 감안하면 이미 2배가 넘어선 것이다.
지난해 공직선거법 개정으로 선거 90일 전부터 딥페이크 영상물로 선거 운동을 할 경우 5년 이하 징역 또는 5000만원 이하 벌금에 처해진다. 후보자 비방뿐만 아니라 지지를 받은 것처럼 조작하거나 일정 등을 홍보하기 위해 ‘딥보이스’(인공지능으로 합성된 음성)를 쓰는 행위도 금지된다.
법 개정 이후 22대 총선이 치러졌지만 공직선거법을 적용해 선관위가 수사를 의뢰하거나 경찰이 검찰에 송치한 사례는 단 한 건도 없었다. 인공지능(AI)으로 만들었더라도 실제와 구분할 수 있거나 ‘선거 운동을 위해 만들었다’는 목적성이 입증되지 않은 단순 풍자 등은 공직선거법으로 처벌하기 어려워서다. 양홍석 법무법인 이공 변호사는 “영상이나 음향이 실제 인물과 유사하더라 ‘허위’라는 걸 인식할 수 있다면 처벌이 어려울 수 있다”고 말했다.
다만 이번 대선에선 동영상 생성 AI ‘소라’(Sora) 등 생성형 AI 기술이 대중화된 만큼 딥페이크와 딥보이스를 활용한 허위사실 유포 등이 늘어날 것으로 예상돼 형사처벌 사례가 나올 가능성도 있다. 선관위 삭제 요청을 받아 관련 영상을 삭제 조치하는 KISO의 한 관계자는 “기술에 익숙하지 않은 고령층일수록 가짜인지 알기 어렵고, 딥보이스는 누가 들어도 구분하기 어려울 정도”라고 설명했다.
이와 관련해 경찰은 대선 관련 딥페이크 영상물 8건(18명)을 수사 중이라고 이날 밝혔다. 이재명 더불어민주당 대선 후보 얼굴에 “대한민국을 신 전체주의로 만들겠다”는 음성을 덧입히고, 이 후보가 부인인 김혜경 여사에게 험악한 호칭을 쓰며 나무라는 딥페이크 영상이 유포되자 민주당은 경찰에 고발장을 접수하기도 했다.
이주호 대통령 권한대행 부총리 겸 교육부 장관은 이날 “금품수수, 허위사실 유포, 선거폭력, 불법 딥페이크 영상 등은 선거의 정당성을 흔들 수 있는 중대한 범죄”라며 법무부와 경찰청에 사전 예방과 엄정 단속을 지시했다. 선관위 관계자는 “위반 정도가 경미하고 전파성이 낮은 게시물은 삭제 요청 중”이라면서 “악의적인 딥페이크가 발견되면 고발 등 엄중 조치할 예정”이라고 밝혔다.
