19일 서울시의회 제327회 정례회의 시정질의자로 나선 윤영희 서울시의원(국민의힘)은 최근 지방의회 의원들을 상대로 한 딥페이크 범죄 피해가 확산 중이라고 언급하며 직접 오세훈 시장의 얼굴로 만들어진 딥페이크 영상을 공개했다.

서울시의회 제327회 정례회에 등장한 오세훈 시장의 딥페이크 영상. [사진=서울시의회 유튜브 캡처]

지방의원들을 대상으로 딥페이크 범죄를 막을 방안을 고민해 달라는 요청을 하는 과정에서 딥페이크 기술의 파급력을 쉽게 설명하기 위해 윤 의원이 직접 영상을 만들어 본 것이다.

윤 의원은 휴대전화 애플리케이션을 이용해 한 외국 배우의 영상에 오 시장의 얼굴을 합성했다. 그는 “제가 이 영상을 1분도 안 돼서 만들었는데 심지어 무료였고 너무 쉬웠다”고 지적했다.

영상이 회의장에서 재생되자 참석자들은 폭소를 터뜨렸고, 오 시장도 단상에서 웃으며 "묘하게 닮았다"고 반응했다.

윤 의원은 이 영상을 통해 딥페이크 기술의 간편함과 저비용으로 인한 위험성을 실감케 했다. "이처럼 누구나 쉽게 제작할 수 있는 딥페이크가 개인의 명예와 사생활을 침해하거나, 사회적 혼란을 야기할 가능성이 크다"며 지방자치단체 차원의 대책 마련을 촉구했다.

이에 오 시장은 서울시가 디지털 성범죄 대응에 선제적으로 나서고 있다고 밝혔다. 그는 “서울시는 디지털성범죄피해자지원센터에서 AI 프로그램을 도입해 관련 영상을 탐지 및 삭제하고 있다"며, "과거에는 사람이 수작업으로 진행해야 했지만, 이제 AI 기술을 통해 대량으로 처리할 수 있게 됐다"고 설명했다. 이어 “피해자가 되면 사회적·정신적 피해가 극심한 만큼 앞으로도 인격권을 철저히 보호할 수 있게 하겠다”고 강조했다.

https://n.news.naver.com/mnews/article/277/0005502992?sid=102