딥페이크 공유 텔레그램 대화방 우후죽순
유럽연합, 플랫폼에 삭제 의무화
프랑스, 서비스 중지 명령 권한도
전문가들 "플랫폼 개입 법적 근거 마련"
지인의 얼굴에 음란물을 합성해 딥페이크 영상물을 만들고 조롱하는 텔레그램 대화방이 잇따라 발견돼 파장이 일고 있다. 'N번방' 사태에 이어 딥페이크까지 텔레그램은 디지털 성범죄 영상물의 주 유통경로로 전락했으나 경찰의 수사에도 협조하지 않고 있다. 이에 플랫폼에 불법 콘텐츠에 대한 삭제 의무를 부여하고 책임을 강화해야 한다는 요구가 나오고 있다.
딥페이크를 제작하지 못하도록 기술을 원천 차단하는 것이 가능하다면 가장 이상적이겠지만, 현실적으로 불가능하다. 자유롭게 이용할 수 있는 오픈소스(개방형) AI 모델이 크게 늘면서 사실상 누구나 딥페이크를 만들 수 있게 됐기 때문이다. 오픈소스 AI는 소스코드, 데이터 세트 등을 공개해 무료로 사용할 수 있는 AI다.
전문가들은 원천 기술 규제가 불가능한 만큼 유통, 배포를 차단하는 것이 중요하다고 강조한다. 김명주 서울여대 정보보호학과 교수는 "이미 소프트웨어 소스가 오픈돼 일반인들에게 배포됐기 때문에, 원천적으로 소프트웨어를 범죄나 음란물 제작에 사용하지 못하도록 하는 건 불가능하다"며 "플랫폼이 개입해 딥페이크물이 배포되는 것을 걸러내도록 하는 방법이 있다"고 설명했다.
해외 주요국에선 이미 플랫폼의 법적 의무를 부과하는 규제를 발의하거나 마련해 불법, 유해 콘텐츠 차단에 나섰다. 올해부터 시행되는 유럽연합(EU)의 '디지털서비스법'은 온라인 플랫폼에 대한 유해 콘텐츠 검열 의무를 규정하고 있다. 각 플랫폼 운영사가 불법 유해 콘텐츠를 의무적으로 삭제해야 하고, 위반 시 글로벌 매출의 최대 6%를 과징금으로 부과할 수 있게 했다.
이와 별개로 독일은 2017년 '네트워크 집행법'을 제정하고 플랫폼의 감시·감독 책임을 강화했다. 해당 법에 따르면 SNS 플랫폼에는 가짜뉴스를 포함한 불법 콘텐츠를 신고할 수 있는 시스템이 있어야 하고, 신고가 들어오면 위법성을 판단해 24시간 안에 삭제·차단해야 한다.
프랑스는 플랫폼에 무거운 책임을 지우는 국가 중 한 곳이다. 2018년 '정보조작대처법'을 제정했는데, 선거 전 3개월 동안 온라인에 허위정보를 게시하지 못하도록 법원이 강제할 수 있게 하는 내용을 담고 있다. 이 법에서는 해외에 기반을 둔 서비스가 허위정보 유포를 통해 프랑스의 기본 이익을 해치는 경우 '시청각최고심의회'(CSA)가 서비스 중지 명령을 내릴 수 있도록 하는 권한을 부여하고 있다. 선거 기간 외에는 플랫폼 사업자에게 '가짜뉴스에 대한 조치'를 취하게 하는 협력 의무를 부여했다.
최근 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 프랑스 당국에 체포됐던 것도 이와 관련이 있다. 텔레그램은 전 세계적으로 불법 콘텐츠 유통을 묵인하고 있는 대표적인 플랫폼인데, 가장 강경하게 대응하고 있는 프랑스가 칼을 빼든 셈이다. 프랑스 검찰은 미성년자 성착취물과 관련한 사건을 수사하면서 텔레그램에 용의자의 신원을 알려달라고 요청했지만 텔레그램이 응답하지 않자 지난 3월 두로프에 대한 체포영장을 발부한 것으로 전해졌다.
김명주 교수는 "(표면적으로는) 프랑스 내에서 텔레그램이 아동 성착취물을 유통하는 채널을 형성해 CEO를 체포한 것"이라면서도 "근본적으로 플랫폼에 (불법 콘텐츠 유통에 대한) 책임을 물은 셈"이라고 해설했다. 또 "SNS나 플랫폼에서 (딥페이크물이) 배포되는 걸 걸러내야 하는데, 그 역할은 빅테크 기업이 해줘야 하지 않느냐"며 "유럽에서는 플랫폼 기업이 콘텐츠를 유통하며 영리행위를 하는 만큼 유해한 콘텐츠는 스스로 걸러내도록 하는 법안을 만든 것"이라고 설명했다.유럽 밖에서도 플랫폼 규제 움직임이 나타나고 있다. 브라질 대법원은 지난달 초부터 자국 내 법률 대리인을 지정하라는 명령을 따르지 않고 있는 엑스(X)에 대해 지난달 30일(현지시간)부로 브라질 내 X 사용을 금지한다고 결정했다. 서비스 중단 기간은 X가 관련 규정을 준수할 때까지다. 이는 혐오발언과 가짜뉴스를 퍼뜨리는 일부 계정을 중지시키라는 브라질 측의 요구를 X가 수용하지 않고, 이를 협의할 법률 대리인도 지정하지 않은 데 따른 것이다. 한국 일각에서 디지털 성범죄 수사에 협조하지 않는 텔레그램을 아예 차단해야 한다는 주장이 나오는 것과 비슷하다.
브라질 대법원은 통신감독당국에 24시간 안에 브라질 전역에서 X를 차단하라고 명령했다. 만약 VPN(가상사설망) 등 우회경로를 통해 X에 접속하는 브라질 개인이나 기업은 하루 5만 헤알(약 1,192만 원)을 벌금으로 물도록 했다.
우리나라는 갈 길이 멀다. 공직선거법에서 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 금지하고 있을 뿐 딥페이크 성착취물의 유통을 제한하거나 플랫폼이 자체적으로 삭제하도록 하는 규정은 딱히 없다.
그나마 플랫폼 등의 책임을 강조한 발의안이 21대 국회에서 발의된 정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안이다. 인공지능 생성물이라는 점을 워터마크처럼 의무적으로 표시하도록 하고 이를 위반한 채 유통되면 플랫폼 운영사 등 정보통신서비스 제공자가 삭제하도록 하는 내용을 담고 있다.
지난 국회에서 처리되지 못한 채 폐기됐고, 22대 국회에서 같은 내용의 개정안이 재발의됐다. 논의조차 되지 않다가 학교를 중심으로 한 딥페이크 범죄가 불거진 지난달 26일에서야 소관위원회인 과학기술정보방송통신위원회에 상정됐다.
전문가들은 우리나라도 유럽처럼 각 플랫폼 사업자에 유해 콘텐츠 유포를 막을 의무를 부여하고 이를 어길 시 책임을 물을 수 있는 법적 근거를 마련해야 한다고 강조한다.
대통령실 사이버특별보좌관을 맡고 있는 임종인 고대 정보보호대학원 명예교수는 "방송통신심의위원회(방통위)가 (딥페이크물 등의) 삭제를 요청하더라도 법적 근거가 있어야 플랫폼 사업자가 신속하게 협력해 준다"며 "자칫 표현의 자유를 침해한다는 논란이 있을 수 있기에, 사회 공공질서를 교란할 수 있는 영상이나 이미지에 한해 플랫폼 사업자가 협력해야 한다는 것을 법에 명시하는 것이 가장 효과가 있을 것"이라고 말했다.
임 교수는 해외에 기반을 둔 플랫폼 사업자가 삭제 요구 등에 협조하지 않을 것에 대비해 국제 공조를 강화해야 한다고 조언했다. 그는 "우리나라는 시장 규모가 작아 접속 금지 등의 제재 조치를 두더라도 실효성이 없다"며 "한국에 대리인을 둬 접촉 창구를 만들도록 강제하고, EU나 미국 등과 공동 대응하는 방안을 마련해야 한다"고 강조했다.
국회, 정부에서도 플랫폼 책임 강화에 대한 인식이 커지고 있다. 방통위는 국내 포털 사이트와 텔레그램, 페이스북 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성해 신속 삭제 차단 조치와 함께 자율적 규제를 요청하기로 했다. 또 텔레그램과의 직접 소통이 가능하도록 프랑스 수사당국에 협조요청을 했다.
김승수 국민의힘 의원은 "최근 대학교, 군대, 심지어 청소년까지 사회 전반에서 인공지능을 기반으로 이미지를 합성한 딥페이크 성범죄가 기승을 부려 충격을 주고 있고, 강력한 제재를 요구하는 목소리가 높아지고 있다"며 "딥페이크 성범죄물 제작 및 유포에 제동을 걸기 위해 AI 생성물 표기를 의무화하고, 플랫폼의 책임과 역할을 강화하는 법안이 반드시 마련돼야 한다"고 밝혔다.
유럽연합, 플랫폼에 삭제 의무화
프랑스, 서비스 중지 명령 권한도
전문가들 "플랫폼 개입 법적 근거 마련"
원본보기
지인의 얼굴에 음란물을 합성해 딥페이크 영상물을 만들고 조롱하는 텔레그램 대화방이 잇따라 발견돼 파장이 일고 있다. 'N번방' 사태에 이어 딥페이크까지 텔레그램은 디지털 성범죄 영상물의 주 유통경로로 전락했으나 경찰의 수사에도 협조하지 않고 있다. 이에 플랫폼에 불법 콘텐츠에 대한 삭제 의무를 부여하고 책임을 강화해야 한다는 요구가 나오고 있다.
딥페이크를 제작하지 못하도록 기술을 원천 차단하는 것이 가능하다면 가장 이상적이겠지만, 현실적으로 불가능하다. 자유롭게 이용할 수 있는 오픈소스(개방형) AI 모델이 크게 늘면서 사실상 누구나 딥페이크를 만들 수 있게 됐기 때문이다. 오픈소스 AI는 소스코드, 데이터 세트 등을 공개해 무료로 사용할 수 있는 AI다.
전문가들은 원천 기술 규제가 불가능한 만큼 유통, 배포를 차단하는 것이 중요하다고 강조한다. 김명주 서울여대 정보보호학과 교수는 "이미 소프트웨어 소스가 오픈돼 일반인들에게 배포됐기 때문에, 원천적으로 소프트웨어를 범죄나 음란물 제작에 사용하지 못하도록 하는 건 불가능하다"며 "플랫폼이 개입해 딥페이크물이 배포되는 것을 걸러내도록 하는 방법이 있다"고 설명했다.
딥페이크 유통 차단 핵심… 유럽은 플랫폼 책임 강화
원본보기
해외 주요국에선 이미 플랫폼의 법적 의무를 부과하는 규제를 발의하거나 마련해 불법, 유해 콘텐츠 차단에 나섰다. 올해부터 시행되는 유럽연합(EU)의 '디지털서비스법'은 온라인 플랫폼에 대한 유해 콘텐츠 검열 의무를 규정하고 있다. 각 플랫폼 운영사가 불법 유해 콘텐츠를 의무적으로 삭제해야 하고, 위반 시 글로벌 매출의 최대 6%를 과징금으로 부과할 수 있게 했다.
이와 별개로 독일은 2017년 '네트워크 집행법'을 제정하고 플랫폼의 감시·감독 책임을 강화했다. 해당 법에 따르면 SNS 플랫폼에는 가짜뉴스를 포함한 불법 콘텐츠를 신고할 수 있는 시스템이 있어야 하고, 신고가 들어오면 위법성을 판단해 24시간 안에 삭제·차단해야 한다.
프랑스는 플랫폼에 무거운 책임을 지우는 국가 중 한 곳이다. 2018년 '정보조작대처법'을 제정했는데, 선거 전 3개월 동안 온라인에 허위정보를 게시하지 못하도록 법원이 강제할 수 있게 하는 내용을 담고 있다. 이 법에서는 해외에 기반을 둔 서비스가 허위정보 유포를 통해 프랑스의 기본 이익을 해치는 경우 '시청각최고심의회'(CSA)가 서비스 중지 명령을 내릴 수 있도록 하는 권한을 부여하고 있다. 선거 기간 외에는 플랫폼 사업자에게 '가짜뉴스에 대한 조치'를 취하게 하는 협력 의무를 부여했다.
원본보기
최근 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 프랑스 당국에 체포됐던 것도 이와 관련이 있다. 텔레그램은 전 세계적으로 불법 콘텐츠 유통을 묵인하고 있는 대표적인 플랫폼인데, 가장 강경하게 대응하고 있는 프랑스가 칼을 빼든 셈이다. 프랑스 검찰은 미성년자 성착취물과 관련한 사건을 수사하면서 텔레그램에 용의자의 신원을 알려달라고 요청했지만 텔레그램이 응답하지 않자 지난 3월 두로프에 대한 체포영장을 발부한 것으로 전해졌다.
김명주 교수는 "(표면적으로는) 프랑스 내에서 텔레그램이 아동 성착취물을 유통하는 채널을 형성해 CEO를 체포한 것"이라면서도 "근본적으로 플랫폼에 (불법 콘텐츠 유통에 대한) 책임을 물은 셈"이라고 해설했다. 또 "SNS나 플랫폼에서 (딥페이크물이) 배포되는 걸 걸러내야 하는데, 그 역할은 빅테크 기업이 해줘야 하지 않느냐"며 "유럽에서는 플랫폼 기업이 콘텐츠를 유통하며 영리행위를 하는 만큼 유해한 콘텐츠는 스스로 걸러내도록 하는 법안을 만든 것"이라고 설명했다.유럽 밖에서도 플랫폼 규제 움직임이 나타나고 있다. 브라질 대법원은 지난달 초부터 자국 내 법률 대리인을 지정하라는 명령을 따르지 않고 있는 엑스(X)에 대해 지난달 30일(현지시간)부로 브라질 내 X 사용을 금지한다고 결정했다. 서비스 중단 기간은 X가 관련 규정을 준수할 때까지다. 이는 혐오발언과 가짜뉴스를 퍼뜨리는 일부 계정을 중지시키라는 브라질 측의 요구를 X가 수용하지 않고, 이를 협의할 법률 대리인도 지정하지 않은 데 따른 것이다. 한국 일각에서 디지털 성범죄 수사에 협조하지 않는 텔레그램을 아예 차단해야 한다는 주장이 나오는 것과 비슷하다.
브라질 대법원은 통신감독당국에 24시간 안에 브라질 전역에서 X를 차단하라고 명령했다. 만약 VPN(가상사설망) 등 우회경로를 통해 X에 접속하는 브라질 개인이나 기업은 하루 5만 헤알(약 1,192만 원)을 벌금으로 물도록 했다.
한국, 플랫폼 책임법 요원… 선거 딥페이크만 금지
원본보기
우리나라는 갈 길이 멀다. 공직선거법에서 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 금지하고 있을 뿐 딥페이크 성착취물의 유통을 제한하거나 플랫폼이 자체적으로 삭제하도록 하는 규정은 딱히 없다.
그나마 플랫폼 등의 책임을 강조한 발의안이 21대 국회에서 발의된 정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안이다. 인공지능 생성물이라는 점을 워터마크처럼 의무적으로 표시하도록 하고 이를 위반한 채 유통되면 플랫폼 운영사 등 정보통신서비스 제공자가 삭제하도록 하는 내용을 담고 있다.
지난 국회에서 처리되지 못한 채 폐기됐고, 22대 국회에서 같은 내용의 개정안이 재발의됐다. 논의조차 되지 않다가 학교를 중심으로 한 딥페이크 범죄가 불거진 지난달 26일에서야 소관위원회인 과학기술정보방송통신위원회에 상정됐다.
전문가 "딥페이크 삭제 법적 근거 마련해야"
원본보기
전문가들은 우리나라도 유럽처럼 각 플랫폼 사업자에 유해 콘텐츠 유포를 막을 의무를 부여하고 이를 어길 시 책임을 물을 수 있는 법적 근거를 마련해야 한다고 강조한다.
대통령실 사이버특별보좌관을 맡고 있는 임종인 고대 정보보호대학원 명예교수는 "방송통신심의위원회(방통위)가 (딥페이크물 등의) 삭제를 요청하더라도 법적 근거가 있어야 플랫폼 사업자가 신속하게 협력해 준다"며 "자칫 표현의 자유를 침해한다는 논란이 있을 수 있기에, 사회 공공질서를 교란할 수 있는 영상이나 이미지에 한해 플랫폼 사업자가 협력해야 한다는 것을 법에 명시하는 것이 가장 효과가 있을 것"이라고 말했다.
임 교수는 해외에 기반을 둔 플랫폼 사업자가 삭제 요구 등에 협조하지 않을 것에 대비해 국제 공조를 강화해야 한다고 조언했다. 그는 "우리나라는 시장 규모가 작아 접속 금지 등의 제재 조치를 두더라도 실효성이 없다"며 "한국에 대리인을 둬 접촉 창구를 만들도록 강제하고, EU나 미국 등과 공동 대응하는 방안을 마련해야 한다"고 강조했다.
국회, 정부에서도 플랫폼 책임 강화에 대한 인식이 커지고 있다. 방통위는 국내 포털 사이트와 텔레그램, 페이스북 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성해 신속 삭제 차단 조치와 함께 자율적 규제를 요청하기로 했다. 또 텔레그램과의 직접 소통이 가능하도록 프랑스 수사당국에 협조요청을 했다.
김승수 국민의힘 의원은 "최근 대학교, 군대, 심지어 청소년까지 사회 전반에서 인공지능을 기반으로 이미지를 합성한 딥페이크 성범죄가 기승을 부려 충격을 주고 있고, 강력한 제재를 요구하는 목소리가 높아지고 있다"며 "딥페이크 성범죄물 제작 및 유포에 제동을 걸기 위해 AI 생성물 표기를 의무화하고, 플랫폼의 책임과 역할을 강화하는 법안이 반드시 마련돼야 한다"고 밝혔다.
https://n.news.naver.com/article/469/0000820764?cds=news_my
