경찰 보디캠으로 촬영한 것처럼 제작된 인공지능(AI) 가짜 영상 / 사진=인스타그램 캡처

교복을 입고 길거리에서 담배를 피우는 학생에게 경찰이 다가가 질책하는 장면, 이어 보디캠을 보고 "경찰이 몰래카메라 찍고 다니냐. 변태다"라며 조롱하는 학생의 모습이 등장합니다. 경찰은 "요즘 학생들 진짜 미쳐버리겠네..."라며 난감해하는 반응을 보입니다.

그러나 이 영상은 실제 상황이 아닌 인공지능(AI)으로 제작된 가짜 영상인 것으로 드러났습니다.

언론사 취재를 종합하면, 이 같은 '가짜 경찰 출동 영상'은 지난 10월 2일부터 한 유튜브 채널을 시작으로 인스타그램과 틱톡 등에 게시되기 시작해 현재 50개를 넘는 것으로 확인됐습니다. 영상들은 폭행, 말다툼, 음주운전 현장 등에 출동한 경찰의 보디캠 화면처럼 연출돼 사실성을 높였습니다.

AI로 제작된 이 영상들은 10월 한 달 동안 인스타그램에서만 누적 조회 수 1천200만 회를 기록했으며, 틱톡 채널은 개설 한 달 만에 팔로워 수가 9천900명에 달하는 등 온라인상에서 큰 화제를 모았습니다.

문제는 상당수 누리꾼이 해당 영상이 가짜임을 인지하지 못하고 있다는 점입니다. 지난달 27일 수도권을 시작으로 이달 초 대전까지 전국적으로 경찰 보디캠이 도입된 시점과 맞물리며 오해를 키웠다는 분석이 나옵니다. 실제로 BJ 검거 장면으로 연출된 영상에는 "경찰이 시민의 자유를 억압한다"는 등의 비판 댓글도 다수 달렸습니다.

최근 한 유튜버가 불법 주정차 신고에 대한 경찰 대응을 문제 삼는 영상을 게시하자 관할 경찰서장이 "마녀사냥을 멈춰달라"며 공개적으로 호소하는 등 경찰 과잉 대응을 둘러싼 논란이 이어지는 가운데, AI 가짜 영상이 이러한 오해를 더욱 증폭시킬 수 있다는 우려도 제기됩니다.

이에 경찰청은 AI로 제작된 허위 영상 유포로 인한 피해 확산을 막기 위해 해당 SNS 채널 운영자에 대해 입건 전 조사(내사)에 착수하겠다고 밝혔습니다. 경찰은 채널 운영자가 자신이나 타인에게 이익 또는 손해를 가할 목적으로 허위 정보를 유포한 것으로 보고, 전기통신기본법 위반 혐의 적용을 우선 검토하고 있습니다. 아울러 영상 삭제나 차단 조치도 병행할 방침입니다.

다만 공익을 해할 목적으로 허위 통신을 한 경우를 처벌하도록 규정한 전기통신기본법 제47조 제1항은 2010년 이른바 '미네르바 사건' 이후 헌법불합치 결정을 받아 폐지된 상태입니다. 이를 대체할 명확한 법적 근거가 마련되지 않아, 실제 처벌로 이어질지는 불투명하다는 지적도 나옵니다.

내년 1월 시행을 앞둔 AI 기본법 역시 규제보다는 산업 진흥에 초점을 맞추고 있어, 사회적 혼란을 유발할 수 있는 AI 허위 콘텐츠에 대한 직접적인 규제 조항은 담고 있지 않습니다. 이로 인해 AI 기술 악용을 막기 위한 보완 입법이 필요하다는 목소리가 커지고 있습니다.

https://n.news.naver.com/mnews/article/057/0001926366?sid=102