최근 딥페이크(인공지능 기반 이미지 합성)를 이용한 성착취 범죄가 전세계적 문제로 떠오른 가운데, 미국 정보기술(IT) 산업의 메카 ‘실리콘밸리’가 있는 캘리포니아주(州)가 법적 규제에 나섰다. 가상의 인물이라도 미성년자 성착취를 표현하는 딥페이크 생산물은 제작자 뿐 아니라 배포하거나 소지한 사람까지 전부 처벌하겠다는 것이다. 이달 30일 이전에 민주당 소속 개빈 뉴섬 주지사가 법안에 서명하면 캘리포니아는 미 50개주 중 최초로 AI 딥페이크에 대한 포괄적 규제를 도입한 주가 된다.

AP통신 등은 지난달 31일(현지 시간) 캘리포니아 주의회가 이같이 내용을 담긴 법안들을 통과시켰다고 전했다. 원래 표현의 자유를 강조하는 미국 법은 딥페이크 속 등장인물이 실존인물이 아닐 경우 불법이 아니라고 보아 처벌하지 않았는데, 주의회는 더 강력하게 규제하겠노라 선포한 것이다.

최근 한국에서도 서울경찰청이 텔레그램에서 279개의 딥페이크 성착취물을 제작한 20대 남성을 긴급체포한 바 있다. 피해자만 246명에 달한다.

대선을 앞둔 만큼 캘리포니아 주의회는 성착취물 뿐 아니라 선거 관련 딥페이크 규제를 강화하는 내용의 법안도 함께 올렸다. 선거 관련 딥페이크 제작을 금지했으며, 소셜미디어(SNS) 업체에도 선거 120일 전부터는 딥페이크 선거 콘텐츠를 규제할 의무를 부과했다. 또한 만약 제작할 경우 선거 당국이나 후보가 손해배상을 청구할 수 있는 길을 마련했다. 다만 이 법안은 풍자가 목적인 제작물은 예외로 뒀다.

https://n.news.naver.com/mnews/article/020/0003584979?sid=104