AI를 이용해 연예인 얼굴을 합성한 가짜 포르노 등장

레딧(Reddit)에서 deepfakes라는 이름을 쓰는 유저가 갤 가돗의 얼굴을 합성한 가짜 포르노 영상을 올렸습니다. 그는 스칼릿 조핸슨, 테일러 스위프트 등의 다른 얼굴도 합성한 영상도 게시했습니다.

수사를 피하기 위해 이름을 밝히는 것을 거부한 그는 구글이 무료로 공개한 TensorFlow를 백엔드로 활용하는 Keras 같은 여러 오픈 소스 라이브러리를 기초로 하여, 구글 이미지 검색이나 유튜브 동영상을 통해 얼굴 이미지를 수집하여 딥 러닝 알고리즘을 훈련시켰다고 말했습니다. 

AI 연구자인 Alex Champandard는 일반 소비자용 그래픽카드로 몇 시간 만에 이런 작업을 처리할 수 있고, 더 느리고 며칠 더 걸리지만 CPU로도 작업할 수 있다고 말하며 그렇게 어려운 일이 아니라고 말했습니다.

2015-2016년 사이 전세계에서 구글 포토에 240억 장의 셀카 사진을 올렸다고 합니다. 아마추어 프로그래머가 알고리즘을 이용하여 괴롭히고 싶은 사람의 섹스 테이프를 제작하는 걸 상상하는 것이 어렵지 않은 것입니다.

그는 자신이 전문 연구 인력이 아니며, 머신 러닝에 관심이 많은 프로그래머라고 소개했습니다. 레딧 댓글란에서 그는 여름 영상을 겨울로 바꾸는 엔비디아의 알고리즘과 비슷한 걸 이용했다고 말하기도 했는데 엔비디아 연구원들은 이런 식의 활용 가능성에 대해 코멘트하는 것을 거절했습니다.

그에게 영상을 만들면서 윤리적인 문제는 생각하지 않았는지 물었더니 "모든 기술은 나쁜 동기로 사용될 수 있고, 그것을 막을 수는 없다"고 말하며 영화 '분노의 질주: 더 세븐'에서 고인이 된 배우 폴 워커를 출연시키기 위해 활용했던 기술에 비유하기도 했습니다. 그러면서 "가장 큰 차이점은 모든 사람이 그렇게 하는 것이 얼마나 쉬운 것인지일 뿐"이라고 하면서 자신은 "더 많은 일반인들이 머신 러닝 연구에 참여하는 것이 나쁘지 않다고 생각"한다고 말했습니다.

* 출처

"AI-Assisted Fake Porn Is Here and We’re All Fucked" :: Motherboard 기사 요약

- 후출처 : 클리앙