https://n.news.naver.com/mnews/article/057/0001905252?sid=001

 

테일러 스위프트 / 사진=연합뉴스
메타가 팝스타 테일러 스위프트, 배우 앤 해서웨이 등 유명인의 이름과 모습을 당사자 동의 없이 사용해 소셜미디어 챗봇 수십 개를 만들었다고 로이터통신이 29일(현지 시각) 보도했습니다.

챗봇 상당수는 메타가 제공한 제작 도구로 개인 사용자들이 만들었지만, 메타 직원도 테일러 스위프트 패러디 챗봇 등 최소 3개를 직접 제작한 것으로 드러났습니다.

인공지능(AI)으로 생성한 가상 유명인 챗봇은 메타가 운영하는 플랫폼인 페이스북, 인스타그램, 왓츠앱에서 공유됐습니다.

로이터가 몇 주간 실험한 결과, 챗봇들은 자신이 실제 배우나 가수라고 주장하며 사용자에게 만남 제안을 하는 등 성적인 접근을 반복했습니다.

일부 성인 유명인 챗봇은 특히 선정적이었습니다. 사적인 사진을 요구하면 실제 인물과 똑같이 생긴 사람이 욕조에 앉아 있거나 속옷만 입은 사진을 만들었습니다.

로이터는 메타가 청소년 배우의 챗봇도 허용한 정황을 포착했다. 16세 배우 워커 스코벨의 챗봇에 '해변 사진'을 요청하자 상의를 입지 않은 이미지를 생성했습니다.

메타 생성형 AI 담당 부서의 한 제품 리더는 직접 테일러 스위프트와 영국 레이싱 선수 루이스 해밀턴 챗봇을 만들었습니다.

로이터의 실험에서 테일러 스위프트 챗봇은 싱글이라고 밝힌 사용자에게 "금발 소녀 좋아하세요? 우리 러브스토리를 써 볼까요?" 같은 멘트를 던졌습니다.

메타 측은 직원이 만든 챗봇이 제품 테스트 차원이었다고 해명했으나, 사용자 상호작용 누적 1천만 회 이상을 기록한 것으로 나타났습니다.

또 로이터는 한 사용자가 만든 앤 해서웨이의 '섹시 빅토리아 시크릿 모델' 이미지를 배우 측에 전달했습니다. 해서웨이 측은 메타 등 AI 플랫폼에서 만들어진 이런 이미지를 인지하고 있으며, 대응을 검토 중이라고 밝혔습니다.

이번 기사가 공개되기 전 메타는 문제가 된 챗봇 십수개를 삭제했습니다. 삭제 사유에 대한 언급은 거부했습니다.

앤디 스톤 메타 대변인은 로이터에 "메타 정책은 유명인 이미지 생성 자체는 허용하지만 누드, 은밀한 모습, 성적 암시가 담긴 이미지는 금지하고 있다"며 "속옷을 입은 이미지가 만들어진 것은 정책 집행 실패"라고 인정했습니다.

아울러 "메타 AI 도구가 성인 유명인의 은밀한 이미지를 생성하거나 아동 연예인의 사진을 만들어서는 안 된다"고 덧붙였습니다.

최근 메타의 AI 챗봇이 어린이들과 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기되기도 했습니다.

이에 미국 연방 상원이 공식 조사에 나섰으며, 44개 주 법무장관이 메타를 비롯한 AI 챗봇 기업 12곳에 어린이 보호 조치를 강화하라고 서한을 보냈습니다.