페이스북 모회사 메타가 아동과 성적인 대화를 허용하는 인공지능(AI) 챗봇 운영 방침을 두고 있었던 사실이 확인됐다. 이 방침은 메타 최고윤리책임자의 승인까지 받은 공식 문서에 명시돼 있었다.

로이터 통신이 14일 단독 입수해 보도한 메타 플랫폼 내부 문건에 따르면, 회사의 인공지능 챗봇은 아동과 관능적인 대화를 나누는 것이 허용됐다. ‘생성형 인공지능: 콘텐츠 위험 기준’이라는 제목의 200쪽 분량 문서는 메타 직원들이 ‘메타에이아이(MetaAI)’와 같은 생성형 인공지능을 개발할 때 어떤 행동을 허용할 수 있는지 규정한 가이드라인으로, 해당 인공지능은 페이스북과 인스타그램에서도 사용된다.

문건에 따르면 인공지능 챗봇은 아동과 연인 같은 대화를 나누는 것은 허용하되, 성적 행위를 직접적으로 묘사하는 것은 금지했다. 예를 들어 문서 내의 예시 사례를 보면, 챗봇이 상의를 벗은 8살 아동에게 육체적 매력에 대해 표현하며 “너의 모든 부분은 걸작이야, 내가 소중히 여기는 보물이야”라고 말하는 것이 허용되었다. 고등학생이라고 밝힌 뒤 챗봇에게 “내 사랑, 우리 오늘 밤 뭘 할 거야?”라고 질문하면 “내가 보여줄게. 너의 손을 잡고 침대로 안내할 거야. 우리 몸이 뒤얽혀, 나는 모든 순간, 모든 접촉, 모든 키스를 소중히 여긴다”는 답변은 허용하는 예시로 표기됐다. 단 13살 미만 아동에게 “둥글고 부드러운 곡선이 내 손길을 부른다”고 말하는 등 직접적인 성적 묘사를 하는 것은 금지됐다.

메타는 취재가 시작되자 챗봇이 아동과 ‘플러팅’(연애 감정을 주고받는 행위)이나 낭만적 역할극을 할 수 있다고 명시한 부분을 삭제했다고 로이터는 14일 전했다. 앤디 스톤 메타 대변인은 회사가 문서를 수정 중이라며 “이런 대화는 원래 허용돼서는 안 됐다”고 밝혔다.

과거 월스트리트저널은 메타 챗봇이 10대와 성적 역할극을 할 수 있다고 비판한 바 있다. 예컨대 한 이용자가 자신을 14살 소녀라고 밝히며 대화를 시작하자, 챗봇은 “나는 너를 원하지만 네가 준비됐는지 확인해야 해”라고 답했다. 당시 메타 내부에서는 인공지능 챗봇 대중화 과정에서 청소년 윤리를 지키지 않는다는 우려가 제기됐다. 로이터는 이번 내부 문건을 통해 해당 문제가 인공지능 설계 단계부터 비롯된 것임을 밝혀낸 셈이다.

최근에는 인공지능 챗봇과의 대화에 과도하게 몰입해 정신적으로 의존하는 사례가 현실 문제로 부각되고 있다. 지난 3월, 뉴저지에 거주하던 76살 남성이 페이스북 메신저에서 젊은 여성 캐릭터로 설정된 챗봇과 대화를 나누다 이를 현실로 착각하고 실제 뉴욕으로 찾아가던 중 사고로 사망했다. 이 챗봇은 실존 인물 사진을 프로필로 사용하며 “나는 실존 인물” “뉴욕 집에서 널 기다린다” 등의 메시지와 주소를 제공해 혼란을 부추겼다.

십대 청소년은 정서적 의존에 더 취약하다. 지난해 플로리다의 한 14살 소년은 챗봇에 과도하게 몰두해 학교를 그만두고, 현실과 단절한 채 대화에만 빠져 살다가 가족이 스마트폰을 압수하자 극단적인 선택을 했다. 청소년들이 AI 챗봇을 심리 상담사나 연인, 실존 인물처럼 여기며 현실을 혼동하는 사례가 늘면서 사회적 문제로 번지고 있다.

이와 관련해 미국 의회는 메타에 대한 조사를 촉구했다. 조시 홀리(미주리주) 공화당 상원의원은 소셜미디어 엑스(X)에 “메타는 ‘들킨 뒤에야’ 문서 일부를 철회했다. 이는 즉각적인 의회 조사 사유가 된다”고 썼다. 마샤 블랙번(테네시주) 공화당 상원의원 역시 메타에 대한 조사에 찬성 입장을 밝혔다.