네이버의 인공지능(AI) 플랫폼 ‘네이버 클로바’가 혐한 단어를 차단 없이 그대로 노출하고 있는 것으로 확인됐다. 특히나 다른 인종차별 단어는 모두 차단하고 있어 국민 정서에 반한다는 지적이 잇따른다.

정부와 정치권은 네이버 클로바 등 인공지능 플랫폼과 챗봇의 필터링이 제대로 안될 경우 이용자에게 반사회적 영향을 끼치고 특히 청소년에게 왜곡된 인식을 줄 수 있다고 보고 관련법 제정을 추진 중이다.

7일 IT조선 취재 결과, 네이버 클로바의 AI챗봇에 익히 알려진 인종차별 단어들을 음성 인식하면 그 중 혐한 단어인 ‘조센징’만 차단 없이 뜻이 노출된다.

반면, 중국인 비하 단어 ‘짱깨’, 일본인 비하 단어 ‘쪽바리’, 흑인 비하 단어 ‘니그로(Negro)’ 등을 음성 인식하면 "안 들은 걸로 할게요", "듣고 싶지 않은 말이에요", "남에게 상처주는 말이에요" 등의 답변이 돌아왔다. 혐한 정서를 가진 이들 사이에서 주로 쓰는 한국인 비하 단어인 ‘조센징’을 음성 인식할 때와는 대조되는 응답이다.

https://img.theqoo.net/cqrEx

AI챗봇은 ‘조센징’이라는 단어에 "조센징은 조선인의 일본어 독음 명칭입니다. 본래 뜻은 인종 차별적인 의미가 없었으나, 일제 강점기를 거치면서 한국인에 대한 멸시의 단어로 사용되기 시작했습니다"라고 답했다.

현재까지 출시된 AI 챗봇 중 가장 뛰어나 사회적 관심을 받고 있는 ‘챗GPT’의 경우, 인종 차별 단어를 대부분 차단하고 있었다. 챗GPT는 인종 차별 단어에 대한 의미를 물었을 때 모두 뜻을 알려주면서도 인종 차별적이고 모욕적인 단어라고 대답했다. 사용해서는 안 되는 단어라고 덧붙이기도 했다.

https://img.theqoo.net/HuNcP

네이버 측은 6일 IT조선 취재가 시작하자 현재는 해당 단어에 대해 차단한 상태다. 현재 네이버 클로바에 ‘조센징’이라는 단어를 음성 인식하면 "답변하기 곤란하네요"라는 답변이 돌아온다.

네이버 관계자는 "네이버 클로바는 성적인 단어, 유해단어, 욕설 등이 포함된 단어를 사전 필터링하고 있으며, 사전 필터링에 없는 단어여도 사후 모니터링을 통해 차단하고 있다"고 말했다. 또, "정보성으로 ‘OOO이 뭐야’ 등의 질의나 의미만 주로 들어오는 경우는 정보성으로 제공 가능한 범위여서 답변을 제공하는 것이 원칙이나, 비하성 발화 등이 사후 모니터링으로 감지되는 경우 필터 대상이 되기도 한다"고 설명했다.

...

https://it.chosun.com/site/data/html_dir/2023/03/07/2023030700755.html?utm_source=daum&utm_medium=original&utm_campaign=it