포털과 SNS에 AI로 생성된 가짜 콘텐츠가 넘쳐나고 있다. 

16일 AI 콘텐츠 감지 기업인 오리지널리티AI에 따르면 지난해 10월 기준 링크트인 장문 게시물 중 54%에서 AI 개입 흔적이 발견됐다. 챗GPT가 출시된 직후 AI 게시물 비율이 189% 급증했다. 보안기업인 임페르바 보고서에서도 지난해 기준 전체 웹 트래픽의 절반(49.6%)이 AI 등 봇에 의한 것으로 나타났다. AI 모델들이 학습을 위해 웹을 무작위로 크롤링하면서다.

돈을 벌기 위해 AI로 쉽게 콘텐츠를 생성해 블로그나 SNS에 올리는 사람도 늘어나고 있다. 블로그 클릭 수가 많으면 구글 애드센스나 네이버 애드포스트를 붙여 광고 수익을 낼 수 있다. 포털 블로거인 이다연 씨는 “AI로 작성한 콘텐츠가 많이 늘어나 진위 확인에 시간을 많이 쓰고 있다”며 “예전보다 콘텐츠 품질이 전체적으로 많이 내려간 느낌”이라고 말했다. 유튜브나 인스타그램에 AI로 제작한 가짜 영상을 올린 후 조회 수를 노리는 사례도 다반사다.



AI 콘텐츠 작성 보조 서비스도 쏟아지고 있다. 

. 

.

포털 등이 AI로 작성된 게시물임을 잘 감지하지 못하도록 AI 탐지 방어 기능까지 넣었다.

제품 효능을 강조하는 SNS 광고 글 중 상당수도 AI가 작성한 것이다. ‘피붓결 30% 개선’ 같은 화장품 기능 설명조차 AI가 제작한 허위 정보일 수 있다는 얘기다. 웹에 가짜 정보가 넘쳐나면서 AI 모델 성능이 떨어지는 악순환이 생길 것이란 우려도 나온다. 생성형 AI의 학습은 상당 부분 인터넷상 데이터로 이뤄지는데 AI로 만든 가짜 데이터를 AI가 자꾸 학습하면 최종 결과값이 악화할 수밖에 없기 때문이다. 

AI로 가짜 정보들 계속 올라옴

AI가 그걸또 학습

반복