[이코노미스트 박세진 기자·정두용 기자] 네이버 자회사 스노우가 운영하는 카메라 애플리케이션(앱) ‘소다’(SODA)에서 성적 수치심을 유발하는 합성 사진이 나왔다.

 

인공지능(AI) 기술 기반의 배경 자동 편집 기능을 통해 사진을 보정 중 부적절한 이미지가 원본에 덧씌워진 것. 소다의 AI 편집 기능은 유료 서비스다. 

 

5일 본지 취재를 종합하면 A씨는 최근 소다 앱을 통해 증명사진 배경 너비 보정을 위해 ‘AI 배경 확장’ 기능을 사용했다. 편집된 사진에는 ‘성적 수치심’을 유발하는 배경이 합성됐다. 양쪽 손으로 가슴을 움켜쥐고 있는 듯한 모습이 하단에 추가됐다. 

 

AI 필터 편집은 사진·영상에 다양한 효과를 자동으로 보정해 주는 기능이다. AI에 학습된 데이터에 따라 결과물이 달라진다. 

 

A씨는 본지와의 통화에서 “10월 결혼을 앞두고 웨딩 사진을 보정하기 위해 해당 앱의 유료 서비스를 구독했는데, 이런 결과물이 나와 큰 충격을 받았다”이라며 “성적 수치심을 느꼈고 ‘사진이 유출되진 않을까’란 걱정스러운 마음에 잠도 편히 자지 못했다”고 호소했다.

 

(중략)

 

스노우 관계자는 “우선 이 같은 사안으로 이용자께 불편을 끼쳐드려 죄송하다”며 “이번 논란에 대해 인지하고 있고 현재 대책 마련 중”이라고 했다.

 

이어 “스노우를 포함해 현재 상용되고 있는 기술 모델을 활용하는 모든 기업들은 선정적이거나 혐오스러운 이미지를 걸러주는 필터 프롬프트(negative prompt)를 꾸준히 강화하고 업데이트 하는 방식으로 서비스를 고도화하며 부적절한 콘텐츠 생성을 막고있다”며 “다만 아직까지의 기술의 한계 때문에 필터 프롬프트의 적용이 완벽하지 못했던 것으로 파악된다” 해명했다.

 

사진의 유출 우려에 대해선 “이미지 제작과 동시에 데이터가 삭제되기에 있을 수 없는 일”이라며 “이용자에 대한 보상책 관련 논의도 내부적으로 이뤄지고 있다”고 설명했다.

 

https://n.news.naver.com/article/243/0000064363?sid=105

 

https://x.com/nosebum_pasta13/status/1831592163421122936