메뉴 건너뛰기

기사/뉴스 [단독] ‘3세 사용’ 사진 앱 소다, AI ‘외설 이미지’ 합성…스노우 “대책 마련 중”
4,120 4
2024.09.06 10:55
4,120 4

[이코노미스트 박세진 기자·정두용 기자] 네이버 자회사 스노우가 운영하는 카메라 애플리케이션(앱) ‘소다’(SODA)에서 성적 수치심을 유발하는 합성 사진이 나왔다.

 

인공지능(AI) 기술 기반의 배경 자동 편집 기능을 통해 사진을 보정 중 부적절한 이미지가 원본에 덧씌워진 것. 소다의 AI 편집 기능은 유료 서비스다. 

 

5일 본지 취재를 종합하면 A씨는 최근 소다 앱을 통해 증명사진 배경 너비 보정을 위해 ‘AI 배경 확장’ 기능을 사용했다. 편집된 사진에는 ‘성적 수치심’을 유발하는 배경이 합성됐다. 양쪽 손으로 가슴을 움켜쥐고 있는 듯한 모습이 하단에 추가됐다. 

 

AI 필터 편집은 사진·영상에 다양한 효과를 자동으로 보정해 주는 기능이다. AI에 학습된 데이터에 따라 결과물이 달라진다. 

 

A씨는 본지와의 통화에서 “10월 결혼을 앞두고 웨딩 사진을 보정하기 위해 해당 앱의 유료 서비스를 구독했는데, 이런 결과물이 나와 큰 충격을 받았다”이라며 “성적 수치심을 느꼈고 ‘사진이 유출되진 않을까’란 걱정스러운 마음에 잠도 편히 자지 못했다”고 호소했다.

 

(중략)

 

스노우 관계자는 “우선 이 같은 사안으로 이용자께 불편을 끼쳐드려 죄송하다”며 “이번 논란에 대해 인지하고 있고 현재 대책 마련 중”이라고 했다.

 

이어 “스노우를 포함해 현재 상용되고 있는 기술 모델을 활용하는 모든 기업들은 선정적이거나 혐오스러운 이미지를 걸러주는 필터 프롬프트(negative prompt)를 꾸준히 강화하고 업데이트 하는 방식으로 서비스를 고도화하며 부적절한 콘텐츠 생성을 막고있다”며 “다만 아직까지의 기술의 한계 때문에 필터 프롬프트의 적용이 완벽하지 못했던 것으로 파악된다” 해명했다.

 

사진의 유출 우려에 대해선 “이미지 제작과 동시에 데이터가 삭제되기에 있을 수 없는 일”이라며 “이용자에 대한 보상책 관련 논의도 내부적으로 이뤄지고 있다”고 설명했다.

 

https://n.news.naver.com/article/243/0000064363?sid=105

 

https://x.com/nosebum_pasta13/status/1831592163421122936

목록 스크랩 (0)
댓글 4
댓글 더 보기
새 댓글 확인하기

번호 카테고리 제목 날짜 조회
이벤트 공지 [🔐코랄헤이즈 X 더쿠 EVENT🔐] 범규가 선택한 자물쇠틴트! THE NEW '글로우락 젤리 틴트' 체험 이벤트 534 11.05 35,620
공지 ▀▄▀▄▀【필독】 비밀번호 변경 권장 공지 ▀▄▀▄▀ 04.09 3,495,152
공지 공지가 길다면 한번씩 눌러서 읽어주시면 됩니다. 23.11.01 7,250,637
공지 ◤더쿠 이용 규칙◢ [스퀘어/핫게 중계 공지 주의] 20.04.29 25,420,528
공지 ◤성별 관련 공지◢ [언금단어 사용 시 📢무📢통📢보📢차📢단📢] 16.05.21 26,753,868
공지 정보 더쿠 모바일에서 유튜브 링크 올릴때 주의할 점 753 21.08.23 5,159,332
공지 정보 나는 더쿠에서 움짤을 한 번이라도 올려본 적이 있다 🙋‍♀️ 230 20.09.29 4,146,211
공지 팁/유용/추천 더쿠에 쉽게 동영상을 올려보자 ! 3450 20.05.17 4,716,878
공지 팁/유용/추천 슬기로운 더쿠생활 : 더쿠 이용팁 3982 20.04.30 5,186,759
공지 팁/유용/추천 ◤스퀘어 공지◢ [9. 스퀘어 저격판 사용 금지(무통보 차단임)] 1236 18.08.31 9,929,862
모든 공지 확인하기()
31168 팁/유용/추천 르세라핌 1-800-HOT-N-FUN 무대 중 연출 가장 좋은 무대.ytb 4 00:50 1,087
31167 팁/유용/추천 충격 두리안 초록색 염색중.. 5 11.07 3,330
31166 팁/유용/추천 오늘도 작은 동물 피카는 꽃을 모으러 다닌다 ❤️ 11 11.07 1,908
31165 팁/유용/추천 미국인들을 감동시킨 한국계 하원의원 2 11.07 3,644
31164 팁/유용/추천 스타듀밸리 모바일버전 비밀리에 멀티 모드 추가됨 16 11.07 2,135
31163 팁/유용/추천 토스행퀴 11 11.07 1,525
31162 팁/유용/추천 토스행퀴 - 보이스피싱 7 11.07 918
31161 팁/유용/추천 있잖아. 31살을 먹고 백수가 될지 꿈에도 몰랐다? 24 11.07 5,312
31160 팁/유용/추천 토스행퀴 53 11.07 3,688
31159 팁/유용/추천 쓰다듬으면 반려견이 건강하고 행복해진다는 소문이 있는 동상 14 11.07 4,402
31158 팁/유용/추천 토스행퀴 29 11.07 2,312
31157 팁/유용/추천 현재 날씨 : 따뜻하게 입고 출근하세요 35 11.07 8,319
31156 팁/유용/추천 백종원의 최애 술안주라는 들기름 계란후라이.jpg 20 11.07 7,113
31155 팁/유용/추천 존박이 커버한 위플래시 6 11.07 2,362
31154 팁/유용/추천 할리우드에서 ‘최종 편집권’이 갖는 의미란.jpg 23 11.07 5,859
31153 팁/유용/추천 퀴즈)) 해리포터가 가장 처음 만난 호그와트 학생은?? 19 11.06 3,106
31152 팁/유용/추천 이런 시기에 보면 재밌는 미드.jpg 8 11.06 4,239
31151 팁/유용/추천 고양이를 안는 방법 17 11.06 2,310
31150 팁/유용/추천 덬들이 생각하는 배우 박신혜의 인생 케미는?.jpgif 84 11.06 1,798
31149 팁/유용/추천 아예뻐 어떤 고양이가 이렇게 뽀송뽀송하게 생겼어!!! 16 11.06 5,346