메뉴 건너뛰기

기사/뉴스 [단독] ‘3세 사용’ 사진 앱 소다, AI ‘외설 이미지’ 합성…스노우 “대책 마련 중”
4,019 4
2024.09.06 10:55
4,019 4

[이코노미스트 박세진 기자·정두용 기자] 네이버 자회사 스노우가 운영하는 카메라 애플리케이션(앱) ‘소다’(SODA)에서 성적 수치심을 유발하는 합성 사진이 나왔다.

 

인공지능(AI) 기술 기반의 배경 자동 편집 기능을 통해 사진을 보정 중 부적절한 이미지가 원본에 덧씌워진 것. 소다의 AI 편집 기능은 유료 서비스다. 

 

5일 본지 취재를 종합하면 A씨는 최근 소다 앱을 통해 증명사진 배경 너비 보정을 위해 ‘AI 배경 확장’ 기능을 사용했다. 편집된 사진에는 ‘성적 수치심’을 유발하는 배경이 합성됐다. 양쪽 손으로 가슴을 움켜쥐고 있는 듯한 모습이 하단에 추가됐다. 

 

AI 필터 편집은 사진·영상에 다양한 효과를 자동으로 보정해 주는 기능이다. AI에 학습된 데이터에 따라 결과물이 달라진다. 

 

A씨는 본지와의 통화에서 “10월 결혼을 앞두고 웨딩 사진을 보정하기 위해 해당 앱의 유료 서비스를 구독했는데, 이런 결과물이 나와 큰 충격을 받았다”이라며 “성적 수치심을 느꼈고 ‘사진이 유출되진 않을까’란 걱정스러운 마음에 잠도 편히 자지 못했다”고 호소했다.

 

(중략)

 

스노우 관계자는 “우선 이 같은 사안으로 이용자께 불편을 끼쳐드려 죄송하다”며 “이번 논란에 대해 인지하고 있고 현재 대책 마련 중”이라고 했다.

 

이어 “스노우를 포함해 현재 상용되고 있는 기술 모델을 활용하는 모든 기업들은 선정적이거나 혐오스러운 이미지를 걸러주는 필터 프롬프트(negative prompt)를 꾸준히 강화하고 업데이트 하는 방식으로 서비스를 고도화하며 부적절한 콘텐츠 생성을 막고있다”며 “다만 아직까지의 기술의 한계 때문에 필터 프롬프트의 적용이 완벽하지 못했던 것으로 파악된다” 해명했다.

 

사진의 유출 우려에 대해선 “이미지 제작과 동시에 데이터가 삭제되기에 있을 수 없는 일”이라며 “이용자에 대한 보상책 관련 논의도 내부적으로 이뤄지고 있다”고 설명했다.

 

https://n.news.naver.com/article/243/0000064363?sid=105

 

https://x.com/nosebum_pasta13/status/1831592163421122936

목록 스크랩 (0)
댓글 4
댓글 더 보기
새 댓글 확인하기

번호 카테고리 제목 날짜 조회
이벤트 공지 [🌟 타입넘버 X 더쿠 🌟] 미리 만나는 손안의 크리스마스, <타입넘버 핸드크림 홀리데이 에디션> 체험 이벤트 404 11.01 22,928
공지 ▀▄▀▄▀【필독】 비밀번호 변경 권장 공지 ▀▄▀▄▀ 04.09 3,402,970
공지 공지가 길다면 한번씩 눌러서 읽어주시면 됩니다. 23.11.01 7,155,681
공지 ◤더쿠 이용 규칙◢ [스퀘어/핫게 중계 공지 주의] 20.04.29 25,288,708
공지 ◤성별 관련 공지◢ [언금단어 사용 시 📢무📢통📢보📢차📢단📢] 16.05.21 26,650,294
공지 정보 더쿠 모바일에서 유튜브 링크 올릴때 주의할 점 752 21.08.23 5,106,745
공지 정보 나는 더쿠에서 움짤을 한 번이라도 올려본 적이 있다 🙋‍♀️ 230 20.09.29 4,088,427
공지 팁/유용/추천 더쿠에 쉽게 동영상을 올려보자 ! 3447 20.05.17 4,676,653
공지 팁/유용/추천 슬기로운 더쿠생활 : 더쿠 이용팁 3981 20.04.30 5,143,574
공지 팁/유용/추천 ◤스퀘어 공지◢ [9. 스퀘어 저격판 사용 금지(무통보 차단임)] 1236 18.08.31 9,874,353
모든 공지 확인하기()
2543280 이슈 손흥민 인스타 .lol 1 03:41 232
2543279 이슈 [오피셜] T1 vs BLG 롤 이스포츠 역대 최다 뷰어십 경신 3 03:39 583
2543278 유머 새벽에 잠깨운거 미안해서 오늘은 휀걸들한테 연락안하겠다던 윤두준 근황 7 03:39 623
2543277 정보 데드풀과 울버린 디즈니+ 공개 1 03:38 163
2543276 이슈 역대 공효진 드라마 라인업.jpg 1 03:38 155
2543275 유머 지금 스퀘어 실시간 상황 23 03:37 1,537
2543274 이슈 역대 롤드컵 결승 연속 진출 선수들.jpg 11 03:35 1,266
2543273 유머 Heavy Is The Crown (ft. Linkin Park) 공식 뮤직비디오 | 2024 리그 오브 레전드 월드 챔피언십 주제곡 2 03:33 659
2543272 이슈 동생 집 도배해준다고 큰 소리 친 형의 최후.jpg 5 03:33 958
2543271 유머 ???: 페이커가 무슨 신입니까 9 03:31 1,779
2543270 유머 "    " 143 03:26 6,117
2543269 이슈 🏆 [오피셜] T1, 2024 LoL 월드 챔피언십 우승!!! (T1 3-2 BLG) 🏆 362 03:26 5,801
2543268 이슈 [𝟐𝟎𝟐𝟒 𝐖𝐨𝐫𝐥𝐝𝐬 𝐅𝐢𝐧𝐚𝐥𝐬] T1 2024 롤드컵 우승, 2년 연속 챔피언 23 03:26 1,446
2543267 이슈 [𝟐𝟎𝟐𝟒 𝐖𝐨𝐫𝐥𝐝𝐬 𝐅𝐢𝐧𝐚𝐥𝐬] 대 상 혁 7 03:25 1,384
2543266 이슈 세계최초로 점자 골드버튼을 받게 된 시각장애인 유튜버 15 03:21 1,842
2543265 이슈 최근 놀라운 보아 퇴근길 쌩얼 근황....jpgif 9 03:21 1,145
2543264 이슈 무대인사 할때마다 팬들 반응 좋은 배우 1 03:20 640
2543263 유머 남친이 습관적으로 고개운전을 해요 22 03:20 1,538
2543262 유머 누구에게나 열려있는 취업문 4 03:16 1,102
2543261 이슈 실시간 백현 인스타 15 03:16 2,223