메뉴 건너뛰기

기사/뉴스 [단독] ‘3세 사용’ 사진 앱 소다, AI ‘외설 이미지’ 합성…스노우 “대책 마련 중”
4,019 4
2024.09.06 10:55
4,019 4

[이코노미스트 박세진 기자·정두용 기자] 네이버 자회사 스노우가 운영하는 카메라 애플리케이션(앱) ‘소다’(SODA)에서 성적 수치심을 유발하는 합성 사진이 나왔다.

 

인공지능(AI) 기술 기반의 배경 자동 편집 기능을 통해 사진을 보정 중 부적절한 이미지가 원본에 덧씌워진 것. 소다의 AI 편집 기능은 유료 서비스다. 

 

5일 본지 취재를 종합하면 A씨는 최근 소다 앱을 통해 증명사진 배경 너비 보정을 위해 ‘AI 배경 확장’ 기능을 사용했다. 편집된 사진에는 ‘성적 수치심’을 유발하는 배경이 합성됐다. 양쪽 손으로 가슴을 움켜쥐고 있는 듯한 모습이 하단에 추가됐다. 

 

AI 필터 편집은 사진·영상에 다양한 효과를 자동으로 보정해 주는 기능이다. AI에 학습된 데이터에 따라 결과물이 달라진다. 

 

A씨는 본지와의 통화에서 “10월 결혼을 앞두고 웨딩 사진을 보정하기 위해 해당 앱의 유료 서비스를 구독했는데, 이런 결과물이 나와 큰 충격을 받았다”이라며 “성적 수치심을 느꼈고 ‘사진이 유출되진 않을까’란 걱정스러운 마음에 잠도 편히 자지 못했다”고 호소했다.

 

(중략)

 

스노우 관계자는 “우선 이 같은 사안으로 이용자께 불편을 끼쳐드려 죄송하다”며 “이번 논란에 대해 인지하고 있고 현재 대책 마련 중”이라고 했다.

 

이어 “스노우를 포함해 현재 상용되고 있는 기술 모델을 활용하는 모든 기업들은 선정적이거나 혐오스러운 이미지를 걸러주는 필터 프롬프트(negative prompt)를 꾸준히 강화하고 업데이트 하는 방식으로 서비스를 고도화하며 부적절한 콘텐츠 생성을 막고있다”며 “다만 아직까지의 기술의 한계 때문에 필터 프롬프트의 적용이 완벽하지 못했던 것으로 파악된다” 해명했다.

 

사진의 유출 우려에 대해선 “이미지 제작과 동시에 데이터가 삭제되기에 있을 수 없는 일”이라며 “이용자에 대한 보상책 관련 논의도 내부적으로 이뤄지고 있다”고 설명했다.

 

https://n.news.naver.com/article/243/0000064363?sid=105

 

https://x.com/nosebum_pasta13/status/1831592163421122936

목록 스크랩 (0)
댓글 4
댓글 더 보기
새 댓글 확인하기

번호 카테고리 제목 날짜 조회
이벤트 공지 [🌟 타입넘버 X 더쿠 🌟] 미리 만나는 손안의 크리스마스, <타입넘버 핸드크림 홀리데이 에디션> 체험 이벤트 403 11.01 22,557
공지 ▀▄▀▄▀【필독】 비밀번호 변경 권장 공지 ▀▄▀▄▀ 04.09 3,402,970
공지 공지가 길다면 한번씩 눌러서 읽어주시면 됩니다. 23.11.01 7,154,575
공지 ◤더쿠 이용 규칙◢ [스퀘어/핫게 중계 공지 주의] 20.04.29 25,288,708
공지 ◤성별 관련 공지◢ [언금단어 사용 시 📢무📢통📢보📢차📢단📢] 16.05.21 26,649,568
공지 정보 더쿠 모바일에서 유튜브 링크 올릴때 주의할 점 752 21.08.23 5,106,745
공지 정보 나는 더쿠에서 움짤을 한 번이라도 올려본 적이 있다 🙋‍♀️ 230 20.09.29 4,088,427
공지 팁/유용/추천 더쿠에 쉽게 동영상을 올려보자 ! 3447 20.05.17 4,675,363
공지 팁/유용/추천 슬기로운 더쿠생활 : 더쿠 이용팁 3981 20.04.30 5,142,516
공지 팁/유용/추천 ◤스퀘어 공지◢ [9. 스퀘어 저격판 사용 금지(무통보 차단임)] 1236 18.08.31 9,874,353
모든 공지 확인하기()
2543258 이슈 [𝟐𝟎𝟐𝟒 𝐖𝐨𝐫𝐥𝐝𝐬 𝐅𝐢𝐧𝐚𝐥𝐬] 4세트 POG - Faker 5 02:53 798
2543257 이슈 보고 있으면 고개를 끄덕이게 되는 무비자 안되는 국가들 14 02:52 904
2543256 이슈 실시간 LoL 월드 챔피언십 뷰어쉽 632만 돌파 3 02:52 683
2543255 팁/유용/추천 둘 중에 덬들이 더 좋아하는 드라마 작가 취향은?.jpg 15 02:51 183
2543254 유머 ㄹㅇ 나의 사고체계가 딱 이정도임 1 02:50 440
2543253 이슈 주기적으로 생각난다는 상속자들 씬 중 하나.twt 4 02:45 910
2543252 정보 국가에서 하는 단기 알바를 잘 찾아보세요..! 15 02:44 1,104
2543251 이슈 [𝟐𝟎𝟐𝟒 𝐖𝐨𝐫𝐥𝐝𝐬 𝐅𝐢𝐧𝐚𝐥𝐬] 4세트 페이커 후푸 코멘트 15 02:43 1,629
2543250 유머 @ 너지금이렇게 위험하게다니면 안되는상태인거 몰라? 백현우 다음에 또 이런일생기면 나 살리지마 1 02:42 563
2543249 이슈 매니저 부모님께 1000만원도 선물해드렸다는 샤이니 온유.jpg 4 02:41 805
2543248 유머 주유소 자동세차 기계 들어갈 때 특.reels 02:37 365
2543247 유머 [속보] 긴급 예배 모임 292 02:36 11,643
2543246 이슈 볼수록 배우상인 것 같은 YG 신인 걸그룹 로라 11 02:33 1,061
2543245 이슈 [𝟐𝟎𝟐𝟒 𝐖𝐨𝐫𝐥𝐝𝐬 𝐅𝐢𝐧𝐚𝐥𝐬] T1 vs BLG, T1 4세트 승리 (2:2) 117 02:33 2,637
2543244 이슈 포트나이트 x 뉴진스 1월 14일 17 02:31 1,063
2543243 이슈 11월 11일~14일 엽떡데이 (엽떡 9900원) 7 02:30 832
2543242 이슈 [𝟐𝟎𝟐𝟒 𝐖𝐨𝐫𝐥𝐝𝐬 𝐅𝐢𝐧𝐚𝐥𝐬] T1 페이커, 월즈 최초 500킬 달성 9 02:30 1,409
2543241 이슈 [𝟐𝟎𝟐𝟒 𝐖𝐨𝐫𝐥𝐝𝐬 𝐅𝐢𝐧𝐚𝐥𝐬] 대상혁 22 02:26 2,435
2543240 이슈 올해 덬들이 체감한 화제성 갑은?.jpg 54 02:23 1,268
2543239 이슈 요즘 진짜 예쁜듯한 에스파 멤버.x 19 02:19 2,096