theqoo

[단독] ‘3세 사용’ 사진 앱 소다, AI ‘외설 이미지’ 합성…스노우 “대책 마련 중”

무명의 더쿠 | 09-06 | 조회 수 3203

[이코노미스트 박세진 기자·정두용 기자] 네이버 자회사 스노우가 운영하는 카메라 애플리케이션(앱) ‘소다’(SODA)에서 성적 수치심을 유발하는 합성 사진이 나왔다.

 

인공지능(AI) 기술 기반의 배경 자동 편집 기능을 통해 사진을 보정 중 부적절한 이미지가 원본에 덧씌워진 것. 소다의 AI 편집 기능은 유료 서비스다. 

 

5일 본지 취재를 종합하면 A씨는 최근 소다 앱을 통해 증명사진 배경 너비 보정을 위해 ‘AI 배경 확장’ 기능을 사용했다. 편집된 사진에는 ‘성적 수치심’을 유발하는 배경이 합성됐다. 양쪽 손으로 가슴을 움켜쥐고 있는 듯한 모습이 하단에 추가됐다. 

 

AI 필터 편집은 사진·영상에 다양한 효과를 자동으로 보정해 주는 기능이다. AI에 학습된 데이터에 따라 결과물이 달라진다. 

 

A씨는 본지와의 통화에서 “10월 결혼을 앞두고 웨딩 사진을 보정하기 위해 해당 앱의 유료 서비스를 구독했는데, 이런 결과물이 나와 큰 충격을 받았다”이라며 “성적 수치심을 느꼈고 ‘사진이 유출되진 않을까’란 걱정스러운 마음에 잠도 편히 자지 못했다”고 호소했다.

 

(중략)

 

스노우 관계자는 “우선 이 같은 사안으로 이용자께 불편을 끼쳐드려 죄송하다”며 “이번 논란에 대해 인지하고 있고 현재 대책 마련 중”이라고 했다.

 

이어 “스노우를 포함해 현재 상용되고 있는 기술 모델을 활용하는 모든 기업들은 선정적이거나 혐오스러운 이미지를 걸러주는 필터 프롬프트(negative prompt)를 꾸준히 강화하고 업데이트 하는 방식으로 서비스를 고도화하며 부적절한 콘텐츠 생성을 막고있다”며 “다만 아직까지의 기술의 한계 때문에 필터 프롬프트의 적용이 완벽하지 못했던 것으로 파악된다” 해명했다.

 

사진의 유출 우려에 대해선 “이미지 제작과 동시에 데이터가 삭제되기에 있을 수 없는 일”이라며 “이용자에 대한 보상책 관련 논의도 내부적으로 이뤄지고 있다”고 설명했다.

 

https://n.news.naver.com/article/243/0000064363?sid=105

 

https://x.com/nosebum_pasta13/status/1831592163421122936

[주의] 이 글을 신고합니다.

  • 댓글 4
목록
0
카카오톡 공유 보내기 버튼 URL 복사 버튼
리플 더 보기
새 댓글 확인하기
  • [공단기x더쿠] 공무원 강의 추석맞이 전과목 무료 선언합니다! 📢 136
  • ▀▄▀▄▀【필독】 비밀번호 변경 권장 공지 ▀▄▀▄▀
  • 공지가 길다면 한번씩 눌러서 읽어주시면 됩니다.
  • ◤더쿠 이용 규칙◢ [스퀘어/핫게 중계 공지 주의]
  • ◤성별 관련 공지◢ [언금단어 사용 시 📢무📢통📢보📢차📢단📢]
  • 더쿠 모바일에서 유튜브 링크 올릴때 주의할 점 751
  • 나는 더쿠에서 움짤을 한 번이라도 올려본 적이 있다 🙋‍♀️ 230
  • 더쿠에 쉽게 동영상을 올려보자 ! 3437
  • 슬기로운 더쿠생활 : 더쿠 이용팁 3977
  • ◤스퀘어 공지◢ [18번 특정 모 커뮤니티 출처 자극적인 주작(어그로)글 무통보 삭제] 1236
  • 모든 공지 확인하기()
    • [아름다운 우리여름] 갑자기아름이가남자로느껴집니다.x
    • 14:04
    • 조회 3
    • 이슈
    • 아들 얼굴에 비닐봉지 씌워 가둔 현직 경찰관…아동학대 혐의 입건
    • 14:04
    • 조회 39
    • 기사/뉴스
    • [단독] "이웃집 주민이 폭행당하고 있다"…교제폭력 후 도주하다 추락한 남성
    • 14:02
    • 조회 426
    • 기사/뉴스
    5
    • (정말 놀라움) 놀랍다는 요새 신축아파트 옵션 수준.jpg
    • 14:01
    • 조회 610
    • 이슈
    4
    • 유아인·김호중 옥중추석…수제비·곤드레밥 먹는다
    • 14:01
    • 조회 139
    • 이슈
    1
    • 김천에서 열리는 김밥 축제 마스코트 이름 공개
    • 14:01
    • 조회 677
    • 이슈
    15
    • 어제 라이즈 팬콘 끝난 뒤 아직 애기 졸업 안 하고 계속 애기 하겠다고 위버스에 글 쓴 앤톤👶🏻
    • 14:00
    • 조회 321
    • 이슈
    7
    • 충격..요즘 전자과 취업현황..jpg
    • 13:59
    • 조회 1433
    • 유머
    10
    • 엄마 꿈에서 돌아가신 아빠가 나오셨다
    • 13:57
    • 조회 1319
    • 유머
    9
    • 베테랑2 전문가 별점.jpg
    • 13:56
    • 조회 1101
    • 이슈
    21
    • 팬들한테 매번 반응 좋은 스키즈 한복
    • 13:56
    • 조회 799
    • 이슈
    15
    • 한석규 성대모사 3대장
    • 13:56
    • 조회 232
    • 유머
    4
    • 군산 해상서 어선 전복…구조된 선원 8명 중 3명 사망(종합2보)
    • 13:55
    • 조회 313
    • 기사/뉴스
    • 보이넥스트도어 [Nice Guy] 초동 집계 마감(커리어하이🎉)
    • 13:55
    • 조회 327
    • 이슈
    2
    • KBO 복귀 첫 시즌 류현진 성적
    • 13:55
    • 조회 204
    • 이슈
    6
    • 인간적 소통 고수해온 스타벅스…벨 울리는 매장 100개 육박
    • 13:55
    • 조회 797
    • 기사/뉴스
    6
    • '베테랑2' 독주 속 추석 극장 민심 얻을 또 다른 영화는?
    • 13:54
    • 조회 252
    • 기사/뉴스
    2
    • 반려인과 비반려인이 봤을때 갈린다는 장면
    • 13:54
    • 조회 887
    • 유머
    9
    • 공격 당하는 아기펭귄 보고 달려오는 남극 일진
    • 13:52
    • 조회 968
    • 이슈
    16
    • 맹구, 짱구 사이드 테이블
    • 13:52
    • 조회 1410
    • 유머
    34
back to top