메뉴 건너뛰기

기사/뉴스 “원하지도 않았는데 ‘노출 사진’ 합성”…‘AI 오류’ 논란
2,163 5
2024.10.02 19:24
2,163 5

20대 A 씨는 헤어 스타일을 바꿔 주는 이 앱의 기능을 사용했다 황당한 경험을 했습니다.


[A 씨/'스노우' 앱 피해자/음성변조 : "10가지인가 8가지인가 AI가 합성을 해 줘서..."]

자신의 얼굴에 나체가 합성된 사진이 나온 겁니다.

[A 씨/'스노우' 앱 피해자/음성변조 : "처음 보고 경악스러웠죠. 유방의 모양이 그대로 나오고... 내가 돈 주고 했는데 이런 거를 받는 게 너무 화가 났죠."]

스노우가 출시한 또 다른 사진 앱, '소다'를 이용한 여성도 비슷한 피해를 입었습니다.

증명사진의 배경 공간을 바꾸려  AI 기능을 이용했는데, 성적 수치심을 느낄만한 사진이 합성돼 나온 겁니다.

[B 씨/'소다' 앱 피해자/음성변조 : "어플한테 성희롱을 당한 것 같은 느낌도 들고 소비자 기만하나 약간 이런 생각... 본인들이 그걸 다 100% 통제 못 한다면 유료 서비스를 하지 말든가."]

이에 대해 스노우 측은 "AI 이미지 변환 모델의 한계로 생긴 일"이라며 "필터링 시스템을 강화하겠다"고 밝혔습니다.

[김명주/서울여대 정보보호학과 교수 : "오픈 소스로 공개되어 있는 성인물을 학습한 엔진을 사용하고 있기 때문에 처음부터 문제시되었던 부분들입니다."]



https://n.news.naver.com/article/056/0011801172?sid=102



RJSFPy

썼던 필터는 이거

((얼굴을 검은색으로 가린 걸 모자이크 한 거라서 캡쳐했어))


기사를 이제 봤는데 9월 중순에 있었던 일

목록 스크랩 (0)
댓글 5
댓글 더 보기
새 댓글 확인하기

번호 카테고리 제목 날짜 조회
이벤트 공지 [려 x 더쿠] 두피도 피부처럼 세심한 케어를! 떡짐 없이 산뜻한 <려 루트젠 두피에센스> 체험 이벤트 375 11.18 31,066
공지 ▀▄▀▄▀【필독】 비밀번호 변경 권장 공지 ▀▄▀▄▀ 04.09 3,670,933
공지 공지가 길다면 한번씩 눌러서 읽어주시면 됩니다. 23.11.01 7,487,296
공지 ◤더쿠 이용 규칙◢ [스퀘어/핫게 중계 공지 주의] 20.04.29 25,688,545
공지 ◤성별 관련 공지◢ [언금단어 사용 시 📢무📢통📢보📢차📢단📢] 16.05.21 27,093,281
공지 정보 더쿠 모바일에서 유튜브 링크 올릴때 주의할 점 754 21.08.23 5,281,896
공지 정보 나는 더쿠에서 움짤을 한 번이라도 올려본 적이 있다 🙋‍♀️ 231 20.09.29 4,259,696
공지 팁/유용/추천 더쿠에 쉽게 동영상을 올려보자 ! 3455 20.05.17 4,851,086
공지 팁/유용/추천 슬기로운 더쿠생활 : 더쿠 이용팁 3982 20.04.30 5,309,493
공지 팁/유용/추천 ◤스퀘어 공지◢ [9. 스퀘어 저격판 사용 금지(무통보 차단임)] 1236 18.08.31 10,054,724
모든 공지 확인하기()
2556619 정보 12/4~11 일본 후지 테레비「2024FNS가요제」K-POP 가수 추가 발표 6 06:29 326
2556618 이슈 드래곤 길들이기 실사화 예고편 10 05:55 912
2556617 유머 😺어서오세요 오전에만 운영하는 우유 디저트 카페 입니다~ 2 05:42 291
2556616 유머 🐱어서오세요 오전에도 운영하는 고등어 식당 입니다~ 4 05:38 272
2556615 유머 😺어서오세요 오전에만 운영하는 치즈냥 식당입니다~ 4 05:35 294
2556614 이슈 살면서 본 치와와 중에 제일 순함 6 05:25 1,504
2556613 이슈 산책 중 자기 나온 광고를 본 모델 강아지의 반응 4 05:21 1,498
2556612 이슈 트위터에서 알티타는 중인 미야오 스쿨어택 05:16 799
2556611 유머 새벽에 보면 완전 추워지는 괴담 및 소름돋는 썰 모음 57편 4 04:44 660
2556610 이슈 31년 전 오늘 발매♬ 사잔 올 스타즈 'クリスマス・ラブ (涙のあとには白い雪が降る)' 04:39 512
2556609 이슈 심지어 루키즈 출신이었던 제우스 (feat. 예의박살) 14 04:38 3,957
2556608 이슈 핫게 간 (구) T1 제우스 에이전시 홈페이지.jpg 18 04:26 4,880
2556607 유머 고양이로 아기목욕 설명하기 6 04:25 1,611
2556606 이슈 초대박 기운이 느껴지는 영화 <위키드> 팝콘지수 20 03:58 2,628
2556605 이슈 티원(페이커가 속한 팀) 제우스 재계약 협상 결렬 기사 타임라인 요약 (a.k.a 티원이 빡친이유) 30 03:56 5,164
2556604 이슈 충격적인 팔레스타인 국대멤버 12 03:46 3,949
2556603 이슈 [단독] 낭만 보다는 현실의 벽에 막힌 '제오페구케' 400 03:30 21,941
2556602 유머 일론 팽당하는 거 아니냐? (유우머) 20 03:24 2,742
2556601 유머 근데 이런걸 물어볼 사람이 진짜 필요함... 28 03:05 5,432
2556600 이슈 AKB48 10th 앨범 『なんてったってAKB48』 리드곡 선발멤 솔로 비주얼 13 02:54 1,738