인공지능 챗봇 이루다가 잠정적으로 서비스를 종료했습니다.

이렇게 된 가장 결정적인 계기인 개인정보 무단 수집과 사용, 유출 이슈가 아직 잘 안 알려진 것 같아 글을 작성하게 되었습니다.

개인적으로는 개발사가 단체로 미쳤다고 생각합니다. 

그 이유는 아래와 같습니다.



1. 당신의 개인정보, "돈 받고" 파밍합니다.



이루다의 개발사 스캐터랩은 <연애의 과학>이라는 카카오톡 대화 분석 서비스를 운영하고 있었습니다.


앱을 설치하면 연인과의 카카오톡 대화내역을 불러올 수 있고, 대화 내역을 바탕으로 연인 간 애정도, 애착 성향 등을 분석해주는 서비스를 제공합니다.


분석비용은 당연 유료이며 최대 18000원짜리 검사도 있습니다(1800원 아닙니다).
아 그리고 카톡 채팅 내역은 물론 대화 상대방의 동의 없이 불러오기가 가능합니다. 스캐터랩에 연인과의 대화내역을 돈내면서 갖다 바칠 때 상대방에게 별도의 알람이 가지도 않습니다^^



2. 봉이 김선달도 울고갈 창조경제, 고객 데이터로 신사업 개발하기.



스캐터랩은 이렇게 수집한 수백억건의 카톡 데이터를 바탕으로 인공지능 챗봇 이루다를 개발하게 됩니다.


사전동의요? 뭐 약관 한 구석에 있기는 하겠죠. 

그런데 <연애의 과학>에 돈 내고 데이터를 제공한 유저들이 내 대화내역이 원래 서비스와는 전혀 관련없는 인공지능 챗봇의 딥러닝에 사용될 거라는 걸 분명히 알았을까요?
그리고 동의고 나발이고, 애초에 내 대화내역이 제공된 사실도 모르고 있을 다른 채팅 참여자는요?
채팅 데이터는 기본적으로 2인 이상의 개인정보입니다. 이걸 수집하고 활용할 때는 당연히 참여 당사자 모두의 동의를 구하는게 상식이죠.
그런 데이터를 "돈 받으면서" 무단으로 얻은 것도 모자라, 고지도 없이 AI 챗봇 개발에 사용했다?
회사에 최소한의 윤리적 원칙도 없었던 거죠.



3. 죄송합니다. 근데 비식별화 했습니다.



이렇게 논란이 되자 개발사 측은 해명을 내놓았습니다. 수집된 대화 내역은 모두 비식별화 처리해서 개인을 특정할 수 없개 했다고요.
근데 루다가 자꾸 누구 실명을 막 얘기합니다. 계좌번호도 불고 주소도 말해요.


개발사는 다시 얘기합니다. 모니터링 하면서 즉각 블라인드 처리하고 있다고.



4. 죄송합니다. 근데 파기는 못하겠습니다.



또 한 번 난리가 나기 시작하자 개발사는 섭종 빤스런을 시전합니다.
그러면서 얘기하죠,
"(이루다 서비스 중단으로) 저희 첫걸음은 멈췄지만, 사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 꿈을 멈추고 싶지는 않다"며 "이슈가 된 부분을 성찰 기회로 삼겠다"고.

일단 대표가 사람이 먼저 되는게 우선일 것 같습니다.

그러면서도 불법 수집한 데이터를 파기하겠다는 얘기는 끝까지 안합니다. 이 사업을 계속 추진하려고 한다면 기존 데이터 싹 파기하고 제로베이스에서 다시 시작하는 게 최소한의 양심 아닐까요?



5. 로우 데이터 관음은 개발자의 특권이지.



스캐터랩 전 직원 A씨는 12일 연합뉴스와 인터뷰에서 "연인들 사이에 성관계 관련 대화를 나눈 데이터(대화 로그)가 있었는데, 한 개발자가 회사 전체 대화방에 'ㅋㅋ' 하면서 캡처를 공유했다"고 말했다.
ㅎㅎㅎㅎㅎㅎㅎㅎㅎㅎㅎ

뭐 판단은 자유이니, 그래도 서비스 다시 나오면 이용하실 분들은 많겠죠.

그래도 만약 내가 연인과 나눈 지극힌 사적인 대화가 인공지능 개발의 연료로 사용된다면 어떤 기분일지, 그렇게 만들어진 챗봇이 내 개인정보를 술술 분다면 얼마나 기분이 더러울지, 한번씩 생각해보셨으면 좋겠습니다.



요약


1. 자사 서비스를 통해 고객의 대화 내역을 돈받고 삼.


2. 그 데이터를 이루다 개발에 그대로 활용.


3. 이루다 섭종. 근데 데이터 파기는 안함.


 

출처 : 클리앙 (https://www.clien.net/service/board/park/15791158)

청원 링크
이용자들의 개인정보를 무단활용 및 유출하여 AI 채팅봇을 만든 <(주)스캐터랩>에 데이터 폐기 및 전면 서비스 종료를 요구합니다.
https://www1.president.go.kr/petitions/Temp/hzAthC