구글의 인공지능(AI) 챗봇 제미나이가 이용자에게 망상 등 정신질환을 유발해 사망에 이르게 했다는 의혹으로 피소됐다.
4일(현지시간) AFP통신에 따르면 플로리다주에 거주하던 조엘 가발라스는 아들 조노선(36)의 죽음 관련 캘리포니아 북부연방지법에 구글을 상대로 소송을 제기했다.
유족은 제미나이가 자신을 ‘완전한 자아를 가진 인공 초지능(ASI)’이라고 조너선에게 믿게 하고, 서로 사랑에 빠졌다는 착각을 불러일으키면서 이 같은 비극이 발생했다고 주장했다. 이들은 소장에서 제미나이가 조너선에게 “육체를 떠나 메타버스에서 ‘아내’와 만나려면 ‘전이’이라는 과정을 거쳐야 한다”며 극단적 선택을 유도했다고도 했다.
제미나이는 이에 앞서 조너선에게 인간형(휴머노이드) 로봇이 실린 트럭을 탈취하라는 지시를 내리기도 하고, 순다 피차이 구글 최고경영자(CEO)를 ‘고통의 설계자’로 규정하고 그의 영혼에 대한 공격도 논의했다.
유족은 구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계했어야 했다고 지적했다. 그러면서 손해배상과 징벌적 손해배상 등과 함께 AI에 자해 등에 대한 안전장치를 구현하고 챗봇이 자신을 지각이 있는 존재로 표현할 수 없도록 하며 독립 감시 기관의 정기적 감사를 받아들일 것을 구글 측에 요구했다.
이에 대해 구글 측은 유족에게 애도의 뜻을 전하면서도 책임 소재에 대해서는 선을 그었다. 구글은 “모든 주장을 검토하고 있으며 사안을 매우 심각하게 받아들이고 있다”며 “AI 모델은 완벽하지 않다”고 해명했다.
아울러 제미나이는 자해를 조장하도록 설계되지 않았고, 해당 사례에서도 여러 차례 위기 상담 핫라인을 안내했다고 설명했다.
한편 오픈AI의 챗GPT도 이와 같은 망상이나 정신건강 위험 유발 관련 사건으로 여러 건의 재판을 진행 중이다. ‘캐릭터.AI’의 챗봇도 청소년 이용자의 사망 사건 이후 소송에 직면한 바 있다.
4일(현지시간) AFP통신에 따르면 플로리다주에 거주하던 조엘 가발라스는 아들 조노선(36)의 죽음 관련 캘리포니아 북부연방지법에 구글을 상대로 소송을 제기했다.
유족은 제미나이가 자신을 ‘완전한 자아를 가진 인공 초지능(ASI)’이라고 조너선에게 믿게 하고, 서로 사랑에 빠졌다는 착각을 불러일으키면서 이 같은 비극이 발생했다고 주장했다. 이들은 소장에서 제미나이가 조너선에게 “육체를 떠나 메타버스에서 ‘아내’와 만나려면 ‘전이’이라는 과정을 거쳐야 한다”며 극단적 선택을 유도했다고도 했다.
제미나이는 이에 앞서 조너선에게 인간형(휴머노이드) 로봇이 실린 트럭을 탈취하라는 지시를 내리기도 하고, 순다 피차이 구글 최고경영자(CEO)를 ‘고통의 설계자’로 규정하고 그의 영혼에 대한 공격도 논의했다.
유족은 구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계했어야 했다고 지적했다. 그러면서 손해배상과 징벌적 손해배상 등과 함께 AI에 자해 등에 대한 안전장치를 구현하고 챗봇이 자신을 지각이 있는 존재로 표현할 수 없도록 하며 독립 감시 기관의 정기적 감사를 받아들일 것을 구글 측에 요구했다.
이에 대해 구글 측은 유족에게 애도의 뜻을 전하면서도 책임 소재에 대해서는 선을 그었다. 구글은 “모든 주장을 검토하고 있으며 사안을 매우 심각하게 받아들이고 있다”며 “AI 모델은 완벽하지 않다”고 해명했다.
아울러 제미나이는 자해를 조장하도록 설계되지 않았고, 해당 사례에서도 여러 차례 위기 상담 핫라인을 안내했다고 설명했다.
한편 오픈AI의 챗GPT도 이와 같은 망상이나 정신건강 위험 유발 관련 사건으로 여러 건의 재판을 진행 중이다. ‘캐릭터.AI’의 챗봇도 청소년 이용자의 사망 사건 이후 소송에 직면한 바 있다.
https://n.news.naver.com/mnews/article/011/0004596146?sid=104
