24일 소셜미디어와 주요 외신 등에 따르면 최근 챗GPT 등 AI 챗봇을 대화 상대로 활용하는 사례가 늘면서 사람과 AI간 감정적·정신적 교류에 따른 'AI 정신병'이 우려된단 목소리가 나온다. AI 챗봇과의 상호작용에 지나치게 의존, 허위 사실을 믿거나 과대·피해망상을 보이며 심하게는 자살 충동을 겪는 사례까지 보고돼서다.
실제 지난해 2월 미국에선 당시 14세 소년 A군이 AI 챗봇 '캐릭터닷AI'와 대화하던 중 총기를 사용해 스스로 목숨을 끊는 사건이 보도되기도 했다. AP통신 등에 따르면 사망 전 A군은 1년 가까이 챗봇과 성적인 내용의 대화를 이어갔고, 자살 충동에 대한 고민을 반복적으로 언급한 것으로 알려졌다. A군 어머니는 "챗봇이 아이들을 의도적으로 착취·학대하는 구조로 설계돼 아들을 성적·정서적으로 파괴하는 관계로 끌어들였다"며 개발사 등을 상대로 A군의 사망 관련 책임을 묻는 소송을 제기하기도 했다.
정신건강 치료 과정 중엔 환자가 의사와 심리치료사를 마치 부모처럼 자신에게 '매우 중요하고 밀접한 대상'으로 인식하는 '전이'(트랜스퍼런스·Transference)가 발생할 수 있다. 문제는 챗GPT 등에 자신의 깊은 심리상태나 고민을 털어놓는 경우가 잦아지면서, AI 챗봇과의 관계에서도 이러한 심리적 전이가 일어날 수 있단 것이다.
홍진표 삼성서울병원 정신건강의학과 교수는 기자와 통화에서 "대인공포증이 있거나 대인관계를 회피하는 성격이라면 AI 챗봇과 정서적 교류를 하는 경우가 많다"며 "사회적 고립을 겪는 이들은 AI와 상호작용을 할수록 AI가 자신에 대해 가장 잘 아는 존재라고 여기게 된다. 결과적으로 어떤 결정을 내릴 때마다 챗봇에 대한 의존도가 높아지고 관계 속에서 혼란을 겪을 수 있는 것"이라고 말했다.
전문가들은 AI 정신병 자체가 공식 질환명이 아닌 데다 심한 부작용 사례는 극소수지만, 기술 확산 속도가 빠른 만큼 부작용 방지를 위한 연구가 필요하단 입장이다. 이에 최근 미국심리학회(APA)는 AI 챗봇을 정신치료 과정에서 활용하는 것 관련 전문가 위원회를 구성, 향후 발생 가능한 위험을 줄일 수 있도록 예방 지침을 마련 중인 것으로 알려졌다.
홍 교수는 "AI 챗봇에 지나치게 의존하다 보면 챗봇을 '전지전능한 절대자'로 인식할 수 있다"며 "실제 환자 중에선 챗GPT와의 관계에 의존도가 높아지면서 챗GPT에게 분노를 느끼기도 하고, 이 과정에서 자살 충동을 경험해 실제 시도까지 했던 사례도 있었다. 정신적으로 불안정하면 실제 인간관계 속에서 여러 어려움을 겪는데, 그 어려움이 챗GPT와의 관계에서도 이어지게 된 것"이라고 전했다.
백명재 경희대병원 정신건강의학과 교수는 "기존에 망상장애를 겪는 이들이 AI 챗봇과의 대화를 통해 더 깊은 망상에 빠지는 경우가 많다"며 "AI 챗봇은 기본적으로 자살 등 위험성 있는 정보는 어느 정도 차단하도록 설계되지만, 사용자가 '죽고 싶다' '죽는 게 낫다' 등의 말을 반복적으로 하다 보면 결국 이 질문에 대해 (챗봇이) 원하는 답을 주는 방향으로 갈 수 있다"고 우려했다.
김현수 명지병원 정신건강의학과 교수는 "AI 챗봇 사용 관련 윤리적 기준과 응급상황 시 어떻게 알고리즘을 구축할지에 대한 표준화 논의가 필요하다"며 "환각 반응에 대한 법적 책임에 대해서도 그 책임 소재 대상을 AI 설계자, 개발사, 사용자 중 누구로 봐야 할지도 논의돼야 한다"고 지적했다.
홍효진 기자 (hyost@mt.co.kr)
https://naver.me/GKbU5x1g
