잔뼈 굵은 경찰 수사관 출신 A 변호사는 최근 서울 한 경찰서에서 의뢰인의 휴대전화 포렌식을 참관하다 진땀을 뺐다.
온라인 검색 기록이나 지인과의 메시지를 주로 살펴볼 것이란 예상과 달리, 수사관이 피의자와 생성형 AI '챗GPT' 간의 대화 내역을 집중적으로 파고들었기 때문이다. 혐의를 방어해야 하는 변호사들로선 의뢰인이 AI와 나눈 내밀한 대화까지 사전 점검해야 하는 새로운 숙제가 생겼다는 게 변호사의 설명이다.
또 다른 경찰 출신 B 변호사 역시 의뢰인을 맞이하면 챗GPT 상담 내역부터 확인한다. 자신과 만나기 전 사건과 관련해 AI와 나눈 대화 내용을 숨길 경우 아예 의뢰인을 돌려보내기도 한다.
비밀유지권의 보호를 받을 여지가 있는 변호인과의 대화와 달리, AI에게 털어놓은 내용은 고스란히 수사기관의 '먹잇감'이 되기 쉽다. 수사기관은 '마음의 거울'에 비친 의뢰인의 속내를 훤히 아는데, 변호인만 모르는 상태로는 제대로 된 변호와 법률적 조력을 할 수 없다는 게 B 변호사의 생각이다.
25일 연합뉴스 취재를 종합하면, 생성형 AI 대중화와 함께 일선 수사 현장에서 피의자의 AI 대화 내역을 필수적으로 확인하는 관행이 자리잡고 있다. 프롬프트(명령어) 입력 과정에서 범죄의 고의나 동기가 솔직하게 드러나 핵심 '증거'로 활용할 수 있다는 판단에서다.
최근 '강북구 모텔 연쇄 살인 사건'이 대표적이다. 피의자는 살인 고의성을 부인했지만 경찰은 챗GPT에 "수면제와 술을 같이 먹으면 죽어?"와 같은 질문을 한 점을 포착하고 상해치사보다 더 무겁고 고의를 수반하는 살인 혐의를 적용했다.
전문가들은 기존 웹 브라우저 검색 기록과 AI 대화 내역의 결정적 차이로 '내심(내면의 의사)이 얼마나 반영되는지'를 꼽는다. 둘 다 범죄 실현 수단을 찾는 도구지만, 대화형 구조인 AI에는 피의자의 진심과 구체적 목적이 훨씬 적나라하게 담길 수밖에 없다는 분석이다.
생성형 AI의 포렌식 작업에 대한 논문을 쓴 정두원 성균관대 과학수사학과 교수는 "웹 브라우저 검색은 키워드 위주지만 AI엔 문장을 쓸 수밖에 없다. 프롬프트 자체가 문장이라 실제 의도가 무엇이었는지가 그대로 남아있어 증거로서 가치가 더 높다"고 설명했다.
다만 생성형 AI와의 대화는 내밀한 개인정보를 광범위하게 포함하는 데다, 관련 법적·윤리적 논쟁이 끝나지 않은 상태라 증거로 쓰이더라도 범위를 엄격히 제한해야 한다는 목소리도 나온다.
김명주 AI안전연구소장은 "어떤 범죄가 생기면 당사자의 AI 대화 기록 전체를 뒤져서 수사기관이 '이전부터 범죄를 모의해왔다'고 주장할 수도 있는 것"이라며 향후 무분별한 '챗GPT 압수수색'을 둘러싼 인권 침해 논쟁이 벌어질 수 있다고 내다봤다.
그는 'AI가 범죄를 돕거나 부추긴다'는 일각의 지적에 대해서도 "가장 논의하기 어려운 대목이 책임 부분이다. 일반 물건이라면 제조물책임법으로 규정되겠지만 AI는 그렇지 않다"며 "사회가 풀어가야 할 문제"라고 말했다.
