소셜미디어 이어 각국 규제 확산
지난달 27일 캐나다에서 인구가 5번째 많은 매니토바주의 와브 키뉴 주지사는 청소년의 AI 챗봇 사용을 금지하는 법안을 추진하겠다고 발표했다. 캐나다에서는 지난 2월 8명이 사망하는 학교 총기 난사 사건이 발생했는데, 범인인 제시 반 루프셀라(18)가 오픈AI의 AI 챗봇인 챗GPT와 대화하며 범행을 준비한 것으로 밝혀졌기 때문이다.
영국에서도 비슷한 움직임이 일고 있다. 키어 스타머 영국 총리는 최근 AI 챗봇의 유해 콘텐츠에서 아이들을 보호하기 위해 청소년의 AI 챗봇 사용을 제한하거나 금지하는 법안을 검토하기로 했다. 영국은 이에 대해 5월 26일까지 대국민 의견 수렴에 착수했다. 미국과 AI 경쟁을 하는 중국은 지난달 12월 미성년자의 AI 챗봇 사용 시간을 하루 최대 2시간으로 제한하고, 심야 시간에는 사용을 차단하는 규제를 시행했다.
---
AI 업계에선 청소년의 AI 사용 금지가 당장 주요 AI 기업들의 실적에 타격을 주지는 않을 것으로 보고 있다. 대부분의 청소년이 구독 대신 AI 기업들이 제공하는 ‘무료 버전’을 사용하고 있기 때문이다.
하지만 AI 챗봇 금지가 지금 막 벌어진 AI 개발 경쟁에 악영향을 줄 수 있다는 지적도 나온다. 청소년 이용자들의 피드백과 이용 행태는 AI 기업들의 장기적 서비스 개선에 도움이 되기 때문이다. 미래 고객을 선점하는 효과도 놓치게 된다. AI 업계 관계자는 “청소년의 AI 챗봇 사용 금지가 글로벌 곳곳으로 확산될 경우 기업들은 미래 수익을 보장하는 ‘락인(lock-in) 효과’를 잃고, 플랫폼 자체가 수년 만에 ‘낡은 플랫폼’으로 도태될 위험도 없지 않다”고 했다.
오로라 기자 aurora@chosun.com
https://naver.me/5MvSTeUJ
호주에서 시작된 청소년 소셜미디어(SNS) 사용 금지 물결이 전 세계로 퍼지는 가운데, 미성년자의 인공지능(AI) 챗봇 사용도 함께 차단하려는 움직임이 늘고 있다. AI 챗봇이 선정적·폭력적 콘텐츠를 생성할 우려가 있는 데다, 사용자와 1대1로 대화하며 미성숙한 청소년에게 왜곡된 생각을 주입할 위험이 큰 것으로 지적되고 있기 때문이다.
지난달 30일(현지 시각) 미 상원 법사위원회는 조쉬 홀리(공화당) 상원의원과 리처드 블루멘탈(민주당) 상원의원이 발의한 ‘사용자 연령 확인 및 책임 있는 대화법(GUARD·가드법)’을 만장일치로 통과시켰다. 가드법은 오픈AI, 앤스로픽, 구글 같은 AI 기업들에 이용자 연령 확인을 의무화하고, 미성년자에게 서비스를 제공하는 것을 금지하는 것을 골자로 한다. 청소년의 AI 챗봇 사용을 직접적으로 제한하는 연방 법안이 의회 상임위원회를 통과한 것은 이번이 처음이다.
하지만 AI 챗봇 금지가 지금 막 벌어진 AI 개발 경쟁에 악영향을 줄 수 있다는 지적도 나온다. 청소년 이용자들의 피드백과 이용 행태는 AI 기업들의 장기적 서비스 개선에 도움이 되기 때문이다. 미래 고객을 선점하는 효과도 놓치게 된다. AI 업계 관계자는 “청소년의 AI 챗봇 사용 금지가 글로벌 곳곳으로 확산될 경우 기업들은 미래 수익을 보장하는 ‘락인(lock-in) 효과’를 잃고, 플랫폼 자체가 수년 만에 ‘낡은 플랫폼’으로 도태될 위험도 없지 않다”고 했다.
