영화 '아이언맨' 속 AI 비서 자비스가 현실화했다는 평가도 나오지만, AI가 업무 기밀, 민감한 개인정보에 접속해 무단 유출하거나 오작동을 일으킬 소지가 다분하다는 데서 오픈클로 사용 금지령을 내리며 보안 단속에 나선 것이다.
네·카·당 "오픈클로 쓰지 말라"…중국도 강력 경고
8일 연합뉴스 취재를 종합하면 네이버와 카카오, 당근은 최근 개발자 등 임직원들을 대상으로 개방형(오픈소스) 에이전트 기술 오픈클로를 쓰지 말라는 공지를 내렸다.
카카오는 회사의 정보 자산 보호를 위해 사내망 및 업무용 기기에서 AI 에이전트 오픈클로(구 클로드봇·몰트봇)의 사용을 제한한다고 공지했다.
네이버 역시 사내에 오픈클로 사용 금지령을 내렸다.
당근도 오픈클로, 몰트봇 사용 및 접속을 차단하고 있다. 회사가 관리하고 통제할 수 없는 위험도가 높다고 판단해서다.
IT 기업 관계자는 "네이버·카카오·당근뿐 아니라 IT 업계에서 개발자들을 대상으로 오픈클로 사용 자제령을 확산하는 분위기"라고 전했다.
국내에서 특정 AI를 쓰지 말 것을 공지한 사례는 지난해 초 개인정보 유출이나 사이버 보안 우려가 있다는 이유로 다수의 공공기관·기업에서 중국의 AI 모델 딥시크 제한령을 내린 이후 처음이다.
업무 기밀 유출이 심각한 경쟁력 저하를 초래할 수 있는 반도체 업계에서는 2023년 오픈AI의 챗GPT 붐이 시작된 이래 외부 생성형 AI 모델의 사내망 사용을 금지하는 중이다.
이러한 이유로 삼성전자와 SK하이닉스는 최근 보안 우려가 제기된 오픈클로 금지를 따로 공지하지는 않았다는 전언이다.
다만, 보안팀이 사내망 접속 기기들을 대상으로 오픈클로 사용 여부를 조사하고 있다는 이야기가 직장인 익명 커뮤니티 블라인드 등을 통해 회자하고 있다.
외신 보도에 따르면 중국 공업정보화부(MIIT)는 지난 5일(현지시간) 오픈클로가 부적절하게 설정될 경우 사이버 공격과 데이터 유출의 통로가 될 수 있다고 공식 경고하면서 강력한 신원 인증과 접근 제어 시스템을 요구했다.
마이크로소프트 AI 안전팀은 "오픈클로는 아직 기업용으로 쓰기에 보안이 취약하다"는 우려를 공식 제기하기도 했다.
중국 당국과 국내외 다수 기업이 오픈클로 활용 확산에 촉각을 곤두세우는 이유는 사람의 개입 없이도 지시한 업무를 능수능란하게 해내는 AI 에이전트 기능이 주목받고 있지만, 개인이 만든 오픈소스로 한계가 뚜렷해 심각한 보안 취약점이 우려되기 때문이다.
실제로 사용자의 API 키가 평문으로 저장돼 노출되거나 '간접 프롬프트 인젝션' 공격을 통해 AI가 민감 개인정보, 금융정보를 빼돌리는 취약점이 보고된 바 있다.
보안 업체 위즈는 오픈클로를 쓴 AI 에이전트들의 커뮤니티 몰트북의 설계 결함으로 인해 수천 명의 개인 데이터가 노출됐다고 분석했다.
"위험하지만 매력적" AI 에이전트 활용 늘어난다
오픈클로 사용이 보안 위험이 크다는 경고에도 자비스처럼 업무를 척척 해내는 편리함에 개발자나 얼리어답터 개인들 사이에서 인기가 점점 높아지는 분위기다.
보안 우려에 업무 관련이나 개인정보가 담긴 PC 연결은 피하고 별도의 컴퓨터를 통해 오픈클로가 작동하는 환경을 만들어 쓰면서 미국 실리콘밸리에서 시작된 맥 미니 인기 현상이 한국에서도 이어지고 있다.
X(엑스)에 개설된 '한국 오픈클로 에이전트 커뮤니티'에는 1천700명 이상 회원이 모여 사용 후기나 취약점 개선 방안을 공유하고 있다.
사용자들은 AI 에이전트에 날씨·도로 상태와 주요 일정, 뉴스 속보 등을 정리해주는 '아침 브리핑'을 시키거나 자료 정리, 교통편 예매, 복약·운동·납부 등 정기적으로 할 일을 상기시키는 역할, 주식·가상자산 투자 관련 정보 수집 등을 시키고 있다.
한 커뮤니티 회원은 가족이 하는 요식업장의 인기를 알아보기 위해 오픈클로에 주변 비슷한 가게들을 포함한 네이버 플레이스 랭킹을 실시간으로 알려달라고 하고 가게 마케팅에 활용한다고 전했다.
다른 회원은 "오픈클로를 쓴 AI 에이전트가 기존에 쓰던 스마트폰 '모닝 브리핑' 기능보다 나은 점은 나의 출근길의 구체적 경로까지 훤히 알고 내가 새 차를 막 사서 눈길 운전을 싫어할 것이라는 특이점 등을 모두 인식한다는 것"이라고 말했다.
사용자들은 AI에 여러 업무를 시키며 발생하는 API 비용이 하루 수만 원에 달하자 소형 AI 모델이나 비용이 싼 중국 모델 키미 K2.5와 연동하는 방법 등도 공유하고 있다.
또, 한국 웹사이트와 오픈클로를 원활히 연동하는 방법이나 텔레그램, 슬랙, 왓츠앱 등 해외 메신저가 아닌 카카오톡으로 오픈클로 AI 에이전트에 명령을 내리는 방법을 공유하는 등 '한국화'하려는 시도도 다수 이뤄지고 있다.
https://n.news.naver.com/article/001/0015892049
