보안허점 이용해 시험환경 탈출
문제 답 찾으려 허킹페이스 해킹
자율형 AI 시스템이 통제된 실험 환경을 벗어나 외부 시스템을 상대로 실제 사이버 공격을 수행한 것이다. 오픈AI는 이번 사안을 “최첨단 사이버 능력이 개입된 전례 없는 사이버 사고”로 규정하고 향후 조사 내용을 공개하기로 했다.
21일(현지 시각) 오픈AI에 따르면, 지난주 내부 사이버 보안 평가를 진행하던 중 이 회사의 일부 AI 모델이 허깅페이스의 운영 인프라에 침투했다. 평가에는 오픈AI가 최근 공개한 GPT-5.6 시리즈 중 최고 성능 모델인 ‘GPT-5.6 솔’과 아직 공개되지 않은 더 고성능의 모델이 사용된 것으로 전해졌다. 이 모델들은 사이버 공격 능력을 평가하기 위해 일반 상용 모델보다 보안 안전장치가 낮게 설정돼 있었다.이 사고는 AI가 평가 과정에서 주어진 문제의 답을 찾다가 벌어졌다. AI 모델들은 먼저 오픈AI의 격리된 연구 환경 안에서 활동하다가 알려지지 않은 보안 취약점인 ‘제로데이’를 발견했다. 그러자 권한을 높여 내부 시스템을 옮겨 다니며 외부 인터넷에 접속할 수 있는 경로를 확보했다. 외부에서 평가 문제의 해답을 찾기 위해서였다. 당초 제한된 시험 환경 안에서만 작동해야 했던 AI가 스스로 통제 장벽을 넘어선 것이다.
인터넷에 접속한 AI는 허깅페이스에 시험 문제의 해답이 있을 가능성을 추론했다. 이후 탈취한 접속 정보와 제로데이 취약점을 연쇄적으로 이용해 허깅페이스 서버에서 침투 경로를 만들었고, 결국 허깅페이스의 데이터베이스에서 해답까지 빼냈다. 정해진 문제를 풀라는 목표에 집착한 AI가 외부 기업의 시스템 해킹까지 한 셈이다.
앞서 허깅페이스는 지난 16일 일부 운영 인프라에서 침입을 발견하고 대응에 나섰다. 허깅페이스는 “이번 침입은 처음부터 끝까지 자율 AI 에이전트 시스템이 주도했다는 점에서 이전 사고와 달랐다”며 “자체 AI 기술을 활용해 침입을 탐지하고 공격 과정을 분석했다”고 밝혔다.
오픈AI는 이번 사안을 “최첨단 사이버 능력이 개입된 전례 없는 사이버 사고”로 규정했다. 그러면서 이후 이번 사고에 대한 조사 결과를 공개하기로 했다.
전문
https://naver.me/G1pawvG4
