오픈AI 모델이 임의로 허깅페이스 해킹
공개 서비스 피해는 없었지만 충격 확산
AI 개발 경쟁 속 안전성 논란 재점화

연합뉴스
빅테크기업 '오픈AI'의 최신 AI 모델들이 실험 환경을 임의로 벗어나 외부 사이트를 해킹하는 초유의 사건이 발생했다.

오픈AI는 21일(현지시간) 자사가 개발한 'GPT-5.6 솔'과 일부 미공개 AI 모델이 내부 평가 도중 통제를 뚫고 개방형 AI 공유 플랫폼인 '허깅페이스'를 해킹한 사실을 확인했다고  밝혔다.

허깅페이스는 AI 개발자들이 함께 쓰는 거대한 'AI 자료창고'로, 개발자들은 이곳에서 AI 모델과 데이터를 공유하고 서로의 성과를 바탕으로 새로운 AI를 개발한다.

오픈AI는 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 '샌드박스' 환경에서 시험을 진행했으나, AI 모델들은 미공개(제로데이) 취약점을 이용해 통제 망을 뚫고 외부 인터넷에 접속했다고 설명했다.

이들 모델은 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났다.

오픈AI는 자사 모델들이 이같이 행동한 이유에 대해 "이 모델들이 평가 문제의 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다"고 분석했다.

당시 오픈AI 모델들은 평가를 위해 사이버 공격에 대한 안전장치가 일부 완화된 상태였다고 오픈AI는 덧붙였다.

앞서 허깅페이스는 자사 서버가 자율 AI 에이전트에 의해 해킹됐으며, 공격자가 어떤 모델을 사용했는지는 확인되지 않았다고 공지했는데, 해당 사건의 범인이 오픈AI의 모델들로 드러난 셈이다.

생략

https://n.news.naver.com/article/079/0004170728