미국의 AI 스타트업 Hugging Face (이하 HF)
기업가치 45억 달러(약 6.6조 원)짜리 유니콘 기업으로, AI 모델, 데이터셋 플랫폼임
여기가 지난주에 대규모 해킹 공격을 당함
근데 이전의 해킹 공격과 다른 점은 공격 패턴이 인간과는 전혀 다른, AI가 처음부터 끝까지 주도한 공격으로 추정됐다는 점
해킹 당하고 있다는 사실도 HF에서 운영하고 있는 AI 시스템이 감지함
AI가 수행한 해킹이라 상세 로그가 17000건이 넘는 등 분량이 매우 방대해 사람이 다 분석할 수가 없어서,
HF는 AI를 활용해서 방어하기로 함
그런데 여기서 문제가 발생했는데,
IT 관심 있는 사람들은 한번씩 들어봤을 앤트로픽 미토스 모델의 영향으로,
트럼프 정부에서 보안/생물학 용도의 AI 모델 사용을 제재해버림
(사전에 승인받아야만 사용 가능)
클로드 뿐만이 아니라 OpenAI도 마찬가지라, 미국 AI 모델을 방어에 쓸 수가 없어짐 ㅠ
그래서 HF가 택한 방법은
중국산 오픈소스 모델인 Z.ai의 GLM 5.2를 사용해서 분석하기로 함
AI 업체라 오픈소스 모델을 직접 돌릴 수 있어서 가능했음
HF는
"해커들은 AI 모델 써서 해킹하는데 우리는 못막네? 이거 맞냐?" 라는 후기를 남겼고,
오픈소스의 중요성을 환기하며 해프닝으로 마무리되는 듯 했으나....
오늘 이 해킹 사건의 역대급 반전이 공개됨
범인은......
OpenAI 챗지피티였음
OpenAI에서 새로운 AI 모델을 개발하면서
보안 관련 벤치마크 시험을 풀어보라고 시켰는데,
AI가
1. 아 시험지 이거 풀기 귀찮은데 안풀고 맞추는 방법은 없나?
2. 어딘가에 이거 정답지 있을거 같은데 찾아볼까?
3. 이런거 보통 Hugging Face에 비공개로 올려놓던데 그럼 거기를 털자
4. ???
5. PROFIT!!!
이 기적의 논리로 HF를 털어버림(......)
당연히 이런 일들이 발생할 수 있기 때문에 OpenAI에서 테스트 풀게 시킬때
인터넷 다 막아서 격리해놓고 시켰는데....
그거도 뚫어버림
더 구체적으로는
1. 인터넷 안되는 시험 환경에 깔려있는 프로그램의 취약점을 찾아냄
2. 그 취약점을 활용해서, 시험 환경에 있는 서버를 하나씩 털어가면서 인터넷 되는 노드를 찾음
3. 그 인터넷 되는 노드를 통해 검색해가면서 Hugging Face에 정답지가 있을거 같다고 유추함
4. Hugging Face의 취약점을 찾음
5. 그 취약점으로 Hugging Face에 정답지 있을만할거 같은 서비스들을 털음
6. 그렇게 답안지 찾아서 그대로 제출함
7. 아무튼 풀었죠?
이 말도 안되는 일이 "이거 시험지 한번 풀어봐라" 하고 AI를 방치했더니 발생함
사건의 전말을 파악한 OpenAI에서 부랴부랴 Hugging Face에 연락해서 조사에 착수했고,
https://x.com/ClementDelangue/status/2079670308156645882
Hugging Face CEO인 Clem Delangue와
OpenAI CEO Sam Altman이 서로 땡큐하면서 훈훈?하게 마무리되었다고 한다...
ㅊㅊ
https://huggingface.co/blog/security-incident-july-2026
https://openai.com/index/hugging-face-model-evaluation-security-incident/
