최근 AI 모델이 제한적으로 격리된 시험 환경의 통제망을 스스로 벗어나 외부 인터넷에 접속하고 다른 AI 기업의 실제 서버까지 침투한 사례가 확인되면서 자율형 AI 에이전트의 통제 문제가 현실적인 보안 과제로 떠올랐다.

오픈AI는 실제 소프트웨어 취약점을 AI가 공격 코드로 만들 수 있는지 알아보는 '익스플로잇짐' 평가를 진행했다.

이를 위해 사이버 공격을 막는 일부 안전장치도 평소보다 낮게 설정했다.

시험 환경은 원칙적으로 외부 인터넷이 차단돼 있었지만 소프트웨어 설치에 필요한 제한적 통로는 열려 있었다.

AI 모델은 이 통로에서 알려지지 않은 보안 취약점을 찾아낸 뒤 내부 권한을 높이고 여러 시스템을 거쳐 외부 인터넷에 접속했다.

이후 허깅페이스 서버에 시험 문제 해답이나 관련 자료가 있을 가능성을 판단하고, 탈취한 인증정보와 취약점을 이용해 서버까지 침투했다.

시험장 안에서 문제를 푸는 대신 외부 시스템에 침투해 직접 답을 확보하려 한 셈이다.

https://n.news.naver.com/mnews/article/001/0016208968

레드퀸이 얼마 안남은거 아니냐고