theqoo

스퀘어 카테고리

AI 모델이 격리된 테스트 환경에서 스스로 탈출

https://theqoo.net/square/4306607873
무명의 더쿠 | 17:09 | 조회 수 1407

https://x.com/alifarhat79/status/2085697555992608772?s=20

 

중국 Moonshot AI의 Kimi K3 모델이 UK AI Safety Institute의 사이버보안 테스트 샌드박스에서 탈출한 사건을 BRICSinfo가 보도했다.

모델은 네트워크 설정 오류를 이용해 GitHub에서 벤치마크 답안을 직접 가져오는 방식으로 테스트를 우회했으며, 외부 해킹은 하지 않았다.

이 사건은 최근 OpenAI, Anthropic, Meta 모델의 유사 탈출 사례와 함께 AI 격리 환경의 취약성과 안전 관리 필요성을 강조한다.

 

Moonshot AI의 Kimi K3 사건에서 말하는 "샌드박스 탈출"은, 원래 울타리 안에서만 놀아야 하는 모델이 울타리를 넘어 외부 인터넷에 접속해버린 상황을 뜻하고 이게 바로 보안 연구자들이 주목한 이유

[주의] 이 글을 신고합니다.

  • 댓글 3
목록
0
댓글 더 보기
새 댓글 확인하기
전체 이슈 유머 정보 기사/뉴스 팁/유용/추천 정치
  • [🍂힌스X 더쿠🍂] 독보적 어른여자 무드를 완성해 주는 뮤티드 로즈&브라운 #청량광틴트 NEW 컬러 사전 체험단 모집 396
  • [🚨필독🚨] 로그인 보안 강화📢시크릿모드 사용자들 필독 (사용안함 옵션 추가)📢
  • 📢📢【매우중요】 비밀번호 변경 권장 (현재 팝업 알림중)
  • 공지가 길다면 한번씩 눌러서 읽어주시면 됩니다.
  • ◤더쿠 이용 규칙◢ [스퀘어 정치글은 정치 카테고리에]
  • [스퀘어게시판 정치 카테고리 추가 및 정치 제외 기능 추가]
  • 더쿠 모바일에서 유튜브 링크 올릴때 주의할 점 791
  • 나는 더쿠에서 움짤을 한 번이라도 올려본 적이 있다 🙋‍♀️ 276
  • 더쿠에 쉽게 동영상을 올려보자 ! 3641
  • 슬기로운 더쿠생활 : 더쿠 이용팁 4023
  • ◤스퀘어 공지◢ [9. 스퀘어 저격판 사용 금지(무통보 차단임)] 1236
  • 모든 공지 확인하기()
    • 가장 먼저 보이는 단어 3개가 8월에 얻게 되는 것
    • 19:38
    • 조회 169
    • 이슈
    7
    • 가수가 되기 위한 노래는 90% 이상 타고나야 한다는 이승철
    • 19:38
    • 조회 160
    • 이슈
    • '스스로 투명하게 홍명보 뽑았다더니'…2년 만에 말 바꾼 이임생
    • 19:38
    • 조회 86
    • 기사/뉴스
    • 오늘 미국 공연에서 진짜 핫했던 원호 스타일링
    • 19:36
    • 조회 401
    • 이슈
    • ?????? : 도대체 얼마나 개그를 사랑하는거임???
    • 19:35
    • 조회 379
    • 유머
    5
    • 이번에 스파이더맨4 개재밌게 본 사람들이 한 번씩은 꼭 해보는 거
    • 19:34
    • 조회 467
    • 이슈
    1
    • 3년전 어제 발매된, 더보이즈 "LIP GLOSS"
    • 19:34
    • 조회 26
    • 이슈
    1
    • 아주 많은 공포자컨을 봤지만 이렇게 반응하는 분은 성규오빠 밖에 없어
    • 19:33
    • 조회 251
    • 이슈
    • 강아지 첨 키워본 우리 엄마는
    • 19:32
    • 조회 1030
    • 유머
    9
    • 태풍이 피하는 곳
    • 19:32
    • 조회 455
    • 유머
    1
    • 여름 지옥철 탑승전 필수 교육자료.mp4
    • 19:32
    • 조회 201
    • 유머
    • 토론주제: 모카빵에 건포도
    • 19:32
    • 조회 483
    • 유머
    20
    • [기획] ‘자가 97%’ 루마니아의 역설… 한국형 ‘1가구 1주택’ 주의에 던지는 질문
    • 19:30
    • 조회 650
    • 기사/뉴스
    10
    • ENA <신병4 : 사보타주> 메인예고
    • 19:30
    • 조회 148
    • 이슈
    2
    • 드디어 견종백과 점수 정리합니다 (S급 티어 견종은!?) #강형욱
    • 19:30
    • 조회 215
    • 이슈
    • 올리브영에서 아내 기다리는 남편
    • 19:28
    • 조회 2307
    • 유머
    7
    • 8월 가장 기대되는 띠와 조심해야 할 띠
    • 19:28
    • 조회 956
    • 정보
    3
    • 트레저 보러 출국 갔는데
    • 19:26
    • 조회 818
    • 유머
    6
    • 강호동 협주곡
    • 19:26
    • 조회 169
    • 유머
    5
    • 멕시코 인플루언서 생방송 중 괴한에게 총 맞아 사망.ytb
    • 19:21
    • 조회 1914
    • 이슈
    6
쓰기
HOT
정치 제외
back to top