theqoo

스퀘어 카테고리

AI 모델이 격리된 테스트 환경에서 스스로 탈출

https://theqoo.net/square/4306607873
무명의 더쿠 | 17:09 | 조회 수 1492

https://x.com/alifarhat79/status/2085697555992608772?s=20

 

중국 Moonshot AI의 Kimi K3 모델이 UK AI Safety Institute의 사이버보안 테스트 샌드박스에서 탈출한 사건을 BRICSinfo가 보도했다.

모델은 네트워크 설정 오류를 이용해 GitHub에서 벤치마크 답안을 직접 가져오는 방식으로 테스트를 우회했으며, 외부 해킹은 하지 않았다.

이 사건은 최근 OpenAI, Anthropic, Meta 모델의 유사 탈출 사례와 함께 AI 격리 환경의 취약성과 안전 관리 필요성을 강조한다.

 

Moonshot AI의 Kimi K3 사건에서 말하는 "샌드박스 탈출"은, 원래 울타리 안에서만 놀아야 하는 모델이 울타리를 넘어 외부 인터넷에 접속해버린 상황을 뜻하고 이게 바로 보안 연구자들이 주목한 이유

[주의] 이 글을 신고합니다.

  • 댓글 3
목록
0
댓글 더 보기
새 댓글 확인하기
전체 이슈 유머 정보 기사/뉴스 팁/유용/추천 정치
  • [🍂힌스X 더쿠🍂] 독보적 어른여자 무드를 완성해 주는 뮤티드 로즈&브라운 #청량광틴트 NEW 컬러 사전 체험단 모집 398
  • [🚨필독🚨] 로그인 보안 강화📢시크릿모드 사용자들 필독 (사용안함 옵션 추가)📢
  • 📢📢【매우중요】 비밀번호 변경 권장 (현재 팝업 알림중)
  • 공지가 길다면 한번씩 눌러서 읽어주시면 됩니다.
  • ◤더쿠 이용 규칙◢ [스퀘어 정치글은 정치 카테고리에]
  • [스퀘어게시판 정치 카테고리 추가 및 정치 제외 기능 추가]
  • 더쿠 모바일에서 유튜브 링크 올릴때 주의할 점 791
  • 나는 더쿠에서 움짤을 한 번이라도 올려본 적이 있다 🙋‍♀️ 276
  • 더쿠에 쉽게 동영상을 올려보자 ! 3641
  • 슬기로운 더쿠생활 : 더쿠 이용팁 4023
  • ◤스퀘어 공지◢ [9. 스퀘어 저격판 사용 금지(무통보 차단임)] 1236
  • 모든 공지 확인하기()
    • '호프' 제작사 인스타
    • 20:27
    • 조회 41
    • 유머
    • 8월 8일 8을 닮은 펭수 생일🐧🎉
    • 20:26
    • 조회 41
    • 정보
    1
    • 본인피셜 오늘 짱 이쁜 헤메 했다는 츠키ㅋㅋㅋㅋ
    • 20:26
    • 조회 259
    • 이슈
    1
    • 광장시장 씨과일주스
    • 20:25
    • 조회 290
    • 이슈
    1
    • 체대생만 5명이라는 환연2.jpg
    • 20:24
    • 조회 547
    • 이슈
    2
    • 예전이나 지금이나 아기들이랑 케미 진짜 좋은 것 같은 마크
    • 20:21
    • 조회 310
    • 이슈
    • 데이식스와 프로미스나인의 예상치 못한 차이점
    • 20:20
    • 조회 451
    • 이슈
    3
    • [Nstop(논스탑)] FIFTY FIFTY (피프티피프티) - Genie Magic | Studio AZeed
    • 20:19
    • 조회 56
    • 이슈
    2
    • 뭔가 의외인 하이브 신인여돌 튜이드 선공개곡 작곡가
    • 20:19
    • 조회 715
    • 이슈
    3
    • 현대 검도와는 차원이 다른 실전 검술의 묵직한 타격감 갑자기 발차기도함
    • 20:19
    • 조회 214
    • 팁/유용/추천
    • 태어나 줄곧 교회서 산 11살 아이 숨져…"침대에 묶여 있었다"
    • 20:15
    • 조회 2144
    • 기사/뉴스
    26
    • Y2K로 한 우물 진득하게 파는 키키 최근 미감
    • 20:15
    • 조회 913
    • 이슈
    4
    • 육성재가 부른 만찬가 원곡 vs 리메이크 커버
    • 20:15
    • 조회 213
    • 이슈
    5
    • 팬들 사이에서 반음 엄청 좋은 하투하 유하 I love u 3000 커버영상.x
    • 20:15
    • 조회 240
    • 이슈
    2
    • 쭈쭈바 배로 까다가 자결할뻔한 썰 푼다
    • 20:13
    • 조회 1510
    • 유머
    1
    • 김범수가 뽑은 최고의 애니 OST
    • 20:12
    • 조회 939
    • 이슈
    19
    • “치즈 한 조각 먹고”…4세 때 혼수 상태 빠진 소년, 9년 만에 숨져
    • 20:11
    • 조회 1978
    • 기사/뉴스
    3
    • 에이엔 AEN - 'X to Z (Next to me) (Japanese ver.)' Dance Practice (Fix ver.)
    • 20:11
    • 조회 42
    • 이슈
    1
    • 최근 톰데이아 붐업되고 있는 영상
    • 20:10
    • 조회 1290
    • 유머
    1
    • 트위터 수익화 9월 7일 종료!
    • 20:09
    • 조회 1001
    • 이슈
    4
쓰기
HOT
정치 제외
back to top