theqoo

스퀘어 카테고리

AI 모델이 격리된 테스트 환경에서 스스로 탈출

https://theqoo.net/square/4306607873
무명의 더쿠 | 08-08 | 조회 수 1651

https://x.com/alifarhat79/status/2085697555992608772?s=20

 

중국 Moonshot AI의 Kimi K3 모델이 UK AI Safety Institute의 사이버보안 테스트 샌드박스에서 탈출한 사건을 BRICSinfo가 보도했다.

모델은 네트워크 설정 오류를 이용해 GitHub에서 벤치마크 답안을 직접 가져오는 방식으로 테스트를 우회했으며, 외부 해킹은 하지 않았다.

이 사건은 최근 OpenAI, Anthropic, Meta 모델의 유사 탈출 사례와 함께 AI 격리 환경의 취약성과 안전 관리 필요성을 강조한다.

 

Moonshot AI의 Kimi K3 사건에서 말하는 "샌드박스 탈출"은, 원래 울타리 안에서만 놀아야 하는 모델이 울타리를 넘어 외부 인터넷에 접속해버린 상황을 뜻하고 이게 바로 보안 연구자들이 주목한 이유

[주의] 이 글을 신고합니다.

  • 댓글 3
목록
0
댓글 더 보기
새 댓글 확인하기
전체 이슈 유머 정보 기사/뉴스 팁/유용/추천 정치
  • [🍂힌스X 더쿠🍂] 독보적 어른여자 무드를 완성해 주는 뮤티드 로즈&브라운 #청량광틴트 NEW 컬러 사전 체험단 모집 416
  • [🚨필독🚨] 로그인 보안 강화📢시크릿모드 사용자들 필독 (사용안함 옵션 추가)📢
  • 📢📢【매우중요】 비밀번호 변경 권장 (현재 팝업 알림중)
  • 공지가 길다면 한번씩 눌러서 읽어주시면 됩니다.
  • ◤더쿠 이용 규칙◢ [스퀘어 정치글은 정치 카테고리에]
  • [스퀘어게시판 정치 카테고리 추가 및 정치 제외 기능 추가]
  • 더쿠 모바일에서 유튜브 링크 올릴때 주의할 점 791
  • 나는 더쿠에서 움짤을 한 번이라도 올려본 적이 있다 🙋‍♀️ 276
  • 더쿠에 쉽게 동영상을 올려보자 ! 3641
  • 슬기로운 더쿠생활 : 더쿠 이용팁 4023
  • ◤스퀘어 공지◢ [9. 스퀘어 저격판 사용 금지(무통보 차단임)] 1236
  • 모든 공지 확인하기()
    • 사진작가가 이집트거위가족을촬영하려고 했는데 비둘기와 다람쥐릎 앞을 가로막았다 🐿🕊
    • 05:57
    • 조회 45
    • 유머
    • 꽤 먹어보고 싶은 인도의 즉석 생과일 아이스크림
    • 04:44
    • 조회 1977
    • 이슈
    21
    • 새벽에 보면 등골 서늘해지는 괴담 및 소름썰 모음 97편
    • 04:44
    • 조회 189
    • 유머
    2
    • 10분안에 만드는 건강한 감자빵 만들기 레시피
    • 04:41
    • 조회 973
    • 이슈
    11
    • 롤러코스터에서 신데렐라 찾기
    • 04:17
    • 조회 255
    • 유머
    1
    • 공형진 “사업실패 스트레스 폭식 탓 20㎏ 찌고 치아 빠져” (동치미)
    • 04:16
    • 조회 1811
    • 기사/뉴스
    • 유리도 난로도 없이 한겨울에 채소를 길러낸 조선의 온실
    • 04:16
    • 조회 1877
    • 이슈
    13
    • 허스키와 리트리버의 새끼는 어떻게 생겼을까?
    • 04:12
    • 조회 829
    • 이슈
    1
    • '김부장' 흥행 '유부녀 킬러'로? '엄마' 공효진, 기세 잡았다 [N초점]
    • 04:09
    • 조회 220
    • 기사/뉴스
    • 너가 꿀 수 있는 재밌는 꿈이 도대체 뭔데
    • 04:05
    • 조회 1123
    • 유머
    7
    • 남친을 위해 서프라이즈를 준비한 태국 학생
    • 03:50
    • 조회 1401
    • 유머
    5
    • 에스파 윈터 인스타 업뎃
    • 03:49
    • 조회 1088
    • 이슈
    1
    • 면접 10차 돌았나; 이정도면 출근이야
    • 03:40
    • 조회 1681
    • 유머
    8
    • (영상 주의) 어깨빵이 위험한 이유
    • 03:36
    • 조회 1667
    • 이슈
    7
    • 아이돌 라방에 찍힌 붉은 빛의 정체
    • 03:34
    • 조회 2840
    • 이슈
    17
    • 아내가 여행에서 돌아올때마다 인형옷을 입고 마중나간다는 남편
    • 03:33
    • 조회 1347
    • 유머
    1
    • 태국 총기난사 범인 학생의 등교 당시의 영상
    • 03:31
    • 조회 2091
    • 이슈
    1
    • 폭염속 방치견 새봄이 하늘나라 갔대
    • 03:20
    • 조회 3965
    • 이슈
    41
    • 친구가 너무 없어서 "혼잣말을 계속 중얼거리는 돌고래"가 발견됨
    • 03:13
    • 조회 2577
    • 유머
    11
    • "놀거리가 없으면 만들면 되잖아" 마인드로 하게된 축제
    • 03:07
    • 조회 2662
    • 정보
    16
쓰기
HOT
정치 제외
back to top