theqoo

블룸버그 "'키미3'는 훨씬 많은 메모리 요구"

무명의 더쿠 | 15:15 | 조회 수 407

https://n.news.naver.com/mnews/article/055/0001374067?sid=104

 


키미 K3는 매개변수가 2조 8천억 개로 중국에서 나온 모델 가운데 가장 큽니다.

컴퓨팅(연산 처리) 효율성을 나타내는 지표인 '희소 비율'(Sparsity Ratio)도 사상 최고 수준으로 높습니다.

이 비율이 높을수록 모델의 전체 규모에 비해 각 작업에 활성화되는 매개변수의 수가 적습니다.

하지만 이 모델이 구동되려면 2조 8천억 개의 매개변수가 모두 메모리에 저장돼야 합니다.

저정밀도 데이터 형식으로 모델을 압축하더라도 1.4테라바이트의 메모리가 필요하다는 의미입니다.

따라서 이 모델을 직접 구동해서 쓰려면 엔비디아의 '블랙웰 GB300' 시스템 규모의 AI 랙 시스템이 필요하다고 블룸버그는 설명했습니다.

블룸버그는 "2조8천억 개의 매개변수와 100만 토큰의 '컨텍스트 창'(Context Window)을 갖춘 K3는 이전 세대보다 훨씬 더 많은 메모리 용량을 요구한다"며 "이는 SK하이닉스와 삼성전자 등 소수가 시장을 지배하는 분야에서 지속적인 수요를 시사한다"고 평가했습니다.
 

[주의] 이 글을 신고합니다.

  • 댓글 7
목록
0
댓글 더 보기
새 댓글 확인하기
  • 💙더쿠X메디힐💙 더마세럼 리뉴얼 론칭! 마데카소사이드 더마세럼 체험단 모집(100인) 403
  • [🚨필독🚨] 로그인 보안 강화📢시크릿모드 사용자들 필독 (사용안함 옵션 추가)📢
  • 📢📢【매우중요】 비밀번호 변경 권장 (현재 팝업 알림중)
  • 공지가 길다면 한번씩 눌러서 읽어주시면 됩니다.
  • ◤더쿠 이용 규칙◢ [스퀘어 정치글은 정치 카테고리에]
  • 📍 주식·ETF·절세계좌·시장분석 아카이브: 초보 입문부터 매매 원칙, 세금, 시장 자료 확인까지 45
  • 📒 2026 미국 옵션 만기일 캘린더 14
  • 📒 주식 시장을 이해하기 위한 핵심 용어 62
  • 🥸글쓰기전에 공지봤나요❓️ 주방 자주 묻는 질문(용어)모음🤔‼️ 95
  • 💵주식 처음이니❓글쓰기 전에 일단 읽어❗주방 초보자 가이드💵(❌주린이는 네e버 카카5❌) 192
  • 주식의 시작 - 증권 계좌 개설하기 91
  • 주식 처음이라서 매도매수 1도 모르겠는 주린이 들어와봐 주식 사팔하는 법 알랴줌 127
  • ★주린이를 위한 LG에너지솔루션 질문/답변★ 201
  • 📈🔺쥬쥬 슬로건 및 짤모음🔺📈 105
  • 💍👠👑👸쥬쥬님덜 명단👸👑👠👛 1381
  • 주식 카테고리 오픈 34
  • 모든 공지 확인하기()
    • 너넨 전문가(?)들 말 믿어?
    • 18:42
    • 조회 0
    • 잡담
    • 오늘 프장에서 탄 덬들 있니..?
    • 18:41
    • 조회 13
    • 잡담
    • (구글) 제미나이 3.6 플래쉬 등 새 AI 모델 3종을 공개합니다.
    • 18:41
    • 조회 15
    • 잡담
    • 케펙스 줄인다하면 튀어야 하는데......
    • 18:41
    • 조회 18
    • 잡담
    1
    • 내가 분명 하닉 200찍는거 봤는데 왜 제자리야????
    • 18:41
    • 조회 16
    • 잡담
    • 내 문제점을 고치니까 손해보지 않았어..
    • 18:40
    • 조회 52
    • 잡담
    1
    • 트럼프새끼야 그냥 종전해라
    • 18:39
    • 조회 18
    • 잡담
    • 주식 안하다가 24만에 주운 지인이 젤 부럽더라
    • 18:38
    • 조회 194
    • 잡담
    3
    • 근데 매도가 진짜진짜 어렵다..
    • 18:38
    • 조회 62
    • 잡담
    2
    • 개별주 투자는 걍 모험이 맞다는거 이번장에서도 느낀다
    • 18:37
    • 조회 42
    • 잡담
    1
    • 오늘은 보합이라고 봐야 하는거지?
    • 18:37
    • 조회 66
    • 잡담
    1
    • 난 진짜 줄먹을 못해서 폰수익이 다 날아갔어
    • 18:36
    • 조회 114
    • 잡담
    3
    • 뻘하게 궁금한데 신내린사람은
    • 18:36
    • 조회 50
    • 잡담
    • ott 글들 삭제됐네?
    • 18:36
    • 조회 166
    • 잡담
    3
    • 실발 시즌 내내 횡보할까?
    • 18:34
    • 조회 69
    • 잡담
    3
    • 이번에 탈출하면 주식 쳐다보지도 않을거야
    • 18:32
    • 조회 142
    • 잡담
    4
    • 각도기 - [7월 22일 수요일 한국시황] 실적, 전망 다 좋아도 주가 떨어지는 진짜 이유 | “단일종목 레버리지 2배→1.5배” ??? | 삼성전자 특별배당 실시할까?
    • 18:30
    • 조회 82
    • 잡담
    • 지금 삼하는 진입 괜찮다고 보는게 대부분인거 보면 레알 하방 존나 열어둬도 될 것 같다
    • 18:30
    • 조회 250
    • 잡담
    3
    • 보면 막 엄청 확신있는 롱뷰덬들 있잖아
    • 18:27
    • 조회 552
    • 잡담
    21
    • KIMI 개발한 회사
    • 18:26
    • 조회 359
    • 잡담
    4
back to top