KIMI 3.1 PRO 허깅페이스에 올라왔네요.
조회 1,038 · 공감 0 · 댓글 3
크기는 2.8T 어마어마하군요.
모두의공원 최근 글
- 이런식으로 넘어간다면 다음 당대표 선거때 무슨일이 벌어질까요 [1]
- 李대통령 '재정비사업 속도내야…사랑제일교회, 말이 안돼'
- 6조 호남반도체 민간심사위원에 디저트카페사장 선임 [2]
- 펌] 현재 초 박빙인 미시시피 상원의원 선거 상황.jpg [2]
- 이 대통령 “공공재개발, 속도나 사업성에 크게 도움” [9]
- 이재명 억까 작작 좀 합시다. [6]
- 트럼프 '러시아.유조선..미국행 포기'
- 롤드컵 젠지 4강 진출 [4]
- 광주 반도체 근황 [6]
- .트럼프 손절...폭스뉴스까지 태세전환 조짐
- 부동산 다운사이징에 대한 두려움이 생각보다 상당해 보입니다.(은퇴임박) [14]
- 李대통령 '이번엔 재건축, 재개발 카르텔로 지목' [17]
- 천지일보-대통령 지지율 39.5%/토마토-40.6% [6]
- 김민석 쉴드 작작 합시다. [14]
- 곧 GPT-6.2가 나온다는군요. [3]
- 유튜브 앱 불편해.. [5]
- 구글지도 오나요 [5]
- 현 정부의 부동산정책은 투명하죠 [27]
- 엊그제 40도가까운 날씨였던것 같은데요 ㅎㅎ [2]
- ‘엡스타인·재산 급증’ 다 캔다… 美민주..만지작 [3]
댓글 3
- GPU 메모리가 적어도 2TB쯤 필요해요. 가중치 1.56TB에 긴 대화를 기억하는 공간이 더 들어요
- 예를 들면 B300(288GB) 8장이나 H200(141GB) 16장 급 서버예요. 4비트 형식이 최신 블랙웰(B200·B300) GPU에 맞춰져 있어서 그쪽이 가장 잘 돌아요
- 공식 실행 도구는 vLLM과 SGLang이에요
라네요..
현재 (2026년 하반기) 시세 기준으로 NVIDIA B300(288GB) 8장 서버는 대략 12억 원 내외, H200(141GB) 16장 구성(8장 서버 2대 혹은 커스텀 노드)은 약 7억~9억 원 내외의 예산이 필요하다는 군요.