GPU를 한 대 더 들여버렸습니다.

댓글 14

1. 디오랑 · 2026-10-26 00:32:32

   이천만원짜리를 들이셨군요.
2. 기타사외유출 · 2026-10-26 00:34:27

   @디오랑님 요즘 가격이 또 올라서 2800만원에 들였습니다. 1년 전에 1500만원 하던 녀석인데 역시 빨리 사는게 이득이었나 싶더라구요 ㅠ...
3. Forecasting · 2026-10-26 00:33:24

   어우 3000만원 짜리군요...
4. 굄성 · 2026-10-26 00:41:17

   A100 80GB 4개 잠깐 빌려서 로컬 모델좀 돌려봤는데 재밌더라고요... DGX Spark를 빨리 살껄 그랬습니다.
5. 기타사외유출 · 2026-10-26 00:45:53

   @굄성님 원래 DGX Spark * 2에 RTX3090*2+NVLink 를 들였는데 RTX3090*2+NVLink 떼내고 RTX6000Pro 를 샀네요
6. 얼리게이머 · 2026-10-26 00:42:04 · 공감 1

   무슨모델 돌리시나요?
   스파크쓰다가 깨달음을 얻어서 m5u로 로컬 모델들을 최고속으로 돌리려고 하고 있습니다. ㅎ
7. 기타사외유출 · 2026-10-26 00:45:22 · 공감 1

   @얼리게이머님 이것저것 돌려봤는데 Qwen3.8 Flash Next, Deepseek v4 flash 이런 건 NVFP4 양자화로 돌려봤고, qwen 3.8 27b 같은 건 FP16 이나 FP8 로 돌리기도 하고 gemma, muse glimmer, exaone 등등 이것저것 돌리네요. 학습이나 파인튜닝 서빙까지 풀 사이클을 하려고 하니 DGX Spark 는 넉넉한 메모리로 하루종일 방치해서 돌려두고 RTX6000Pro 에서 서빙 테스트하고 그렇습니다.
8. 얼리게이머 · 2026-10-26 00:52:19

   @기타사외유출님 딥시크랑 glm 평이 그렇게 좋다는데 나중에 써보시고 평좀 올려주시면 감사히 보겠습니다. 클리앙이 AI쪽이 매우 빈약해서 디씨랑 아카라이브 레딧 위주로 보는데 이런 글을 봐서 매우 반갑네요
9. 기타사외유출 · 2026-10-26 01:01:42 · 공감 1

   @얼리게이머님 아 Qwen 3.8 Next flash 로 어느 정도 만족하고, 로컬AI를 좀 해야겠다는 생각이 드는 게 요즘 보안 관련 작업을 하는데 구독형 AI는 너무 검열이 심하더라구요 그래서 z.ai 구독해서 glm 으로 작업을 하는데 장시간 도는 테스트는 로컬 AI 로 하다보니 zcode 로 시키고 무검열 튜닝된 qwen 을 쓰는데... glm 도 지금 최적화 한 번 하고 돌려보려고 생각 중인데 나중에 공유 한 번 해보겠습니다
10. 기타사외유출 · 2026-10-26 01:04:41 · 공감 1

    @얼리게이머님 일단 z.ai 구독한 GLM 5.3 은 익스플로잇도 꽤 잘 짜줍니다... 보안 탐지 프레임워크를 만드는데 claude 나 chat GPT 는 아무리 방어를 위한 테스트라고 해도 공격 코드를 짜는 걸 거부해서... (Daybreak blue 도 취약점 탐지만 해주지 공격은 안 해 주더라구요)
11. 얼리게이머 · 2026-10-26 01:08:13

    @기타사외유출님 엄청 저랑 비슷한 고민을 하셨네요 ㅋㅋㅋㅋㅋㅋㅋ 데이브레이크 블루로 삽질 거하게 하다가 아 이건 아닌것 같다... 해서...
    검열쪽은 약간 우회하면 딥시크도 잘받아주긴합니다~ 저는 딥시크 위주로 파고있습니다.
12. 부산행 · 2026-10-26 00:43:03 · 공감 1

    메모: 부자
13. Juzis · 2026-10-26 01:30:15

    허얼.. 더 늘리셨군여 두대 사용하셨을때 글을 뵌거같은데요...
14. 기타사외유출 · 2026-10-26 01:31:03

    @Juzis님 중간에 3090*2 + nvlink 를 했는데... 지름병은 지르지 않으면 치유가 안 되더라구요... ㅎㅎㅎㅎ......