제가 로컬LLM으로 하는짓

댓글 17

1. 익절합니다 · 2026-10-22 12:27:07

   구동하시는 로컬머신 스펙과 모델명 공유 좀 부탁드릴 수 있을까요
2. 넌좋은친구네 · 2026-10-22 12:29:07 · 공감 1

   @익절합니다님 AMD Ryzen 7 7800X3D (8코어 16스레드, 최대 5.05GHz)
   메인보드 ASUS ProArt X670E-CREATOR WIFI
   RAM 64GB (OLOy DDR5-4800 32GB × 2, 6000MHz로 동작 중)
   GPU AMD Radeon AI PRO R9700 × 2 (각 32GB VRAM) + 내장 Radeon Graphics (iGPU)
   저장장치 • KIOXIA EXCERIA PRO G2 2TB NVMe
3. 익절합니다 · 2026-10-22 12:35:33

   감사합니다! 그리고 어떤 LLM 모델을 쓰시나요
4. 넌좋은친구네 · 2026-10-22 12:43:15 · 공감 1

   @익절합니다님 qwen3.8 flash next 쓰고 있어요. 프리필4000에 디코드89정도 나옵니다.
5. 원료약품및 · 2026-10-22 12:27:56 · 공감 1

   오와 혹시 컴퓨터 난이도도 조절가능한가요??
6. 반지하제왕 · 2026-10-22 12:28:10

   동급생번역본이이!
7. 종.삼 · 2026-10-22 12:28:44

   Vram은..8g..일까요?
8. 0x · 2026-10-22 12:36:49

   재밌겠네요. 혹시 오퍼스 같은 걸로 하면 더 빠를까요?
9. 오르테가 · 2026-10-22 12:44:28

   리버스 엔지니어링 하시고 계신거죠? REA
10. 넌좋은친구네 · 2026-10-22 12:45:09

    @오르테가님 냅 rea로 하고 있습니다
11. 골뱅2222 · 2026-10-22 12:47:25

    저도 오늘부터 스트라타로 qwen flash로 한번 만들어 보려고합니다
    대항해시대4 베이스 유적 탐험은 파이날판타지처럼, 주점은 동급생게임 처럼 생각하고 있습니다!
12. pluto248 · 2026-10-22 12:53:28

    확실히 strata로 LLM 구동 시키는 비용이 확 줄어 들어버려서, 로컬LLM 분위기가 좀 바뀌고 있는것 같습니다.
    그런데 이러다 메모리 가격 지금도 비싼데 더 오르는게 아닌가 걱정이긴 하네요 ㅎ
13. 넌좋은친구네 · 2026-10-22 13:05:34

    @pluto248님 메모리를 더 추가할까 고민중인데 오늘이 제일싼거겠죠 ㅎ
14. 바람난타조 · 2026-10-22 13:10:32

    저도 무검열 버전 쓰고 싶습니다.
    일반 애들은 말을 너무 안들어요.
15. 320i · 2026-10-22 13:20:57

    보자마자 삼국지5 생각했는데 맞네요 ㅋㅋ
16. 오라질 · 2026-10-22 13:32:22

    재미로 입코딩할수있는 시대가 와서 넘 좋습니다 ㅠ.ㅠ
17. webtech9 · 2026-10-22 13:32:29

    제발 결단코 천사들의 오후도!!!부탁드립니다