· 톺아보기

제가 로컬 LLM을 절대 믿지 않게 된 계기

시나모롤 · · 수정

조회 1,152 · 공감 0 · 댓글 7

1786116259_Screenshot_2026_03_03_at_5.55.04 pm.png

4090으로 처음 두근반 세근반 하면서 Llama 깔아서 엑사원 받고 처음으로 돌려봤는데


첫 결과가 이랬습니다


이 이후로 로컬 LLM은 손도 대지 않고 있습니다

댓글 7

  1. 오라질 ·
    어우 진심 한숨나오는 대답이네요 ㄷㄷ 딥식이랑 glm은 꽤 괜찮아요
  2. 주나파 ·
    저건 뭐 엑사원의 문제일뿐이죠 ^^
    로컬LLM 중에서도 쓸만한 것들 있긴 합니다. 물론 온라인프론티어 모델들보다는 성능이 떨어지지만요
  3. Gomgome ·
    사실 영상 돌리는거 아니면 단순히 글로 하는 llm은 아직 클로드 최신버전 으로 봐도
    만족스럽지가 않은데 로컬모델이라면 더 갑갑할거 같습니다.
    아직도 장편 웹소설같은건 참 답없어보이거든요
  4. 숫자놀음 ·
    뭔가 다른 의미(?)로 LG스럽긴 하네요..^^..
  5. 다복파파 ·
    기업에서 로컬LLM을 위해서 투자하는 비용을 생각하면 집에서 사용할 로컬 LLM 을 구성하는 건 그냥 장난감 수준입니다. 집에서 구성하는 비용으로 사용료를 지불하고 LLM을 사용하는 것이 더 좋은 결과를 냅니다.
  6. 리누 ·
    집에서 쓰면서, 그래도 얘 좀 하네? 느끼려면 dgx spark 2대 정도는 붙여줘야 합니다. 그러니까 2천만원 넘게 써야 한다는거죠
  7. joo720 ·
    최근 해킹이 다 로컬llm 입니다

모두의공원 최근 글

모두의공원 목록 더 보기