· 톺아보기

qwen 3.8 27B 생각보다 더 잘 나왔네요ㄷㄷ

hogar ·

조회 4,318 · 공감 2 · 댓글 17

개인적으로 sonnet 4.6 이랑 비슷하기만해도 

잘 쓸 수 있겠다 정도의 기대감이었는데


오늘 새벽에 공개된 후 나온 정보를 종합해보면

대략 opus 4.6 이 언급되는 수준이네요? ㄷㄷ


당연히 디테일한 부분은 프론티어 모델보다 떨어지겠지만

로컬 모델이 프론티어 모델과 유사한 수준까지 올라왔다는게 충격이었습니다.


실제 사용 후기도 툴콜링도 좋아지고

제미나이도 해결 못한 문제를 완벽히 해결한 사례들도 공유되고 있습니다.


앞으로는 HBM 에만 집중되던 메모리도

LPDDR6, GDDR7 등 로컬 환경에서 대역폭과 용량을 극대화할하는 방향으로 수요가 옮겨가지 않을까 싶습니다.



댓글 17

  1. northvan ·
    이것 다운받아서 사용하는 모델인가요? 그러면 pc는 엄청난 고사양이겠죠?
  2. 메이잉 ·
    @모래님 27b 모델이니까 16기가 그래픽 카드에 32기가메인램 정도면 그럭저럭 돌아가겠네요
  3. 천문공 ·
    @메이잉님
    일상적으로 사용하려면 그렇게는 안됩니다.
    24GB 정도는 되어야 합니다.

    그냥 돌려 보는 것 정도는 16GB 정도도 가능하지만요.
  4. mericrius ·
    28년은 되어야 공급망이 정상화 될거 같은데 그 때쯤에 로컬LLM머신 들이고 싶네요
  5. hogar ·
    @mericrius님
    2년뒤쯤에는 로컬모델의 수준도 더 높아져서 대다수가 로컬모델을 돌리고 있을지도 모르겠네요
  6. Clenn ·
    예전에 로컬모델 받았을 때 좀 실망했었는데 이거 기대되네요
    제 글카가 7900XT라서 27b돌리기 적당한데 ㅋㅋ
  7. Clenn ·
    방금 받아서 써봤는데 응답도 생각보다 굉장히 빨리나오고 퀄리티도 괜찮네요
    코딩에 쓰면 어떨지 궁금해지는군요
  8. 딜런_TK ·
    저도 지금 다운로드 받고 있는데 기대됩니다. RTX 3090 2장, vllm 에 Qwen/Qwen3.8-27B-FP8 설치해서 테스트 할려고 하는데, 오늘은 이거 가지고 놀아야 겠네요.
  9. hogar ·
    @딜런_TK님 오 후기 짧게라도 부탁드립니다. 나와있어서 못 돌려보니까 근질근질하네요
  10. 하루세끼 ·
    qwen 계열은 과도한 추론 때문에 꺼려지던데.. 이번 모델은 어느 정도 개선됐는지 궁금하네요. 벤치만 보면 로컬에서는 아직 ds4 플래시가 왕인것 같습니다.
  11. hogar ·
    @하루세끼님 더 과도해졌다고 합니다.
  12. WhoIsIt ·
    오늘 기존컴에 있던 2070 S 를 추가로 달아서 5070 ti 16G + 2070 S 8G = 24GB 로 돌려 봤습니다.
    24G 설정이 되어서 cline 에서 처음으로 제대로 동작시켰네요 - test 삼아 개인 프로젝트 파일 하나 분석 시켰더니 엄청난 지적질을 ~.~ / 동작 잘 되네요 ㅎㅎㅎ
  13. hogar ·
    @WhoIsIt님
    오 대략 체감 성능이 어느정도로 느끼셨나요?
  14. WhoIsIt ·
    @hogar님 로컬 AI로는 처음 제대로 돌려봤는데 나쁘지 않네요. 다만 코드 생성은 해 보지 않아서 비교는 쉽지 않습니다.
    속도는 빠르지는 않지만 출력 시작하면 눈으로 읽는 속도보다는 잘 나왔습니다.
  15. WhoIsIt ·
    @hogar님 추가로 Android studio 내장 AI(무료 기준) 코드 분석 요청 한 것과 비교하면 qwen 3.8 이 월등하게 잔소리를 많이 해 주는 것으로 확인 됩니다. 적어도 코드 분석은 안드 기본 AI 동작비교 속도 빼고는 좋다 입니다.
  16. 루나르도문 ·
    QWEN은 다른건 차지 하고 한글 이해도가 너무 안좋아서 쓰기 꺼려지더라구요. 지금은 Gemma 4에 정착해서 살고 있습니다
  17. hogar ·
    @루나르도문님
    누군가 중국어로 프롬프트 던졌더니 더 처리율이 떨어졌다고 하더라구요.

모두의공원 최근 글

모두의공원 목록 더 보기