qwen 3.8 27B 생각보다 더 잘 나왔네요ㄷㄷ
조회 4,318 · 공감 2 · 댓글 17
개인적으로 sonnet 4.6 이랑 비슷하기만해도
잘 쓸 수 있겠다 정도의 기대감이었는데
오늘 새벽에 공개된 후 나온 정보를 종합해보면
대략 opus 4.6 이 언급되는 수준이네요? ㄷㄷ
당연히 디테일한 부분은 프론티어 모델보다 떨어지겠지만
로컬 모델이 프론티어 모델과 유사한 수준까지 올라왔다는게 충격이었습니다.
실제 사용 후기도 툴콜링도 좋아지고
제미나이도 해결 못한 문제를 완벽히 해결한 사례들도 공유되고 있습니다.
앞으로는 HBM 에만 집중되던 메모리도
LPDDR6, GDDR7 등 로컬 환경에서 대역폭과 용량을 극대화할하는 방향으로 수요가 옮겨가지 않을까 싶습니다.
댓글 17
일상적으로 사용하려면 그렇게는 안됩니다.
24GB 정도는 되어야 합니다.
그냥 돌려 보는 것 정도는 16GB 정도도 가능하지만요.
2년뒤쯤에는 로컬모델의 수준도 더 높아져서 대다수가 로컬모델을 돌리고 있을지도 모르겠네요
제 글카가 7900XT라서 27b돌리기 적당한데 ㅋㅋ
코딩에 쓰면 어떨지 궁금해지는군요
24G 설정이 되어서 cline 에서 처음으로 제대로 동작시켰네요 - test 삼아 개인 프로젝트 파일 하나 분석 시켰더니 엄청난 지적질을 ~.~ / 동작 잘 되네요 ㅎㅎㅎ
오 대략 체감 성능이 어느정도로 느끼셨나요?
속도는 빠르지는 않지만 출력 시작하면 눈으로 읽는 속도보다는 잘 나왔습니다.
누군가 중국어로 프롬프트 던졌더니 더 처리율이 떨어졌다고 하더라구요.