· 톺아보기

K3 부터 여러가지 메모리 관련 기사를 읽어봤어요.

콩쓰v · · 수정

조회 2,648 · 공감 3 · 댓글 9

Kimi K3가 출시하고 폭발적인 인기로 많은 신규 접속자가 생겼어요.

그러나 출시 3일만에 신규 구독을 중단했습니다.

원인은 추론에 필요한 막대한 양의 컴퓨팅 자원의 부족.


kimi.png


아시아부터 미국 증시까지 파장은 컸지만 결국은 우리나라 메모리 업체들의 호재 상황이 벌어진건데요.

앤트로픽과 오픈AI에게는 영향이 미치겠지만 결국 프론티어 모델이 출시될 때마다 AI 인프라 투자 수요는 늘어날 수 밖에 없는거죠.

마침 알리바바 QWEN도 3.8 버전을 내놓는다고 하네요. 지푸 GLM, 문샷 Kimi, 딥시크 V까지 중국 AI 시장도 치열한 경쟁을 하고 있어요.


중국은 물리적인 양을 키우는 대신 밸류에드 성격의 증류와 연산 과정 다이어트를 열심히 했지만,

결국 물리적인 인프라가 확충되지 않고서는 보다 향상된 기능에서 계속해서 제약이 발생한다는 걸 이번에 보여줬다고 봅니다.


AI모델이 고도화될수록 AI 인프라의 두 축, 메모리와 전력은 계속 부족할 수 밖에 없다는게 현 상황입니다.

ADATA 천리바이 회장도 향후 10년간 전 세계에서 메모리 부족은 계속될거라고 얘기하고 있습니다. 실제 데이터가 그렇구요.

최태원 회장이 말하길 소버린AI 발전에 따른 컴퓨팅 칩을 확보하기위해 국가 차원의 메모리 업체에 대한 압박과 로비가 상당하다고 해요.


국내 주식으로 넘어와보면 6월 말부터 등락폭이 상당했고 

MDD도 역대급에 이를 정도로 개인에게는 엄청난 공포에 짓눌린 장이었다고 봅니다.

결국엔 평균 회귀(산이 높으면 골이 깊다) 라는 주식의 정설을 간과했다고 보구요.

반등 시점은 이번주부터 주요 빅테크 실적 발표에 따라 보고 있습니다.

댓글 9

  1. jjkkjj · · 공감 1
    3년 적금 들었다고 생각하고 메모리 주식 쟁여둡니다
  2. 언어분석 ·
    어차피 쓸 사람들은
    구독 요금제가 아닌
    API로 씁니다

    그것도 KIMI에서 API로
    결제해서 쓰는 게 아닌
    API 중개 플랫폼에서 쓰겠죠

    과거 중국 모델하고는 다르게
    K3는 상당히 비싼 편이라
    돈 있는 분들만 마음껏 쓰겠죠

    저도 K3 며칠 쓰고 있는데
    개인적으로는 별로라서
    GPT-5.6 sol만 쓰고
    간헐적으로 페이블 5 씁니다
  3. 솔라 ·
    만약 서버 호스팅으로 모델을 다운로드 받아 돌린다고 하면 구축과정의 시간과 비용을 제외하고도 운영비만 월 수억원이 들텐데 웬만한 회사라도 쉽지 않죠. 그것도 가능한 풀로 돌려서 생산되는 모든 토큰을 활용해야 가성비가 나올겁니다.
    판매도 쉽지 않을테니 회사내에서 활용이 가능할 경우에만 국한되게 됩니다.
    그리고 또 하나의 중요한 점은 보안 신뢰도입니다.
    예전 챗봇수준일때와 다르게 에이전트로 작동하는 상황에서 각종 로컬 및 네트워크 권한을 줘야하는데 과연 가능할까요?
    우선은 그냥 API 수준에서 가능성을 확인하는 수준에서 사용될 것으로 보입니다.
  4. 콩쓰v ·
    @솔라님 사용 업무에 대해서 오케스트라는 페이블, Sol을 사용하고 단위 업무에서 말씀하신 보안 등 허용 범위내에서 전략적으로 고민해보지 않을까 싶어요.
  5. 올데포 ·
    K3가 클로드에 필적할만한 성능을 내서 잠깐 충격을 줬는데, 결국 요금이 비슷하다면 별 의미가 없다는 결론이 나겠군요. 사람들이 기대한건 보다 적은 요금으로 ai를 사용할 수 있다는 기대감 + 기존 미국 빅테크들의 자원 쏟아붇기식으로 만들어낸 성능에 대한 의심 → 요거 였는데 "K3도 어쩔 수 없이 비싸다" 라는게 밝혀지면, 결국 칩 수요만 다시 확인해준셈
  6. 콩쓰v ·
    @올데포님 가성비로 중국 모델을 쓰고 있었죠. 다만, 성능이 향상되면서 중국도 가성비는 점점 버리는 추세로 가고 있습니다.
  7. 블루텀 ·
    전기야 중국은 넘쳐나니 중국의 병목은 결국 메모리겠네요. 모델이야 베끼면 되니 문제 없구요.
  8. 콩쓰v ·
    @블루텀님 창신메모리가 중국 내 수요를 전부 감당하지 못하는게 현실이죠.
  9. ProNAS ·
    그나마 조금은 좋은 뉴스군요.
    사람이 몰려서 신규투자 해야하고.. 메모리 추가 해야 하고..
    이런 뉴스 많이 나와야 되요.

모두의공원 최근 글

모두의공원 목록 더 보기