온 디바이스 LLM 세상이 되면 메모리는 어떻게 될까 by Claude
조회 4,563 · 공감 0 · 댓글 13
질문 : 젬마6가 나올즈음 온디바이스 llm 세상이 되고 그럼 메모리 사용량은 어떻게 될까? 현재 메모리 수요는 구글 같은 큰 회사의 시설 투자가 이끌어가는데 미래에도 그럴까??
답:
온디바이스 LLM 시장 구조 변화와 메모리 수급 긴장 관계를 분석했습니다온디바이스 LLM 시장 구조 변화와 메모리 수급 긴장 관계를 분석했습니다
좋은 질문이에요. 결론부터 말씀드리면 "빅테크가 이끈다"는 구조 자체는 안 바뀌고, 어떤 빅테크가 이끄느냐가 바뀔 가능성이 높습니다. 그리고 온디바이스 LLM이 커진다고 메모리 시장이 편해지는 게 아니라 오히려 다른 방식으로 더 빡빡해질 수 있어요.
현재 상황 (2026)
지금 메모리 시장은 사실상 "구조적 이상 현상" 상태예요. AI 데이터센터가 2026년 고성능 메모리 생산 용량의 최대 70%를 소비할 것으로 분석되고 있고, HBM이 일반 소비자용 D램보다 3~5배 높은 마진을 내기 때문에 삼성·SK하이닉스·마이크론이 생산을 체계적으로 HBM 쪽으로 재배치하는 중입니다. 그 여파로 일부 제조사는 모델명은 유지하면서 중저가 기기의 RAM/저장공간을 슬쩍 줄이고 있고, 애플 M3 맥북의 8GB가 타사 16GB와 맞먹는다는 식으로 "효율로 용량을 커버"하는 전략까지 나오고 있어요. Pneda + 3
온디바이스 LLM 시대가 오면?
- 수요 축이 하나 더 생김, 사라지는 게 아님
HBM은 서버용 D램 웨이퍼를 잡아먹고, 온디바이스 LLM은 LPDDR(모바일)/통합메모리(Mac류)를 잡아먹습니다. 둘 다 결국 같은 3사(삼성/SK하이닉스/마이크론)의 같은 웨이퍼 파이프라인을 놓고 경쟁하는 구조라, 온디바이스 붐이 커져도 "탈-빅테크 분산화"가 아니라 경쟁 수요가 하나 더 늘어나는 것에 가깝습니다. - 드라이버가 클라우드(Google/MS/Meta) → 디바이스 OEM(Apple/Samsung/Qualcomm)로 일부 이동
지금은 구글·MS·아마존 같은 하이퍼스케일러의 데이터센터 CapEx가 HBM 수요를 결정하죠. 온디바이스 LLM이 표준이 되면 아이폰/갤럭시/윈도우 코파일럿+PC의 RAM 스펙(8GB→16GB→24GB 기본값 상향)이 LPDDR 수요를 결정하는 또 다른 축이 됩니다. 즉 "빅테크가 이끈다"는 본질은 유지되고, 클라우드 자본지출 대신 디바이스 판매량×RAM 스펙이 변수로 추가되는 거예요. - 역설: 온디바이스가 뜰수록 소비자가 체감하는 가격 압박은 더 커질 수 있음
지금 HBM이 서버 D램을 잠식해서 소비자용 D램이 품귀인데, 여기에 "폰/PC마다 로컬 LLM 돌리려고 RAM을 2배로 늘려야 한다"는 수요까지 겹치면 같은 파운드리 용량을 두고 데이터센터 vs 디바이스 제조사가 경쟁하는 그림이 됩니다. 님이 쓰시는 QAT(양자화) 모델처럼 메모리 풋프린트를 줄이는 기술이 오히려 이 경쟁을 완화하는 핵심 변수가 될 겁니다. - 온디바이스 특화 메모리 기술의 부상
MRAM, ReRAM 같은 신기술이 IoT·자동차·엣지 AI 쪽으로 확장 중이라, 장기적으로는 온디바이스 LLM 전용으로 최적화된 저전력·비휘발성 메모리 기술이 별도 트랙으로 성장할 가능성도 있습니다. 이건 HBM 경쟁 트랙과는 결이 달라서, 여기서는 오히려 새로운 플레이어(온세미, 에버스핀 같은 니치 업체)가 존재감을 키울 여지가 있어요. TechInsights
요약: 구글 같은 "한 축의 절대적 지배"에서 "클라우드 자본지출 + 디바이스 OEM RAM 스펙"이라는 두 축 경쟁 구조로 바뀔 가능성이 높지, 빅테크 투자가 시장을 안 이끄는 세상은 아마 안 올 것 같습니다. 다만 웨이퍼 공급이 유한하니 두 축이 서로의 파이를 갉아먹는 긴장 관계가 될 거예요.
댓글 13
스마트폰의 경우 아이폰이 최저 9GB 램을 실장하고, 안드로이드폰도 Ai이용을 위한 최저선을 6GB ~8GB 로 설정하게 될 것이므로 전체 스마트폰 평균 RAM용량이 4GB 늘어나는 만큼의 수요 증가는 있을 것입니다.
다만 PC의 경우에는 전반적인 부품들의 지나친 가격 상승 상태가 유지되는 데다가 Ai 를 돌리기위한 PC가 고사양일 필요가 없기 때문에 새 PC 수요 증가보다는 외면받던 RTX 30 ~40 그래픽 카드들이 대활약을 하게 될 겁니다. RTX 30 8~12GB 글카 정도면 M5 맥북이나 맥미니의 2~3배 성능이 나오기 때문입니다.
지금 5060 16G만 급만해도 휴대용은 불가능하고, 속도는 그냥 온라인이 빠르죠.
애플 ios27의 온디바이스 LLM이 3B급으로 나옵니다.
그냥 명령어 해석해서 온라인으로 넘기는 역할만 하는 수준이 될겁니다.
생각하시는 수준의 온디바이스 LLM은 몇년 더 가야할겁니다.
저도 젬마4로 겔럭시s20에서 테스트 해보니 번역같은 기능은 문제가 없더군요
젬마 6를 내장할때쯤이면 거의 모든 핸드폰의 램은 지금에 2배 수준일까요? 인공지능이 없더라도 핸드폰에 탑제되는 램의 크기가 증가하고 있었기 때문에 .... 궁금하네요
더 큰 모델을 쓰면 메모리 용량 이전에 성능이 문제라 모델을 키우기 보다는 파라미터는 유지하면서 성능 개선에 노력을 기울일 가능성이 큽니다.
기업 입장에서도 로컬은 적당한 수준으로 제공하고, 클라우드와 구독제로 유도할 가능성이 높죠.
지금은 그 중 하나가 AI가 될 가능성이 높고요
지금 100의 성능을 온라인으로 느꼇는데 10도 안되는 성능을 쓰라면 쓸수 있나요?