· 톺아보기

인공지능 시대 데이터센터보다 애플이 더 나은 선택일수도

dsl · · 수정

조회 786 · 공감 0 · 댓글 6

데이터 센터도 필요하지만, 대체 가능한 옵션이 있다네요.

현재 전체 인공지능 사용량 중 오픈소스 모델이 1/3을 차지한다고 하네요.

이들이 창출하는 수익은 거의 제로에 가깝다고 합니다.

그런데, 이들이 사용되는 곳은 기업 내부망이거나 연구소 내부망일 가능성이 크다고 하고, 이들의 실제 수행능력은 빅테크 기업이 데이터 센터에서 만들어 내는 결과물에 거의 근접했다고 하네요. 또한, 오픈소스 모델이라고 보안에 취약한 게 아니라, 오픈소스 인공지능 모델의 개발은 오픈소스로 하지만, 사용은 패쇄적으로 할 수 있다는 거지요.

이렇게 오픈소스 인공지능의 경우 오픈소스 모델을 사용해 폐쇄형 내부망에서 사용하게 될텐데, 그렇다는 것은 엄청나게 큰 데이터 센터를 짓는 것 보다는 애플이 출시한 맥스튜디오같이 512기가 메모리를 가진 PC가 더 유용할지도 모른답니다.

물론, 그래도 메모리는 필요하므로, 반도체 부분은 이러나 저러나 중요하기는 하네요.

엔비디아가 지고, 애플이 뜬다면, 데이터 센터에 투자하는 거 보다는 애플에 투자하는 것이 낫다고 생각하는 사람들도 있네요.

자세한 건 출처 참고하세요.


https://mitsloan.mit.edu/ideas-made-to-matter/ai-open-models-have-benefits-so-why-arent-they-more-widely-used

https://www.itworld.co.kr/article/4244303/%EC%95%A0%ED%94%8C-4%EB%B6%84%EA%B8%B0-%EC%8B%A4%EC%A0%81%EA%B8%B0%EC%97%85-%ED%81%B4%EB%9D%BC%EC%9A%B0%EB%93%9C-%EB%8C%80%EC%8B%A0-%EB%A7%A5%EC%9C%BC%EB%A1%9C-%EB%A1%9C%EC%BB%AC-ai.html


출처 : https://mitsloan.mit.edu/ideas-made-to-matter/ai-open-models-have-benefits-so-why-arent-they-more-widely-used

댓글 6

  1. 반지하제왕 · · 공감 1
    애플 망하기 고사 3일차입니다
  4. eeeeee ·
    @dsl님 512GB 메모리 옵션을 선택하려면 36코어 CPU 옵션이 전제되어야 하고
    그럼 나머지는 깡통으로 맞춰도 3800만원이 나옵니다.
    직접 견적 내보셔요.
  5. maoi ·
    가격이 수천만원인데요...
  6. liberal ·
    애플은 자체 AI 모델보다 로컬 AI를 돌릴 하드웨어 쪽에서 강점이 있죠. 애플 실리콘은 CPU와 GPU가 대용량 통합 메모리를 함께 쓰니, 일반 그래픽카드 한 장의 VRAM에 담기 어려운 공개 모델을 한 대에서 돌리기 좋습니다.

    가격 부담은 있지만, 데이터를 밖으로 보내지 않고 큰 모델을 운용하려는 기업 입장에서는 비교해볼 만한 선택지라고 봅니다. 물론 모델이 메모리에 들어간다는 것과 실행 속도·동시 처리량이 좋다는 건 별개라, 데이터센터를 통째로 대체한다는 얘기는 아니고요.

    최근 애플이 잠시 시총 1위를 되찾았던 걸 이것 때문이라고 단정하긴 어렵습니다. 아이폰 실적·전망과 다른 기업의 주가도 영향을 주니까요. 그래도 이런 로컬 AI 수요는 애플 하드웨어의 가치를 다시 볼 이유가 된다고 생각합니다.

모두의공원 최근 글

모두의공원 목록 더 보기