· 톺아보기

이제는 PC방보다는 서빙용 GPU방 차리는게 어떨까 싶네유..

Juzis · · 수정

조회 3,550 · 공감 2 · 댓글 13

ㅠ_ㅠ


AI공부할 개인이 몇천만원어치 지피유를 가지고있을일도 드물고..


성능좋은 AI를 API로 끌어다 다른곳의 GPU활용하는 편이 차라리 비용면에서 낫네요..



DGX구입이나 맥스튜디오 구입까지 고민해봤으나.............. 차라리 로컬모델 구축 그만두고 지피유 당겨받아서 쓰는것이 현실적인 부담을 더는것으로 판단요..


그러면서 떠오른게 AI용 GPU만 연결해두고 코인 채굴마냥 모델굴릴 수 있게 서비스해주는 가게좀 차려줬으면하는 바램이 생기네유..


이러다 공부할 컴값 부족해서 김옥빈부익부 더 심해질거같아여 ㅠ_ㅠ

댓글 13

  1. 사연객 · · 공감 2
    오.. 소규모 데이터센터업 정도 되려나요?
  2. 운영자 · · 공감 4
    runpod, vesll. 등등 많아요 h200 한시간 빌리는데 $5 정도 합니다.
  3. nariyada · · 공감 3
    얼마전까지 6000프로나 5090 원격으로 임대해주는게 꽤 괜찮았습니다. 그래서 가격 계속 올랐던것도 있구요.
  4. 밀레이유 · · 공감 1
    오픈웨이트 AI 모델을 개인 컴퓨터나 서버에 돌려주고, 입출력 토큰 당 얼마씩 지불하는 서비스도 있더라구요.
  5. Juzis ·
    이게 또 오프라인으로 방문하면서 정보공유하는맛도 느끼고싶은데 요즘은 잘 없네유..
  6. Forecasting ·
    사실 맥스튜디오 96G짜리만 사도, GPT Pro 300개월....
  7. 헤르미안 ·
    로컬 ai 저도 요즘 하루에도 몇번씩 구매버튼에 손이 왔다 갔다 하는데.. 아직 제 사용 범위에서는 가성비 따질 것도 없이 구독+API가 훨씬 싸더군요ㅜㅎㅎ
  8. 아임아이언맨 ·
    저도 비슷한 생각을 한적이 있는데, PC방 말고 AI방으로...그런데 창업자금이...
  9. ENYA ·
    @아임아이언맨님 창업하려면 최소 100억 이상은 투자해야 뭔가가 나오겠는데요.ㄷㄷㄷ
  10. pluto248 ·
    이미~ GPU 클라우드 서비스는 여러군데서 하고 있습니다.
    대표적으로 허깅스페이스에서도 올라간 모델을 바로 클라우드로 구동을 시켜볼 수 있습니다.
    물론 비용은 지불해야 하지만요.
    생각하시는 사업이 이것과 맞는지는 모르겠네요 ^^
  11. jj34 ·
    그게 네오클라우드라고 하더라고요.
  12. hidnbox ·
    더 늦으면 로컬은 못할 거 같아서 그래픽 카드
    r9700 지르려고 합니다. EGPU 로 한번 맛이나 보려구요.

    로컬llm은 장난감이다고들 하지만 최신 모델이나 각종 최적화로 어떻게든 쥐어짜서 결과물 내시는 분들이 계시더군요. (코딩, 소설…)

    ai 관련된 모든 게 너무 올라서 중국산 묻지마 미니 피씨도 가격이 장난 아니더라구요. 직구도 답이 없고…
  13. ?ㅇㅅㅇ ·
    빌리는게 무조건 쌉니다!

모두의공원 최근 글

모두의공원 목록 더 보기