이제는 PC방보다는 서빙용 GPU방 차리는게 어떨까 싶네유..
조회 3,550 · 공감 2 · 댓글 13
ㅠ_ㅠ
AI공부할 개인이 몇천만원어치 지피유를 가지고있을일도 드물고..
성능좋은 AI를 API로 끌어다 다른곳의 GPU활용하는 편이 차라리 비용면에서 낫네요..
DGX구입이나 맥스튜디오 구입까지 고민해봤으나.............. 차라리 로컬모델 구축 그만두고 지피유 당겨받아서 쓰는것이 현실적인 부담을 더는것으로 판단요..
그러면서 떠오른게 AI용 GPU만 연결해두고 코인 채굴마냥 모델굴릴 수 있게 서비스해주는 가게좀 차려줬으면하는 바램이 생기네유..
이러다 공부할 컴값 부족해서 김옥빈부익부 더 심해질거같아여 ㅠ_ㅠ
댓글 13
대표적으로 허깅스페이스에서도 올라간 모델을 바로 클라우드로 구동을 시켜볼 수 있습니다.
물론 비용은 지불해야 하지만요.
생각하시는 사업이 이것과 맞는지는 모르겠네요 ^^
r9700 지르려고 합니다. EGPU 로 한번 맛이나 보려구요.
로컬llm은 장난감이다고들 하지만 최신 모델이나 각종 최적화로 어떻게든 쥐어짜서 결과물 내시는 분들이 계시더군요. (코딩, 소설…)
ai 관련된 모든 게 너무 올라서 중국산 묻지마 미니 피씨도 가격이 장난 아니더라구요. 직구도 답이 없고…