· 톺아보기

휴대폰 AI성능이 좋아지니 이걸 가져다 쓸 수 있는 방법이 있으면 좋겠습니다

dirtybit ·

조회 2,610 · 공감 0 · 댓글 14

그래픽 카드 없는 노트북을 쓰고 있는 입장에서,

Gemma4도 버거운 그런 그래픽 카드 없는 사람들을 위해서 요즘 괜찮은 휴대폰들은 내부 AI성능이 꽤 나오니,

이걸 외부에서 연결해서 외장 그래픽카드 같은 방식으로 사용하면 좋을거 같은데 말이죠;;;


그냥 AI처리 엔진으로써의 역할만 담당하고 나머지는 PC에서 처리하는 방식으로 하면 뭔가 저렴하게 로컬 모델을 돌려볼 수 있을거 같긴 한데 휴대폰 업체들이 열어주진 않겠죠 ㅠㅠ


그냥 게시판이 워낙에 뒤숭숭하니 뻘생각이 담긴 뻘글하나 남겨봅니다 ㅎㅎㅎ

댓글 14

  1. 야근의요정 ·
    가능합니다만 별로 추천은 안드립니다 ㅋㅋ 지금 Z Fold 7으로 내장 Gemini Nano 2랑 외부 온디바이스 LLM Gemma 4 E2B, Gemma 4 E4B테스트 해보고 있는데 지금 휴대폰에서 구현된 정도가 딱 최적화된 성능입니다. (이미지나 OCR, 요약 등)
    이 이상은 바라시지 않는게 편합니다.
  2. dirtybit ·
    @야근의요정님 그렇긴 한데, 그나마 그래픽 카드 없는 사용자에겐 그나마도 감지덕지에요.. Gemma4 E4B 정도 돌리면 아얘 안돌아가는 상황이라서요 ㅎㅎㅎㅎㅎ
  3. 사연객 ·
    휴대폰 AI라고 해봤자 대부분 클라우드에서 처리하지 않나요?;;;
  4. dirtybit · · 공감 1
    @사연객님 로컬에서만 처리하는 모드가 있긴 합니다. 윗분 말씀대로 성능 자체는 뭐..그닥이긴 한데;; 저같이 그래픽 카드 없는 사용자에겐 그나마도 감지덕지에요 ㅎㅎㅎ
  5. 공격 ·
    GenieX가 있습니다 퀄컴에스냅드래곤 엘리트5 부터 사용가능해요 로컬로 8b 모델정도는 잘돌아갑니다
  6. dirtybit ·
    @넌좋은친구네님 오! 뭔가 이상한게 있군요. ^^ 한번 찾아보도록 하겠습니다. 휴대폰 제조사에서 안열어줄 거 같았는데 무려 공식으로 뭔가 있나보군요 ㅎㅎㅎㅎ
  7. OLIVER ·
    애플은 주변 애플 제품의 리소스를 끌어다가 연산하는 기능을 만들어서 시연까지 했었는데, 내부적으로 쓰지 오픈하진 않겠죠..
  8. dirtybit ·
    @OLIVER님 애플이면...뭐.... 만들어놓고 써먹더라도 절.대. 오픈하지 않을거라는 생각입니다 ㅎㅎㅎ
  9. 카라비너 ·
    휴대폰도 vram 많이 들어가나요?ㄷㄷㄷ
  10. dirtybit ·
    @카라비너님 VRAM이 없는 컴퓨터를 쓰고 있어서요 ㅠㅠ 어흙 ㅠㅠ
  11. memories_ ·
    스마트폰에서 돌아가는 모델에 대해서 환상을 가지신게 아닌가 하네요.
    그냥 ChatGPT 루나 쓰시거나 API로 사용하고 싶으시면 Gemma 31B 무료에 준하게 서빙하는곳들 있으니 그런 서비스 이용하시는게 백만배 낫습니다.
  12. dirtybit ·
    @memories_님 환상은 아니구요, 로컬에 대한 필요성들이 있을 때가 있어서 그렇습니다. 온라인이라면 이미 omniroute 같은거 묶어서 싸게 이것저것 쓰고는 있긴 합니다.
  13. SHERLOCK ·
    아직은 스마트폰도 고사하고 최고성능 PC조차 로컬 돌리기에 여유있는 편이 아니죠 ㅠ
  14. dirtybit ·
    @SHERLOCK님 그거야 뭐 그렇긴 하죠. 그래도 가끔은 로컬이 필요한 시점들이 있어서 그렇습니다 ㅎㅎㅎ

모두의공원 최근 글

모두의공원 목록 더 보기