맥스튜디오 (M5MAX 128GB) 사고 로컬 LLM 작업하는 것들

단일 모델로 뭘 하겠다?? 멍청해서 안 됩니다;;;

크론같은 반복 작업들을 GPT로 선행하고 데이터 많이 쌓이고 안정화되면 로컬로 넘기는 식으로 차근 차근 넘기고 있습니다.

- 방송 녹화

· GPT: HD Homerun 4채널 지상파 튜너 +TVHeadend(리눅스용을 GPT한테 시켜 맥용으로 포팅)를 통한 녹화 관리

· QWEN 3.8 27B: 위에서 녹화 한 거를 폴더별로 이동

· GPT:  방송 편집 (광고 및 불필요한 부분 자동 삭제. 중간광고도 깔끔하게 잘 잘라내줘요)

· FFMPEG: GPT가 스크립트 짜놔서 MPEG-2 → H.264 MPEG-4로 자동 변환

- 업무 관련 게시판 공지사항 체크

· 엑사원이 체크 및 알림

- 구글 관련 (메일 / 연락처 / 할 일)

· 엑사원이 주기적으로 체크해서 요약해서 알려주기

· 그 다음에 제가 뭔가 시킬 땐 GPT 사용

- 전화기 통화녹음 및 문자 관리 (통화 녹음 파일을 시놀로지 드라이브를 통해 자동으로 맥으로 전송. 문자 백업도 마찬가지)

· 로컬(휘스퍼): 통화 전사

· 엑사원: 요약 및 보관

· GPT: 문자 백업 및 통화 내역 관리

점점 로컬 비중으로 올려야죠....

그리고 업무 관련은 100% GPT 솔이나 아스트라 씁니다 ㅋㅋ