· 톺아보기

구글이 제미나이 일부를 하드웨어로 만들려고 한다네요.

memories_ ·

조회 2,116 · 공감 0 · 댓글 3

목적은 전성비 개선이고 소프트웨어 기능을 하드웨어로 옮긴다는건 ASIC 같은 걸 말하는 거겠죠.

모델 업데이트나 가중치도 변경 가능하게 텐서 연산부를 하드웨어로 뺀다는 것 같네요.

완전한 전용칩은 기술 발전이 어느 정도 궤도에 올라야 가능해질 것 같고 이렇게 일부만 전용칩으로 전환하는 과도기를 밟으려고 하나 봅니다.

구글 TPU가 엔비디아 칩보다 전성비가 좋다고 하는데 그런 칩으로도 가성비가 안 나오는 게 지금의 AI군요.

출처 : https://www.tomshardware.com/tech-industry/google-reportedly-developing-frozen-v2-chip-with-geminis-architecture-etched-into-the-silicon?hl=ko-KR

댓글 3

  1. 혼자걷는다 ·
    범용 AI 관점에서는 개발 생태계, 범용성 부족, 높은 설계비가 장벽이긴 하지만 전용 AI 분야로는 무긍무진한 가능성이 열려 있다고 생각합니다. 오프라인 통역기 전용칩 먼저 나오면 좋겠네요. :)
  2. memories_ ·
    @혼자걷는다님 구글이 이미 시험중이더라구요.
    라즈베리파이5 기반에서 돌아가는 오프라인 번역기..

  3. 혼자걷는다 ·
    댓글 이미지
    @memories_님
    연산능력, 메모리 빵빵하게 해서 요렇게 나오면 좋겠습니다. :)

모두의공원 최근 글

모두의공원 목록 더 보기