쓸만한 AGI가 나오면 예상되는일
조회 2,306 · 공감 0 · 댓글 3
추론ASIC칩시장이 더 뜨거워질겁니다.
추론전용 데이터센터가 생길지도 모르겠네요.
그리고 단기적으로 범용AI가속기 생산업체 주가가 폭락할겁니다.
모두의공원 최근 글
- 저는 그 사람을보면….
- 트럼프 죽어라고 했더니 반도체가 먼저 죽네...ㄷㄷㄷ
- 주택 폭락하면 정부가 매입한다는것도 불가능한게 [3]
- 민주당 서울 의원들 ‘부동산 총회’…비거주 1주택 종부세 완화 공감 [5]
- 미국 민주당의 역사적 대승을 지켜보며 [2]
- 요즘 웹게임 재밌는게 많네요 [1]
- 집 천장 디자인 어떤게 더 나아보이나요? [11]
- [단독] 초유의 '100주 상승' 다가오자…집값 통계 개편 중단 [16]
- AI 영상 발전 속도가 진짜 미쳤네요 [8]
- 이 대통령 장남 '골프장 간 적 없어'‥주진우 명예훼손 고소 [2]
- 크러쉬 삐그덕 feat 이지혜
- 대통령y때문에 유투브ktv들어갔다가 본 썸네일이 좀 별로네요 [4]
- 넷플에 곧 올라올 프롬 강추합니다 [4]
- 요즘 상법 개정 얘기 쏙 들어갔네요. [10]
- AI 관련 주식 왜 저럴까 했는데... [8]
- 리코 GR3X, GR4 는 여전히 물량 부족이네요 [5]
- 서울 부동산 매물이 많이 쌓이고 있는건 맞는데 [11]
- 집 팔아서 주식사라 [16]
- 여우 키워보실분? [13]
- 호날두 국가대표 은퇴선언 [1]
- 외교부가 북한 관련은.통일부에 끌려다니나 보군요 [12]
댓글 3
웨이트 자체가 반도체에 올라가 있다면 어차피 송수신 데이터는 활성화 팩터 수준이니까 데이터 대역폭 병목은 문제가 되지 않을테니
더 큰 모델을 만들어서 30~50개의 칩간 송수신이라 쳐도 10,000toks 이상은 나오지 않을까 싶더군요.
AI모델이 충분히 성숙해져서 모델체인지 간격이 넓어지면 웨이트를 새기는 방식이 엄청 뜰 것 같습니다.
이게 LLM의 ASIC이니..