딥시크 창업자 량원펑, '미국과 중국의 AI 격차에 대한 생각, 인재? GPU?'

중국 천재의 생각을 엿볼 수 있습니다

참고하시길 바랍니다

<생략>

진심으로 6개월 안에 이 돈 다 태워버릴 수 있으면 소원이 없겠습니다. 왜냐? 은행에 현금 꽂아두는 것보다 엔비디아 GPU로 바꿔놓는 게 무조건, 압도적으로 남는 장사거든요. 은행에 넣어봤자 이자율 2% 쳐주나요? 근데 엔비디아 GPU는 꽂아서 돌리면 10개월 만에 투자금을 100% 뱉어냅니다.

그러니까 무조건 묻고 더블로 가야죠. 일단 GPU만 확보해 놓으면 그걸로 API 서비스를 돌리든 뭘 하든 현금흐름(캐시플로우)은 무조건 터지게 되어 있습니다. 피가 돌면 숨통이 트이는 거죠. 굳이 은행에 막대한 현금을 쌓아두고 xx이 칠 이유가 없습니다.

우리의 유일한 스트레스는 "어떻게 하면 GPU를 더 긁어모을 수 있을까"입니다. 통장의 모든 숫자를 GPU로 바꿀 수만 있다면 1초도 안 망설입니다. 심지어 약간 프리미엄(웃돈)을 얹어줄 의향도 있습니다. 그래도 남는 장사거든요.

근데 웃돈을 얹어줘도 물건 구하기가 하늘의 별 따기입니다. 객관적으로 봤을 때 올해 우리가 칩 사는데 200억(위안/달러 문맥상 유동적)을 태울 수만 있다면 기립박수 칠 만한 구매 실적일 겁니다.

미국이랑 우리의 격차는 철저하게 이 '자원'에서 나옵니다. 인재 수준? 갭 차이 거의 제로에 가깝습니다. 애초에 미국이나 중국이나 일하는 애들 풀이 거기서 거기거든요. 중국 애들 절반은 국내에 남고 절반은 미국으로 넘어갑니다. 머리 좋은 놈들만 쏙쏙 골라서 미국으로 넘어가는 것도 아니에요.

그냥 랜덤입니다. 최상급 인재들의 절반 이하가 미국으로 빠지고, 절반 이상은 중국에 남습니다. 국내에 깔린 인재 풀만 해도 어마어마하고, 매년 대학에서 신선한 피가 쏟아져 나옵니다.

인재가 병목이 아니라 무조건 자원이 병목입니다. 컴퓨팅 파워가 달린다는 건 결국 돌려볼 수 있는 '실험 횟수'가 적다는 뜻이고, 실험을 못 해보니 인재들의 성장 속도도 미국에 뒤처지게 되는 겁니다. 인재의 격차처럼 보이는 현상의 본질을 파고들면 결국 GPU 숫자의 격차입니다.

지금 전 세계 1티어 모델들 사이즈가 워낙 커서 우리 자본력으론 훈련 돌릴 엄두도 못 냅니다. 우리가 가진 돈 500억을 다 털어 넣어도 불가능해요. 설령 어찌어찌 칩을 다 쌓아 올린다고 쳐도, 전기세나 유지비 감당을 못해서 스위치도 못 켤 겁니다. 지금 톱클래스 모델들은 활성화 파라미터가 800B(8천억 개) 수준인데, 중국 국내 모델들은 기껏해야 수백억 개 언저리에서 놀고 있습니다. 자릿수 자체가 달라요.

미국 탑티어 애들처럼 거대한 800B 모델 하나 깎으려면 엔비디아 GB300 5만 장이나 화웨이 950 20만 장이 필요합니다. 이건 순수하게 '학습(Training)'에만 들어가는 숫자고, R&D용은 별도입니다. 그러니까 미국과의 가장 뼈아픈 갭은 칩 개수입니다.

우리가 지금 보유한, 그리고 올해 끌어올 자원들을 다 합쳐봐야 활성화 파라미터 수백억 개 규모에서만 쾌적하게 실험을 돌릴 수 있습니다. 사실 이 사이즈에서도 아직 우리가 파먹어야 할 인사이트와 튜닝할 요소들이 산더미처럼 쌓여 있긴 합니다. 800B 모델을 학습시키는 건 까마득히 먼 미래의 일입니다. 시간은 널널한데 칩이 없어요.

그러니까 지금 미국이랑 우리 차이는 100% '템빨' 차이입니다. 남들은 인재, 모델 튜닝, 애플리케이션의 차이 운운하는데, 싹 다 발라내고 나면 결국 GPU 개수가 모든 걸 결정짓고 있는 겁니다.

컴퓨팅 자원 문제는 두 가지로 쪼개집니다. 첫째, 중국 자체 칩(화웨이 등)은 구하기가 미치도록 어렵고, 둘째, 자본 투하량 자체가 미국에 비해 턱없이 후달립니다. 우리가 투자하는 돈의 규모는 미국의 발끝에도 못 미칩니다. 개발자들 연봉이요? 1억 달러짜리 초특급 인재를 모셔 온다고 해도 칩 사는 돈에 비하면 새 발의 피, 껌값입니다.

이 문제는 당장 어떻게 손쓸 방도가 없습니다. 화웨이 칩 생산량 자체가 꽉 막혀 있거든요. 800B 모델 깎으려면 화웨이 최신 칩 20만 장이 필요한데 (이것도 학습용으로만), 이 물량을 어떻게 맞춥니까.

그래서 우리는 당분간 미국 애들이랑 체급(파라미터 규모)으로 맞짱 뜨는 건 깔끔하게 포기했습니다. 우리가 감당할 수 있는 체급, 즉 수백억 개 파라미터 언저리에서 미친듯한 효율과 극한의 최적화로 승부를 볼 겁니다. 나중에 총알과 칩이 더 쌓이면 그때 150B, 156B, 250B로 체급을 올리겠죠.

인정할 건 인정합시다. 미국과의 갭은 당장 메우기 힘들어요. 억지로 무리해서 큰 모델을 돌릴 순 있겠지만, 칩이 딸려서 훈련 전에 충분한 사전 실험(R&D)을 못 돌리면 결과는 불 보듯 뻔하니까요.

많이들 물어보시는 질문 하나 더 짚고 넘어가죠. "결국 거대 모델 경쟁사들끼리 싸움의 최종 승부처는 어디가 될까요?" 솔직히 말해서 저는 모델 자체의 성능 격차는 나중에 가면 고만고만해질 거라고 봅니다.

결국 목숨 걸고 싸워야 할 차별화 포인트는 딱 세 가지입니다. 단가(Cost), 스피드(Time to market), 그리고 유저 경험(UX). 이거 빼면 별거 없을 겁니다.

단가 싸움은 직관적이죠. 똑같은 품질의 아웃풋을 뽑아내는데 누구 서버비가 더 싸게 먹히냐는 겁니다. BYD(비야디) 배터리 생각해 보세요. 기술력 엇비슷해졌을 때 다른 회사들이 BYD 가격 단가를 후려칠 수 있던가요? 절대 못 합니다. 그게 바로 넘사벽 해자가 되는 겁니다.

그러니까 비용 절감이 가장 최우선이자 치명적인 무기가 될 겁니다. 두 번째는 속도죠. 남들보다 몇 달 먼저 출시하느냐 마느냐가 시장 선점을 판가름 냅니다.

세 번째가 유저 경험인데, 이건 약간의 락인(Lock-in) 효과나 진입 장벽은 만들어주겠지만 판을 뒤집을 펀더멘털은 아닙니다. 결국 본질은 '누가 더 먼저, 누가 더 싸게 뽑아내느냐'입니다.

장기적인 수익화 모델이나 프로덕트 라인 확장에 대해선 어떻게 생각하냐고요? 가격은 어떻게 매길 거냐고요? 저는 지금 당장 우리 회사가 쏟아부을 수 있는 가장 가성비 좋은 투자는 오직 'AGI 연구'라고 생각합니다. 지능의 뚜껑을 박살 내고 천장을 높이는 거요.

지금 단계에선 짜잘한 앱 몇 개 더 만들거나 비즈니스 모델로 잔머리 굴리는 것보다 지능 자체를 끌어올리는 게 수익률이 압도적으로 높습니다. 이건 과거나 미래나 마찬가지 법칙입니다.

<생략>