돌풍을 일으키고 있는 AI 모델 jev와 대안
조회 4,296 · 공감 2 · 댓글 13
jev의 원리를 깊이 있게 이해할 필요는 없을 것 같습니다.
우리 모두가 엔지니어는 아니니 말입니다.
간략하게 개념만 알면 될 것 같은데요.
기존 LLM이 한 글자 한 글자 마다 다음 확률을 예측해서 출력하는 모델이라면,
jev는 가부를 결정 한 뒤 한번에 내보내는 모델입니다.
조금 더 쉬운 비유로 말하자면,
장애물을 피한다 vs 피하지 않는다. 라는 판단을 즉각적으로 내립니다.
굉장히 빠르고 싸다는 장점으로 인해 아직 부족함이 있는 이 모델은 엄청난 관심을 받게 됩니다.
딱 봐도 범용적이진 않겠죠.
그럼에도 관심을 받는 이유는 완전한 범용 LLM은 아닐지라도,
이런 판단이 쓰이는 분야가 굉장히 광범위하게 존재하기 때문입니다.
그리고 동시에 그 분야에서 LLM이 갖는 한계를 돌파하는 역할도 해서입니다.
예를 들어 보겠습니다.
Astra와 같이 막대한 지식과 그것을 분석하는 지능을 엮어낸 모델이 더 판단을 잘 할까요.
아니면 jev가 더 잘 할까요.
나중에는 모르겠습니다만 현재로서는 아스트라와 비벼 볼 수 없겠죠.
그럼 일정 분기 단위의 판단과 전략은 아스트라로 짜게 하고,
실시간 판단은 jev로 하게 될 수 있습니다.
이런 생각은 쉽게 할 수 있기 때문에 이미 그 예시로 비트코인 모의 매매를 jev로 구축하는 시연을 보이더니,
얼마 후에는 아스트라로 플랜을 짜고 jev 로 실시간 판단하게 하는 시연도 보입니다.
이런 예는 로봇도 가능하고, 자율 주행도 가능합니다.
그래서 먼저 시연이 나온 것이 레이스 게임입니다.
따라서 빠르고 즉각적인 판단이 필요한 모든 분야에서 이 jev는 광범위한 가능성이 열려 있습니다.
그 대안으로 목적 실현성은 같으나 구현 원리가 다른 오픈 소스 모델이 있습니다.
laya라는 모델인데요.
https://huggingface.co/convaiinnovations/laya
이 모델은 로컬로 구동이 가능한 점이 api를 통해야 하는 jev와 다른 강점으로 작용합니다.
다만 정확도가 다소 떨어진다는 점이 단점으로 꼽히고 있지만,
이는 로컬 모델인만큼 도메인 별 특화 훈련의 가능성으로 연결 됩니다.
즉, 필요한 분야에 맞게 파인튜닝을 거치면 오히려 jev 보다 나은 결과가 나올 수 있다는 말입니다.
현재 jev에 대한 관심은 당장의 성능도 성능이지만,
발전 가능성 및 활용성에 있어서 적잖은 의미를 품고 있어서가 더 큰 것 같습니다.
판단 성능을 올리기만 하면 이렇게 엄청나게 싸게 굴릴 수 있는 모델은
기존에는 가능하지 않았거나 제한적이었던 새로운 시장 창출까지 할 수 있습니다.
아마 기존 시장의 일부를 잠식하긴 하겠지만 그 얼마 안되는 부분 보다
새로 개척하는 시장이 더 크지 않을까 싶습니다.
아직 제가 조금 더 알아봐야겠지만 이러한 모델의 특징은
아마 앞서 말한 피지컬AI에 활용하기에 아주 적합한 것 같습니다.
댓글 13
비싼 if for문이라는 평가도 있고, 활용자체가 쉬운구조는 아니라 ( 새로운 개념이라 llm은 활용해서 코딩 잘 못함)
아직 예제도 제대로 된게 없네요.
분명히 개발자영역에서는 기가막힌 성능인데....
그리고 다른 유용한 사용처로 짐작되는 곳은 아마도..게임이 아닐까 싶은데요..
다만 분기를 통해 게임 전체의 다이얼로그나 다중엔딩이나 설계하는 것의 복잡도를 생각하면 Jev가 획기적임을 감안해도..쉽지는 않은 일일 것 같기는 합니다마는..
깊은 추론과 구현에서는 못쓸것같습니다. (개발)
서브 에이전트들의 대화도 그렇구요