말을 하지 않는 AI에 투자자들이 8억 7천만 달러를 걸었어요. 문장 대신 무엇을 내놓는 모델일까요?
TypeSafe AI가 8억 7천만 달러를 투자받았고 기업가치(valuation)는 75억 달러로 평가됐어요. 앤드리슨 호로위츠가 주도했고 세쿼이아와 기존 투자자 DCVC가 참여했어요(TechCrunch 보도). 9월 15일 공개한 Jev가 개발자 사이에서 빠르게 퍼진 직후예요. 회사는 포천 500대 기업의 3분의 1이 이미 쓰고 있다고 밝혔어요.
Jev는 트랜스포머 구조를 쓰지만 대규모 언어 모델(LLM)이 아니에요. 글을 출력하지 않고 확률, 회사 표현으로 ‘보정된 판단(calibrated decisions)’을 내놓아요. 회사는 LLM보다 훨씬 빠르고 토큰(token)을 훨씬 적게 쓴다고 주장해요. 개발자가 출력 항목을 미리 정하기 때문에 환각(hallucination)이 생기지 않는다는 설명이에요.
- 회사: TypeSafe AI(공동 창업자 디오구 알메이다는 오픈AI 연구원 출신)
- 투자 규모: 8억 7천만 달러, 기업가치 75억 달러
- 주도 투자자: 앤드리슨 호로위츠(세쿼이아, DCVC 참여)
- 모델 공개일: 9월 15일
- 회사 주장: 포천 500대 기업의 3분의 1이 사용
‘대규모 언어 모델(LLM)’과 Jev는 뭐가 다른가요?
Jev는 트랜스포머 구조를 쓰지만 대규모 언어 모델(LLM)이 아니에요.
LLM은 방대한 글을 학습해 다음에 올 말을 이어 가는 모델이에요. 챗GPT와 제미나이 같은 대화형 AI가 여기에 속해요. Jev는 같은 트랜스포머 구조를 쓰지만 결과가 문장이 아니라 확률이에요. 이메일을 넣으면 환불 요청일 가능성은 높고 일반 문의일 가능성은 낮다는 식의 값이 나오는 거예요. 알메이다는 TechCrunch에 컴퓨터는 사람의 언어가 아닌 다른 언어를 쓰기 때문에 언어 중심 AI는 자동화에 유용하지 않았다고 말했어요.
‘토큰(token)’을 적게 쓰면 왜 싸지나요?
회사는 LLM보다 훨씬 빠르고 토큰(token)을 훨씬 적게 쓴다고 주장해요.
토큰은 AI가 글을 읽고 쓸 때 쪼개는 최소 단위로 단어나 글자 조각에 해당해요. AI 서비스는 토큰 사용량으로 요금을 매겨서 적게 쓸수록 비용이 줄어요. 9월 18일 TechCrunch에 따르면 Jev는 출력 토큰이 무료이고 입력 토큰은 100만 개가 아니라 10억 개 단위로 과금해요.
‘환각(hallucination)’이 없다는 말은 정확한가요?
개발자가 출력 항목을 미리 정하기 때문에 환각(hallucination)이 생기지 않는다는 설명이에요.
환각은 AI가 사실이 아닌 내용을 그럴듯하게 지어내는 현상이에요. 객관식 시험에서 보기 밖의 답을 쓸 수 없는 것과 비슷하게 Jev는 미리 정한 선택지 안에서만 답해요. 대신 정확도가 늘 높다는 뜻은 아니에요. 비즈니스 이메일 분류를 시험한 Bryo AI의 최고기술책임자는 제미나이가 약간 더 정확했지만 10~20배 비쌌다고 밝혔어요. Vercel 엔지니어는 명령어 안전성을 검토하는 분류기(classifier)를 오픈AI 모델에서 Jev로 바꾸자 5~18배 빨라지고 정확도도 올랐다고 올렸어요.
지금 확인된 것은?
TechCrunch는 Jev가 소프트웨어 자동화에 가장 유용해 보인다고 전했어요. 회사 블로그는 이번 투자를 시리즈 A로 부르며 기계 친화적 모델을 더 내놓고 기업용 기능을 추가하겠다고 밝혔어요. 포천 500대 기업의 3분의 1이 쓴다는 수치는 회사 주장이고 비용과 속도 비교는 개별 개발자의 시험 결과예요.
답글 남기기