나델라가 꺼낸 Decision-1, 정해진 보기에서 빠르게 고르는 AI

X Facebook

Written by

in

마이크로소프트가 새로 내놓은 AI 모델은 글을 쓰지 않아요. 정해진 보기 중 하나를 빨리 고르는 일만 해요.

사티아 나델라 마이크로소프트 CEO는 10월 9일 X에 Microsoft-Decision-1을 소개했어요. TestingCatalog가 옮긴 게시물에서 나델라는 이렇게 썼어요. “It delivers top performance on structured decision tasks, outperforming both LLMs and other decision models in latency and quality.” 정해진 형식의 결정 작업에서 다른 모델보다 지연 시간도 짧고 품질도 낫다는 말이에요.

Microsoft Foundry 블로그의 소개 글을 보면 이 모델은 Qwen3.5-9B를 바탕으로 만들었어요. 들어온 내용을 분류하거나 점수를 매기고 조건을 확인하는 일에 맞춰져 있어요. 답과 함께 신뢰도 신호도 내놓아요. 가격은 입력 토큰 100만 개당 0.042달러예요.

  • 발표: 나델라 X 게시물, Microsoft Foundry 블로그 (10월 9일)
  • 상태: Microsoft Foundry 공개 프리뷰
  • 가격: 입력 100만 토큰당 0.042달러, 출력 요금 칸은 “N/A”
  • 사례: Xbox Research, GPT-5와 견줄 품질에 80~100배 빠름

‘분류(classification)’는 AI가 어떻게 하는 건가요?

“들어온 내용을 분류하거나 점수를 매기고 조건을 확인하는 일에 맞춰져 있어요.”

분류는 들어온 것을 미리 정한 칸 가운데 하나에 넣는 일이에요. 우체국 직원이 편지를 지역별 칸에 꽂는 장면과 같아요. 챗봇이 서술형 답안을 쓰는 학생이라면 분류 모델은 객관식 답만 고르는 학생이에요. Xbox Research는 이 모델로 의견 1만여 건을 연구자가 정한 주제별로 나눴어요.

‘지연 시간(latency)’은 왜 따로 따질까요?

“정해진 형식의 결정 작업에서 다른 모델보다 지연 시간도 짧고 품질도 낫다는 말이에요.”

지연 시간은 요청을 보낸 뒤 답이 돌아오기까지 걸리는 시간이에요. 식당에서 주문하고 음식이 나올 때까지 기다리는 시간과 같아요. 한 번 묻고 끝나면 별 차이가 없지만 고객 문의 수만 건을 하나씩 나눈다면 짧은 대기도 쌓여요. TestingCatalog는 GPT-6 Sol보다 35배 빠르다는 수치도 전했어요.

‘신뢰도 신호(confidence signal)’는 무엇을 알려 주나요?

“답과 함께 신뢰도 신호도 내놓아요.”

신뢰도 신호는 모델이 고른 답에 얼마나 자신 있는지 알려 주는 값이에요. 일기예보가 “비”라고만 하지 않고 “강수확률 70%”를 덧붙이는 것과 비슷해요. 앱은 이 값을 보고 다음 동작을 고를 수 있어요. 자신이 높으면 바로 처리하고 낮으면 사람에게 넘기는 식이에요.

‘토큰(token)’ 단위 가격은 어떻게 읽나요?

“가격은 입력 토큰 100만 개당 0.042달러예요.”

토큰은 AI가 글을 읽을 때 쓰는 잘게 자른 조각이에요. AI 서비스는 택시 미터기처럼 처리한 토큰 수만큼 요금을 매겨요. 보통 입력과 출력에 따로 값을 매기는데 Decision-1 가격표의 출력 요금 칸은 “N/A”예요. TestingCatalog는 출력 토큰이 무료라고 보도했어요.

우리 생활에 닿는 지점

일반 사용자가 이 모델을 직접 쓸 일은 드물어요. 대신 고객 문의를 부서별로 나누는 일처럼 화면 뒤 작업에 들어갈 가능성이 커 보여요. 아직 공개 프리뷰이고 속도 수치는 마이크로소프트 사례와 보도에서 나온 거예요. 다른 회사가 써 본 결과도 같은지는 지켜볼 부분이에요.

출처

Comments

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다