TypeSafe의 Jev가 AI 출력을 확률 의사결정으로 축소해 에이전트 라우팅을 위한 새로운 모델 트랙을 형성

뉴스 개요 및 출시 일자

2026년 10월 3일, TypeSafe AI는 자체 개발한 새로운 모델 Jev를 ‘System One 의사결정 모델’로 공식 발표했습니다. 공식 발표에 따르면, 입력된 상태와 타입화된 문제를 받은 뒤 모델은 자연어 문단을 생성하는 대신 choice(선택), score(신뢰도 점수) 또는 noul(불확실성 혹은 거부를 나타내는 확률) 형태로 결과를 반환한다고 합니다. 이러한 설계는 AI 출력 범위를 자동화된 에이전트 라우팅에 바로 활용 가능한 확률 의사결정으로 좁히는 것을 목표로 하며, 특히 고동시성 실시간 비즈니스 환경에서 계산 비용을 절감하고 의사결정 속도를 높이는 데 기여하고자 합니다.

기술 원리: 입력에서 확률 출력까지

전통적인 생성형 모델은 사용자의 질문이나 지시에 대해 전체 텍스트를 출력합니다. 반면 의사결정 모델은 이산적인 선택지와 그에 대한 신뢰도만을 제공하는 방식입니다. System One은 입력 단계에서 타입 제약을 부여해 반환값이 항상 수치화된 확률이나 점수로 제한되도록 설계되었습니다. 구체적으로는 문제를 이진 분류, 삼진 분류, 혹은 수치 회귀와 같은 타입으로 라벨링하고, 내부 추론 엔진은 해당 타입에 맞는 확률 분포만을 계산합니다. 반환되는 choice는 가장 가능성이 높은 옵션을 나타내며, score는 그 옵션에 대한 신뢰도 점수, noul은 모델이 불확실하거나 답변을 거부할 때 사용되는 확률 값입니다. 이렇게 출력이 명확히 양적 지표로 제한되면 백엔드 비즈니스 로직과의 통합이 크게 단순화됩니다.

공식이 공개한 요금 체계는 입력 토큰 100만 개당 0.042달러이며, 출력은 무료라고 명시하고 있습니다. 또한 공개된 벤치마크 자료에 따르면 엔드투엔드 지연 시간은 70밀리초에서 500밀리초 사이이며, 실제 운영에서는 평균 약 0.4초의 응답 시간이 관측되었습니다. 클라우드 인스턴스에 배포된 실제 사용자 보고에 의하면 95번째 백분위 응답 시간은 0.3초에서 0.5초 사이에 머물러, 금융 거래나 광고 배포와 같은 밀리초 수준의 실시간 요구사항을 충족할 수 있다고 평가됩니다.

성능 평가와 경쟁 구도

TypeSafe는 내부 평가에서 네 가지 전형적인 워크플로(텍스트 분류, 의도 인식, 이상 탐지, 비즈니스 규칙 매칭)에 대해 Jev의 평균 정확도가 67.8%에 달한다고 보고했습니다. 개별 사례당 비용은 약 0.0004달러, 평균 처리 시간은 약 0.4초로 산정되었으며, 이는 동일한 벤치마크 시나리오 전반에 걸쳐 균형 잡힌 성능을 보여줍니다. 특정 작업에서 현저히 낮은 성능이 나타나는 경우는 없으며, 전체적으로 안정적인 결과를 제공하고 있습니다.

동일 출처의 비교에서는 Claude Sonnet 5의 정확도가 Jev와 동일하지만 비용이 더 높고 응답 속도가 느리다는 점이 지적되었습니다. 반면 OpenAI의 Sol 모델은 동일 테스트에서 74.1%의 정확도를 기록해 Jev보다 높은 정확도를 보였습니다. 이러한 비교는 Jev가 모든 지표에서 최고는 아니며, 특히 비용과 지연 시간 측면에서 경쟁력을 갖추고 있음을 시사합니다.

Jev 출시 후 3주 만에 Fastino가 제공하는 GLiDE, GLiNER2.5-Decide 및 여러 오픈소스 복제본이 시장에 등장하면서 확률 의사결정이라는 세분화된 트랙에서 경쟁이 급격히 심화되었습니다. Fastino의 GLiDE는 엣지 배포를 전제로 낮은 지연 시간을 강조하고, GLiNER2.5-Decide는 오픈소스로 커스터마이징 가능한 모델 가중치를 제공한다는 특징이 있습니다. 또한 커뮤니티 주도 복제본은 동일 아키텍처를 기반으로 현지화된 버전을 제공해 비용 절감과 로컬 환경 적응을 촉진하고 있습니다.

비즈니스 적용 시나리오, 제한점 및 향후 영향

QbitAI가 창업자 Diogo Almeida와의 인터뷰에서 TypeSafe의 기업 가치를 100억 달러에 달했다고 주장했습니다. 이 평가는 회사 자체 보고에 기반한 것이며, 독립적인 감사 기관에 의해 검증된 바는 없습니다.

의사결정 모델은 트래픽 분산, 카테고리 판정, 보안 방벽 등 빠른 이진 또는 다중 선택이 요구되는 상황에 적합합니다. 그러나 장문 생성, 정밀한 수학 연산, 감사되지 않은 고위험 인사 결정과 같은 용도에는 부적합하다고 평가됩니다.

중국 기업이 Jev를 도입하려면 토큰 100만 개당 비용, 응답 지연 시간, 그리고 현지 규제 요구사항과의 적합성을 신중히 평가해야 합니다. 실시간 라우팅이나 자동 승인과 같은 업무에 중점을 둔 경우, 확률 의사결정 모델로 전환하면 백엔드 통합 복잡성을 낮추고 보다 세밀한 트래픽 제어를 구현할 수 있는 가능성이 있습니다. 또한 데이터 프라이버시 법규가 입력 토큰에 대한 감사를 요구하거나 모델 출력의 설명 가능성을 감사 요구사항으로 제시할 경우, 각 확률 의사결정의 근거를 추적할 수 있는 메커니즘을 마련하는 것이 중요합니다. 이러한 메커니즘은 로그 저장, 선택지와 점수의 버전 관리, 그리고 noul 값이 발생한 상황에 대한 정책 기반 알림을 포함할 수 있습니다. 기업은 비용 효율성을 검토하면서도, 모델이 제공하는 확률적 선택이 비즈니스 규칙과 어떻게 일치하는지를 검증하는 절차를 구축해야 합니다. 결국, Jev의 설계 목표인 빠른 의사결정과 낮은 연산 비용은 실제 운영 환경에서 비용 대비 성능을 최적화하려는 조직에 매력적인 옵션이 될 수 있으며, 동시에 모델의 한계와 규제 준수 요구를 명확히 인식하고 관리하는 것이 장기적인 성공을 좌우할 것입니다.