TypeSafe AI는 사람들과 채팅하는 것이 아니라 소프트웨어 내에서 의사 결정을 내리기 위한 모델을 구축하는 샌프란시스코 AI 연구소입니다. 첫 번째 공개 모델인 Jev는 2026년 9월 16일 Vercel AI Gateway에 출시되었으며, 이로 인해 이번 주 변경 로그 및 개발자 피드에 이름이 등장하기 시작했습니다.
"System One Models"를 보고 이것이 새로운 모델 제품군인지, 새로운 API 형태인지, 아니면 마케팅인지 궁금했다면 이 가이드가 그 답을 알려줄 것입니다. TypeSafe AI가 누구인지, System One Model이 무엇을 하는지, Jev가 기존에 사용하던 LLM과 어떻게 다른지, API 키를 얻는 방법과 가격 책정, 그리고 Apidog에서 첫 요청을 보내는 방법을 배우게 될 것입니다.
먼저 명확히 하자면, TypeSafe AI는 Lightbend가 된 Scala 회사 Typesafe와 아무런 관련이 없으며, Jev 모델은 유튜버 FaZe Jev나 JEV 백신과도 무관합니다.
TypeSafe AI는 누구인가
회사는 typesafe.ai에서 자신들을 "자동화를 위한 기계 본연의 지능 인프라를 구축하는 AI 연구소로, 소프트웨어 내에서 의사 결정을 내리도록 설계되었습니다"라고 설명합니다. 슬로건은 "기계 본연의 지능(Machine-Native Intelligence)"이며, 바닥글에는 "Made in SF"라고 적혀 있습니다.
선언문은 이들의 핵심 가치를 설명합니다. 오늘날의 모델들은 "도움이 되고, 명확하며, 쾌적한 보조원이 되도록 훈련되어" 본질적으로 인간을 개입시킵니다. TypeSafe는 이를 "말 없는 마차(horseless carriage)" 문제, 즉 새로운 기술이 낡은 형태로 강요되는 문제라고 부릅니다. 이에 대한 해답은 "기계 본연의 조합 가능한 AI(machine-native composable AI)"인데, 이는 데이터베이스나 함수처럼 호출하는 모델로, 코드가 부울 값에 따라 분기하는 것처럼 "상식, 이해, 의도에 따라 분기"할 수 있게 합니다.
“System One Model”이란 무엇인가
TypeSafe는 출시 게시물에서 이 범주를 처음 만들었습니다. System One Model은 "소프트웨어가 직접 사용할 수 있는 빠르고 구조화된 결정을 내리도록 구축됩니다." 이 이름은 빠르고 직관적인 "시스템 1" 사고 방식, 즉 다단계 추론이 아닌 신속한 판단에서 따왔습니다.
세 가지 설계 선택이 이 범주를 정의합니다:
- 텍스트가 아닌 유형화된 결정. 모델은 확률, 분포가 있는 선택, 또는 점수를 반환합니다. 단락을 반환하지 않습니다.
- 보정된 확률. 모델은 TypeSafe가 보정된 결정을 위한 강화 학습(RLCD)이라고 부르는 방법으로 훈련됩니다. 이는 인간의 선호도나 검증 가능한 보상 대신 "인식론적으로 정직한 확률"을 최적화합니다.
- 문자열 생성 없음. 게시물은 단호하게 "Jev는 문자열 생성을 포기합니다"라고 말합니다. 자유 텍스트를 작성하지 않으므로 TypeSafe는 "환각을 일으킬 수 없다"고 주장합니다. 이 점을 주의 깊게 읽으십시오. Jev는 여전히 틀릴 수 있지만, 잘못된 답변은 잘못된 확률로 나타나며, 조작된 사실이나 만들어진 URL로 나타나지 않습니다.
출시 게시물은 Jev를 "최첨단 지능 함수 호출: 비정형 상태가 입력되고, 유형화된 확률적 결정이 출력됩니다"라고 설명합니다. 이는 전체 범주에 대한 가장 명확한 한 줄 요약입니다.
| 일반적인 LLM | System One Model (Jev) | |
|---|---|---|
| 출력 | 자유 텍스트 또는 스키마로 제한된 문자열 | 확률, 선택 또는 점수 |
| 오류 모드 | 그럴듯하지만 잘못된 텍스트 | 임계값을 설정할 수 있는 신뢰도 |
| 지연 시간 (판매자 주장) | 추론과 함께 몇 초 | 종단간 70ms ~ 500ms |
| 가장 잘하는 것 | 작성, 코딩, 다단계 추론 | 분류, 라우팅, 검증, 게이팅 |
| 입력 | 텍스트, 이미지, 오디오 | 텍스트 전용 (문자열, 객체 또는 배열) |
지연 시간 행은 TypeSafe 자체 벤치마크이며 독립적인 측정치는 아닙니다. 회사는 또한 Jev가 워크플로우 평가에서 "LLM보다 최대 193.6배 빠르고 444.6배 저렴했다"고 주장합니다. 이 수치를 반복하기 전에 직접 작은 테스트를 계획하십시오.
Jev는 무엇을 하는가
Jev는 TypeSafe의 첫 번째 공개 System One Model입니다. 모델 페이지에 따르면, `jev-latest`는 `jev-1.13.0`으로 해석되며, `jev-preview`는 현재 동일한 빌드를 가리킵니다. 별칭은 새 릴리스에서 이동하므로, 특정 버전에 대해 임계값을 조정했다면, 버전화된 ID를 고정하십시오.
모든 요청은 공유된 `state`에 대한 하나 이상의 질문에 답합니다. TypeSafe가 원시(primitives)라고 부르는 세 가지 질문 유형이 있습니다:
Noul은 예/아니요 결정입니다. 단일 확률을 받습니다.
{ "type": "noul", "noul": 0.92 }
Choice는 명명된 세트에서 하나의 옵션을 선택합니다. 옵션 이름과 설명의 `criteria` 맵을 제공하면 선택된 선택, 각 옵션에 대한 확률, 그리고 전반적인 신뢰도를 얻습니다. Jev는 하나의 선택에서 최대 255개의 옵션을 지원합니다.
{
"type": "choice",
"choice": "technical",
"probabilities": { "billing": 0.08, "technical": 0.85, "sales": 0.07 },
"confidence": 0.82
}
Score는 2에서 10단계의 순서 척도를 따라 상태를 평가합니다. 답변은 보간된 점수와 범례, 그리고 각 단계별 확률입니다.
{
"type": "score",
"score": 1.6,
"legend": { "0": "Calm", "1": "Frustrated", "2": "Very angry" },
"probabilities": { "0": 0.05, "1": 0.3, "2": 0.65 },
"confidence": 0.78
}
문서의 제한 사항: 텍스트 전용(이미지, 오디오, 비디오 입력 없음), 요청당 64k 토큰, `state` 및 가장 긴 질문에 대해 32k 토큰. `state` 필드는 "텍스트를 위한 일반 문자열, 또는 채팅 로그, 기록 또는 애플리케이션의 현재 상태와 같은 것을 위한 구조화된 데이터(객체/배열)"를 받으므로, 먼저 직렬화하지 않고 JSON 레코드를 전달할 수 있습니다.
모델 자체에 대한 더 심층적인 내용은 Jev가 무엇이며 어떻게 작동하는지를 참조하십시오.
Jev가 LLM 공급업체와 다른 점
가장 흔한 실수는 TypeSafe를 OpenAI나 Anthropic과 같은 범주에 넣는 것입니다. Jev는 동일한 축에서 경쟁하지 않습니다.
LLM 공급업체는 생성을 판매합니다. OpenAI의 구조화된 출력조차도 생성된 문자열을 JSON 스키마로 제한함으로써 작동합니다. 모델은 여전히 토큰을 작성하고, 스키마는 형태를 유효하게 유지합니다. Jev는 생성을 건너뜁니다. 제공한 옵션을 평가하고 분포를 반환합니다. 파싱할 토큰 스트림도 없고, 복구할 JSON도 없으며, "죄송합니다, 할 수 없습니다"와 같은 거부 텍스트도 없습니다.
이는 Jev가 LLM을 대체하는 것이 아니라 보완하는 역할을 한다는 것을 의미합니다. Jev가 적합한 작업:
- 티켓, 메시지 또는 웹훅 페이로드를 올바른 핸들러로 라우팅
- 에이전트의 다음 동작 게이팅("이 도구 호출을 실행하는 것이 안전한가요?")
- LLM의 답변을 반환하기 전에 기준에 따라 검증
- 대시보드 및 경보를 위한 품질, 긴급성 또는 감정 점수 매기기
- 호출당 비용이 중요한 대량 레코드 분류
API 스택에서 Jev는 유효성 검사 함수나 기능 플래그 확인과 동일한 계층에 있습니다. 코드가 분기하는 빠르고 저렴한 호출입니다.
접근 방법
세 가지 방법이 있으며, 채팅 인터페이스가 필요한 방법은 없습니다.
콘솔 및 직접 API. 설정에서 console.typesafe.ai에서 키를 생성한 다음, API 참조에 문서화된 엔드포인트를 호출하십시오:
curl -X POST https://api.typesafe.ai/v1/systemone \
-H "Authorization: Bearer $TYPESAFE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "jev-latest",
"state": "Help! My payouts have been failing for 3 days.",
"questions": {
"is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" }
}
}'
응답은 요청을 미러링합니다. 질문 이름으로 키 지정된 `answers` 객체와 입력 및 출력 토큰 수를 포함하는 `usage`가 있습니다.
SDK. TypeSafe는 동일한 엔드포인트를 래핑하는 Python 패키지(`typesafe-sdk`)와 JavaScript SDK를 게시합니다.
Vercel AI Gateway. 9월 16일 변경 로그에 따르면, Jev는 AI SDK 7.0.105 이상 버전에서 `experimental_evaluate` 함수를 통해 `typesafe-ai/jev`로 사용할 수 있습니다. Vercel의 평가 문서는 이 모달리티가 AI SDK 전용이며, OpenAI 호환 또는 Anthropic 호환 엔드포인트를 통해 노출되지 않는다고 명시하고 있습니다. Vercel AI SDK를 통해 모델을 라우팅하는 경우, Jev는 동일한 게이트웨이 키로 작동하며, `providerOptions.gateway`를 통해 요청별로 제로 데이터 보존 및 비훈련 옵션을 설정할 수 있습니다. 토큰 사용량은 요청별로 보고되며 모델 요금으로 청구됩니다.
가격 및 속도 제한
가격은 한 가지 숫자입니다. 입력 토큰 비용은 백만 개당 0.042달러(TypeSafe는 10억 개당 42달러로도 표기합니다). 출력 토큰은 무료이며, 출시 게시물은 이를 "측정하기에는 너무 저렴하다"고 설명합니다.
모델 페이지의 속도 제한은 초당 250,000토큰, 분당 1,200요청이며, 동적으로 조정된다는 참고 사항이 있습니다. 중요한 네 가지 오류 코드는 다음과 같습니다:
| 상태 | 의미 | 수행할 작업 |
|---|---|---|
| 401 | 키 누락 또는 유효하지 않은 키 | Bearer 헤더를 확인하십시오 |
| 422 | 요청 유효성 검사 실패 | 질문 유형 및 기준 형식을 확인하십시오 |
| 429 | 속도 제한 초과 | 지수 백오프를 사용하여 재시도하십시오 |
| 529 | 서비스 과부하 | 지수 백오프를 사용하여 재시도하십시오 |
Apidog에서 첫 Jev 요청 테스트
Jev를 라우터나 에이전트 루프에 연결하기 전에, 일반 HTTP 요청으로 실행하고 결과를 확인하십시오. Apidog에서는 약 2분 정도 걸립니다.
- 프로젝트를 생성하고 환경 패널을 엽니다. `TYPESAFE_API_KEY`라는 변수를 추가하고, 값이 UI에서 마스킹되고 내보낸 컬렉션에 절대 포함되지 않도록 보안 변수로 표시한 다음, 콘솔에서 키를 붙여넣으십시오.
- `https://api.typesafe.ai/v1/systemone`으로 `POST` 요청을 생성합니다. `Authorization: Bearer {{TYPESAFE_API_KEY}}` 헤더를 추가하십시오. Apidog는 전송 시 변수를 채웁니다.
- 위 curl 예제에서 JSON 본문을 붙여넣고 전송합니다. `answers.is_urgent.noul`이 0.9에 가까운 값을 보여야 합니다.
- 후처리 탭을 열고 어설션을 추가합니다: JSONPath `$.answers.is_urgent.noul`, 조건은
0.8보다 큼. 이제 모델의 신뢰도가 변동하면 요청이 명확하게 실패합니다. - 요청을 복제하고 `"model": "jev-latest"`를 `"jev-1.13.0"`으로 바꾼 다음, 둘 다 테스트 시나리오에 저장합니다. 이를 일정에 따라 또는 CI에서 실행합니다. 별칭이 새 릴리스로 이동할 때, 고정된 요청과 별칭 요청이 달라지며, 프로덕션이 인식하기 전에 어설션이 이를 감지합니다.
동일한 시나리오는 보정 확인으로도 활용될 수 있습니다. 수동으로 레이블을 지정한 10가지 상태를 공급하고 각 확률에 대해 어설션하면, 테스트 하니스를 작성하지 않고도 의사 결정 모델을 위한 회귀 테스트 스위트를 구축할 수 있습니다. 함께 따라하려면 Apidog를 다운로드하십시오. 무료 플랜은 최대 4명으로 구성된 팀을 위해 이 워크플로우를 지원합니다.
자주 묻는 질문
TypeSafe AI는 Scala 회사인 Typesafe와 동일한가요? 아닙니다. Typesafe Inc.는 Akka 및 Play Framework 회사였으며, 2016년에 Lightbend로 이름이 변경되었습니다. TypeSafe AI는 System One Models 아이디어를 중심으로 설립된 별개의 샌프란시스코 연구소이며, 양측에 공유된 제품이나 인력은 없습니다.
Jev가 제 LLM을 대체하나요? 아닙니다. Jev는 텍스트, 코드 또는 요약을 생성하지 않습니다. 이러한 작업에는 LLM을 유지하고, Jev는 라우터, 게이트 또는 검증기로서 LLM 앞에 또는 뒤에 배치하십시오. Jev 심층 분석은 이 둘을 연결하기 위한 구체적인 패턴을 다룹니다.
Jev를 사용하려면 Vercel이 필요한가요? 아닙니다. TypeSafe 콘솔의 키로 직접 API를 사용할 수 있습니다. Vercel AI Gateway는 AI SDK를 이미 사용하고 있고 여러 공급자에게 걸쳐 하나의 키와 하나의 청구서를 원할 경우의 편의 기능입니다.
Jev가 환각을 일으킬 수 있나요? TypeSafe의 주장이며, Jev가 텍스트를 전혀 생성하지 않기 때문에 텍스트를 만들어낼 수 없다는 좁은 의미에서는 사실입니다. 그러나 훈련 분포를 벗어난 입력에 대해서는 여전히 과신할 수 있습니다. 프로덕션에서 점수를 신뢰하기 전에 `confidence`에 임계값을 설정하고 직접 레이블링된 데이터로 테스트하십시오.
TypeSafe AI에 자금을 지원하는 사람은 누구인가요? 팀 페이지에는 "최고 수준의 투자자"라고만 언급되어 있습니다. 공식 페이지에는 이름이나 금액이 명시되어 있지 않으므로, 다른 곳에서 읽는 모든 수치는 확인되지 않은 것입니다.