Apa Itu Jev? Model System One TypeSafe AI, dan Cara Mengujinya dengan Apidog

Jev adalah jenis model baru dari TypeSafe AI. Ini tidak menulis teks. Anda memberikannya sepotong status program, menyatakan pertanyaan yang perlu Anda jawab, dan ia mengembalikan jawaban berjenis dengan probabilitas terkalibrasi: probabilitas ya/tidak, pilihan dari daftar, atau skor pada rubrik. TypeSafe menyebut ini "Model Sistem Satu", dan intinya sederhana: sebagian besar panggilan AI di dalam perangkat lunak tidak meminta prosa, mereka meminta keputusan. Jika Anda telah menghubungkan LLM ke klasifikasi dan kemudian menulis parser untuk menarik label dari jawabannya, Jev dibangun untuk pekerjaan itu, seperti output terstruktur adalah langkah pertama menuju hal itu.

Jev diluncurkan di Vercel AI Gateway pada 16 September 2026, yang membuatnya dikenal oleh sebagian besar pengembang. Panduan ini mencakup apa itu Jev, bagaimana perbedaannya dengan model bahasa, tiga jenis pertanyaan, cara memanggilnya secara langsung dan melalui Gateway, serta cara menguji dan membuat tiruannya di Apidog sebelum menyentuh logika perutean Anda.

Apa Itu Jev

Posting peluncuran TypeSafe menjelaskan Jev sebagai “panggilan fungsi intelijen perbatasan: status tidak terstruktur masuk, keputusan probabilistik berjenis keluar.” Tiga properti mendefinisikannya.

Outputnya berjenis, dan dideklarasikan sebelum panggilan. Anda mendefinisikan bentuk setiap pertanyaan di awal. Model hanya dapat menjawab di dalam bentuk itu, jadi tidak ada yang perlu diurai dan tidak ada ketidaksesuaian skema yang perlu ditangani. TypeSafe menyebut ini bahwa Jev "tidak pernah membuat kesalahan jenis."

Setiap jawaban memiliki probabilitas. Pertanyaan ya/tidak tidak mengembalikan true; ia mengembalikan angka seperti 0.97. Pilihan mengembalikan distribusi penuh di seluruh opsi. TypeSafe melatih model dengan metode yang disebut Pembelajaran Penguatan untuk Keputusan Terkalibrasi, dan klaimnya adalah bahwa kepercayaan diri yang lebih tinggi berarti akurasi yang lebih tinggi, sehingga Anda dapat menentukan ambang batas: otomatisasi kasus yang jelas, arahkan kasus yang tidak pasti kepada manusia.

Pertanyaan dijawab secara paralel, dalam satu permintaan. Model bahasa menghasilkan satu token pada satu waktu. Jev mengevaluasi setiap pertanyaan yang dideklarasikan sekaligus terhadap status yang sama, itulah sebabnya TypeSafe mengutip waktu respons end-to-end 70ms hingga 500ms. Angka-angka tersebut adalah angka vendor sendiri; perlakukan mereka sebagai klaim untuk diverifikasi terhadap beban kerja Anda, bukan sebagai patokan.

Bagaimana Jev Berbeda dari Model Bahasa

Pertukaran ini eksplisit: Jev melepaskan generasi string sepenuhnya. Ini bukan model obrolan dan tidak akan meringkas dokumen. Tempatnya adalah "pernyataan if cerdas" di dalam aplikasi: tim mana yang menangani tiket ini, seberapa parah bug ini, apakah balasan ini aman untuk dikirim, apakah build berhasil.

Tiga Jenis Pertanyaan

API langsung Jev mengekspos tiga primitif. Masing-masing adalah objek JSON di bawah kunci yang Anda pilih.

Noul: probabilitas ya/tidak. Nama TypeSafe untuk tipe boolean. Ini mengembalikan probabilitas bahwa jawabannya adalah ya, dan Anda menetapkan ambang batasnya dalam kode.

{ "is_urgent": { "type": "noul", "instructions": "Does this message express urgency?" } }

Respons: { "type": "noul", "noul": 0.99 }.

Choice: pilih satu opsi dari kumpulan yang dinamai. criteria memetakan nama opsi ke deskripsi, hingga 255 opsi. Jawaban membawa pilihan teratas ditambah distribusi penuh dan angka kepercayaan.

{ "department": { "type": "choice", "instructions": "Which team should handle this?",
  "criteria": { "billing": "Charges, invoices, payment problems",
                "shipping": "Delivery status, delays, lost packages",
                "returns":  "Exchanges, refunds, damaged items" } } }

Respons: { "type": "choice", "choice": "returns", "confidence": 1.0, "probabilities": { "returns": 1.0, "shipping": 0.0, "billing": 0.0 } }.

Score: posisi pada skala berurutan. criteria adalah array deskripsi 2 hingga 10 tingkat, dari yang terendah terlebih dahulu. Skor adalah posisi yang berbobot probabilitas, sehingga dapat berada di antara tingkatan.

{ "bug_severity": { "type": "score", "instructions": "How severe is the reported issue?",
  "criteria": [ "Cosmetic; no impact to functionality",
                "Broken feature, but a workaround exists",
                "Blocking issue; no workaround" ] } }

Respons: { "type": "score", "score": 1.3, "confidence": 0.54, "probabilities": { "0": 0.0, "1": 0.7, "2": 0.3 }, "legend": { "0": "Kosmetik...", "1": "Rusak...", "2": "Memblokir..." } }.

Satu kekhasan penamaan: melalui Vercel AI SDK, tipe ya/tidak disebut boolean dan bidang jawabannya adalah probability. Terhadap API TypeSafe sendiri, itu adalah noul. Ide yang sama, kunci yang berbeda.

Dua Cara Memanggil Jev

Secara Langsung. Dapatkan kunci di console.typesafe.ai/settings/keys, lalu kirim POST https://api.typesafe.ai/v1/systemone dengan token Bearer. ID modelnya adalah jev-latest, yang saat ini merujuk ke jev-1.13.0; jev-preview mengarah ke build terbaru, resmi atau tidak. SDK Python dan JavaScript tersedia, sesuai panduan memulai cepat, tetapi endpoint mentah adalah satu POST, yang merupakan bentuk yang akan kita gunakan di Apidog.

Melalui Vercel AI Gateway. ID modelnya adalah typesafe-ai/jev dan Anda memanggilnya dengan experimental_evaluate dari AI SDK (versi 7 atau lebih baru). Satu peringatan dari dokumen evaluasi: evaluasi hanya tersedia melalui AI SDK, bukan melalui endpoint yang kompatibel dengan OpenAI atau Anthropic dari Gateway. Jika Anda sudah merutekan model melalui Gateway, seperti dalam panduan GPT-5.6 Sol di AI Gateway kami, ini adalah jalur yang alami; panduan Vercel AI SDK kami mencakup penyiapan.

import { experimental_evaluate as evaluate } from 'ai';

const result = await evaluate({
  model: 'typesafe-ai/jev',
  state: 'The support agent issued a full refund to the customer.',
  questions: { refunded: { type: 'boolean', instructions: 'Was a refund issued?' } },
});
// result.answers.refunded -> { type: 'boolean', probability: 0.99 }

Permintaan Pertama Anda dengan cURL

Ini memprioritaskan pesan dukungan dengan ketiga jenis dalam satu panggilan:

export TYPESAFE_API_KEY="..."

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-latest",
    "state": "My card was charged twice for one order and I need this fixed today.",
    "questions": {
      "department": { "type": "choice", "instructions": "Which team handles this?",
        "criteria": { "billing": "charges and refunds", "shipping": "delivery", "technical": "bugs" } },
      "urgency": { "type": "score", "instructions": "How urgent is this?",
        "criteria": ["low", "medium", "high"] },
      "wants_refund": { "type": "noul", "instructions": "Is the customer asking for money back?" }
    }
  }'

Respons memiliki model, objek answers yang dikunci oleh ID pertanyaan Anda, dan usage dengan input_tokens dan output_tokens. Baca answers.department.choice, answers.urgency.score, dan answers.wants_refund.noul, lalu terapkan ambang batas Anda.

Menguji dan Membuat Mock Jev di Apidog

Model yang mengembalikan probabilitas mengubah tampilan pengujian. Anda tidak lagi menegaskan sebuah string; Anda menegaskan bahwa sebuah angka melewati batas. Apidog menjadikannya pemeriksaan yang disimpan dan dapat diulang, bukan cURL sekali pakai.

Simpan kuncinya. Buka Manajemen Lingkungan, buat lingkungan bernama TypeSafe, dan tambahkan TYPESAFE_API_KEY dengan nilai sebenarnya di bidang lokal, sehingga tetap di mesin Anda dan tidak pernah disinkronkan ke tim. Panduan kami tentang lingkungan dan variabel rahasia mencakup aturan cakupan.

Bangun permintaan. Permintaan baru, POST https://api.typesafe.ai/v1/systemone, jenis Auth Bearer Token dengan {{TYPESAFE_API_KEY}}, body JSON dari contoh cURL. Kirim dan baca jawabannya di panel respons.

Tegaskan pada keputusan, bukan teks. Tambahkan pernyataan pasca-pemrosesan seperti answers.department.choice sama dengan billing, answers.wants_refund.noul lebih besar dari 0.9, dan answers.urgency.score lebih besar dari 1.5. Sekarang, regresi dalam perilaku Jev, atau dalam susunan kriteria Anda sendiri, akan menggagalkan pengujian alih-alih salah merutekan tiket secara diam-diam.

Buat mock untuk frontend. Simpan respons sebagai mock, dan UI tiket Anda dapat dibangun serta didemokan terhadap objek answers yang stabil tanpa menghabiskan token atau menunggu model. Karena bentuknya dideklarasikan, mock dan respons nyata tidak dapat menyimpang.

Simpan sebagai skenario. Rangkai beberapa status, pesan yang tenang, pesan yang marah, pesan yang ambigu, dan tegaskan bahwa kepercayaan diri menurun pada kasus yang ambigu. Itulah pemeriksaan yang memberi tahu Anda bahwa ambang batas Anda berfungsi. Unduh Apidog untuk menyiapkannya; paket gratis mencakup tim beranggotakan empat orang.

Harga, Batasan, dan Kesalahan

Dari halaman model TypeSafe:

• Harga: $0.042 per juta token input. Token output tidak dikenakan biaya. Gateway mencantumkan harga yang sama, $0.042 per juta input.
• Batas laju: 250.000 token per detik dan 1.200 permintaan per menit, disesuaikan secara dinamis.
• Konteks: 64k token per permintaan, di mana 32k untuk state ditambah pertanyaan terpanjang.
• Input: hanya teks. String, objek JSON, atau array teks. Tidak ada gambar, audio, atau video.
• Bahasa: Bahasa Inggris adalah yang terbaik; bahasa lain berfungsi dengan akurasi yang lebih rendah.

Kesalahan kembali sebagai kode status HTTP: 401 untuk kunci yang hilang atau tidak valid, 422 ketika body gagal validasi (Score dengan satu level, Choice tanpa kriteria), 429 untuk batas laju, dan 529 ketika layanan kelebihan beban. Mundur dan coba lagi pada dua yang terakhir; SDK melakukan ini secara default.

Pertanyaan Umum

Apakah Jev pengganti LLM?

Tidak. Ini menggantikan bagian dari panggilan LLM di mana Anda meminta keputusan dan mengurai teks untuk mendapatkannya. Generasi, obrolan, dan ringkasan masih membutuhkan model bahasa.

Bisakah Jev berhalusinasi?

Itu bisa salah, tetapi tidak dapat menghasilkan jawaban di luar skema yang Anda deklarasikan. Argumen TypeSafe adalah bahwa pencocokan skema dijamin, sehingga label yang "berhalusinasi" tidak mungkin; label yang salah dengan kepercayaan rendah masih mungkin terjadi, itulah sebabnya probabilitas itu penting.

Apa arti "terkalibrasi" dalam praktik?

Jika model mengatakan 0.9, itu seharusnya benar sekitar 90% dari waktu untuk jenis pertanyaan itu. Itulah yang memungkinkan Anda memilih ambang batas dan mengotomatisasi di atasnya. Uji pada data Anda sendiri sebelum mempercayai angka tersebut; skenario yang disimpan di Apidog dengan status berlabel adalah cara murah untuk melakukannya.

Apakah saya perlu Vercel untuk menggunakan Jev?

Tidak. API langsung di api.typesafe.ai berfungsi sendiri dengan kunci Bearer. Vercel AI Gateway adalah kenyamanan jika Anda sudah menggunakan AI SDK, dan itu adalah satu-satunya rute yang mendukung experimental_evaluate. Bagaimanapun, dasar-dasar JSON Schema di balik bentuk yang dideklarasikan patut diketahui.

Di Mana Jev Sesuai

Gunakan Jev ketika pertanyaan memiliki kumpulan jawaban yang tetap dan Anda memerlukan probabilitas dengannya: perutean, klasifikasi, penilaian, verifikasi, batasan keamanan. Pertahankan model bahasa Anda untuk semua hal yang membutuhkan kata-kata. Deklarasikan bentuknya, uji ambang batas di Apidog, dan biarkan angka kepercayaan memutuskan apa yang akan diotomatisasi.