TypeSafe AI là gì? Công ty đứng sau các mô hình Jev và System One

TypeSafe AI là một phòng thí nghiệm AI ở San Francisco chuyên xây dựng các mô hình ra quyết định bên trong phần mềm, chứ không phải để trò chuyện với con người. Mô hình công khai đầu tiên của họ, Jev, đã ra mắt trên Vercel AI Gateway vào ngày 16 tháng 9 năm 2026, đó là lý do tại sao tên này bắt đầu xuất hiện trong nhật ký thay đổi và nguồn cấp dữ liệu của nhà phát triển trong tuần này.

Nếu bạn đã thấy “System One Models” và tự hỏi liệu đó là một họ mô hình mới, một hình dạng API mới, hay chỉ là tiếp thị, hướng dẫn này sẽ giải đáp thắc mắc đó. Bạn sẽ tìm hiểu TypeSafe AI là ai, một Mô hình System One làm gì, Jev khác với các LLM bạn đã sử dụng như thế nào, cách nhận khóa API và giá cả, và cách gửi yêu cầu đầu tiên của bạn từ Apidog.

Một điểm làm rõ ngay từ đầu: TypeSafe AI không liên quan đến Typesafe, công ty Scala đã trở thành Lightbend, và mô hình Jev không liên quan đến YouTuber FaZe Jev hay vắc-xin JEV.

TypeSafe AI là ai

Công ty tự mô tả trên typesafe.ai là “một phòng thí nghiệm AI xây dựng cơ sở hạ tầng trí tuệ gốc máy cho tự động hóa, được thiết kế để đưa ra quyết định trong phần mềm.” Khẩu hiệu là “Trí tuệ gốc máy,” và chân trang ghi “Made in SF.”

Bản tuyên ngôn giải thích về đặt cược. Các mô hình hiện nay được “đào tạo để trở thành một trợ lý hữu ích, rành mạch, dễ chịu,” điều này giữ con người trong vòng lặp theo thiết kế. TypeSafe gọi đây là vấn đề “xe ngựa không ngựa”: công nghệ mới bị ép vào một hình dạng cũ. Câu trả lời của họ là “AI có thể kết hợp gốc máy,” một mô hình bạn gọi giống như một cơ sở dữ liệu hoặc một hàm, cho phép mã “phân nhánh theo lẽ thường, sự hiểu biết và ý định” theo cách nó đã phân nhánh theo kiểu boolean.

“Mô hình System One” là gì

TypeSafe đã đặt ra danh mục này trong bài đăng ra mắt của họ. Một Mô hình System One được “xây dựng để đưa ra các quyết định nhanh chóng, có cấu trúc mà phần mềm có thể sử dụng trực tiếp.” Tên gọi này lấy cảm hứng từ chế độ tư duy “Hệ thống 1” nhanh chóng, trực giác: các phán đoán nhanh, không phải suy luận nhiều bước.

Ba lựa chọn thiết kế định nghĩa danh mục này:

• Đầu ra là quyết định có kiểu, không phải văn bản. Mô hình trả về một xác suất, một lựa chọn với phân phối, hoặc một điểm số. Nó không bao giờ trả về một đoạn văn.
• Xác suất được hiệu chỉnh. Các mô hình được đào tạo bằng một phương pháp mà TypeSafe gọi là Học tăng cường cho các quyết định được hiệu chỉnh (RLCD), tối ưu hóa cho “xác suất trung thực về mặt nhận thức” thay vì sở thích của con người hoặc phần thưởng có thể xác minh.
• Không tạo chuỗi. Bài đăng thẳng thắn: “Jev từ bỏ việc tạo chuỗi.” Vì nó không bao giờ tạo văn bản tự do, TypeSafe tuyên bố nó “không thể bị ảo giác.” Đọc kỹ điều đó. Jev vẫn có thể sai, nhưng một câu trả lời sai sẽ xuất hiện dưới dạng xác suất bị hiệu chỉnh sai, chứ không phải là một sự thật bịa đặt hoặc một URL được tạo ra.

Bài đăng ra mắt định nghĩa Jev là “một lời gọi hàm trí tuệ tiên phong: đầu vào là trạng thái không có cấu trúc, đầu ra là các quyết định xác suất có kiểu.” Đó là tóm tắt một dòng rõ ràng nhất về toàn bộ danh mục.

Hàng độ trễ là tiêu chuẩn riêng của TypeSafe, không phải là một phép đo độc lập. Công ty cũng tuyên bố Jev “nhanh hơn tới 193,6 lần và rẻ hơn 444,6 lần so với các LLM” trong các đánh giá quy trình làm việc của họ. Hãy lên kế hoạch cho một thử nghiệm nhỏ của riêng bạn trước khi bạn lặp lại những con số đó.

Jev làm gì

Jev là Mô hình System One công khai đầu tiên của TypeSafe. Theo trang mô hình, biệt danh jev-latest phân giải thành jev-1.13.0, và jev-preview hiện đang trỏ đến cùng một bản dựng. Các biệt danh thay đổi khi có bản phát hành mới, vì vậy nếu bạn điều chỉnh ngưỡng theo một phiên bản, hãy ghim ID có phiên bản.

Mỗi yêu cầu trả lời một hoặc nhiều câu hỏi về một state được chia sẻ. Có ba loại câu hỏi, mà TypeSafe gọi là các nguyên thủy:

Noul là một quyết định có/không. Bạn nhận lại một xác suất duy nhất.

{ "type": "noul", "noul": 0.92 }

Choice chọn một tùy chọn từ một tập hợp được đặt tên. Bạn cung cấp một bản đồ criteria gồm tên tùy chọn đến mô tả và nhận được lựa chọn đã chọn, xác suất cho mỗi tùy chọn và một mức độ tin cậy tổng thể. Jev hỗ trợ tối đa 255 tùy chọn trong một lựa chọn.

{
  "type": "choice",
  "choice": "technical",
  "probabilities": { "billing": 0.08, "technical": 0.85, "sales": 0.07 },
  "confidence": 0.82
}

Score đánh giá trạng thái theo một thang đo có thứ tự từ 2 đến 10 cấp độ. Câu trả lời là một điểm số nội suy cộng với một chú giải và xác suất cho mỗi bậc.

{
  "type": "score",
  "score": 1.6,
  "legend": { "0": "Bình tĩnh", "1": "Bực bội", "2": "Rất tức giận" },
  "probabilities": { "0": 0.05, "1": 0.3, "2": 0.65 },
  "confidence": 0.78
}

Giới hạn từ tài liệu: chỉ văn bản (không có đầu vào hình ảnh, âm thanh hoặc video), 64k token mỗi yêu cầu và 32k token cho state cộng với câu hỏi dài nhất. Trường state chấp nhận “một chuỗi đơn giản cho văn bản, hoặc dữ liệu có cấu trúc (đối tượng/mảng) cho những thứ như nhật ký trò chuyện, bản ghi hoặc trạng thái hiện tại của ứng dụng của bạn,” vì vậy bạn có thể chuyển một bản ghi JSON mà không cần tuần tự hóa trước.

Để tìm hiểu sâu hơn về mô hình, hãy xem Jev là gì và cách hoạt động.

Jev khác với nhà cung cấp LLM như thế nào

Sai lầm dễ mắc phải nhất là xếp TypeSafe cạnh OpenAI hoặc Anthropic. Nó không cạnh tranh trên cùng một trục.

Một nhà cung cấp LLM bán khả năng tạo. Ngay cả đầu ra có cấu trúc của OpenAI cũng hoạt động bằng cách ràng buộc một chuỗi được tạo ra với một JSON schema; mô hình vẫn viết token, và schema giữ cho hình dạng hợp lệ. Jev bỏ qua việc tạo. Nó chấm điểm các tùy chọn bạn đã cung cấp và trả về phân phối. Không có luồng token để phân tích cú pháp, không có JSON để sửa chữa, và không có văn bản từ chối “xin lỗi, tôi không thể”.

Điều đó làm cho Jev trở thành một bổ sung cho LLM của bạn, không phải là một sự thay thế. Các công việc mà nó phù hợp:

• Định tuyến một yêu cầu, tin nhắn hoặc webhook payload đến trình xử lý phù hợp
• Kiểm soát hành động tiếp theo của một tác nhân (“Liệu lệnh gọi công cụ này có an toàn để chạy không?”)
• Xác minh câu trả lời của LLM theo một tiêu chí trước khi bạn trả về
• Chấm điểm chất lượng, mức độ khẩn cấp hoặc cảm xúc cho bảng điều khiển và cảnh báo
• Phân loại hàng loạt các bản ghi nơi chi phí mỗi lần gọi là quan trọng

Trong một ngăn xếp API, Jev nằm ở cùng lớp với một hàm xác thực hoặc một kiểm tra cờ tính năng: một cuộc gọi nhanh, rẻ mà mã của bạn sẽ phân nhánh dựa trên kết quả.

Cách truy cập

Có ba cách, và không cách nào yêu cầu giao diện trò chuyện.

Bảng điều khiển và API trực tiếp. Tạo khóa tại console.typesafe.ai trong phần Cài đặt, sau đó gọi điểm cuối được ghi trong tài liệu tham khảo API:

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-latest",
    "state": "Help! My payouts have been failing for 3 days.",
    "questions": {
      "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" }
    }
  }'

Phản hồi phản ánh yêu cầu: một đối tượng `answers` được khóa bằng tên câu hỏi của bạn, cộng với `usage` với số lượng token đầu vào và đầu ra.

SDK. TypeSafe xuất bản một gói Python (typesafe-sdk) và một SDK JavaScript bao bọc cùng một điểm cuối.

Vercel AI Gateway. Theo nhật ký thay đổi ngày 16 tháng 9, Jev có sẵn dưới dạng typesafe-ai/jev thông qua hàm experimental_evaluate trong AI SDK 7.0.105 trở lên. Tài liệu đánh giá của Vercel nói rõ rằng phương thức này chỉ dành cho AI SDK; nó không được tiết lộ thông qua các điểm cuối tương thích với OpenAI hoặc Anthropic. Nếu bạn đã định tuyến các mô hình thông qua Vercel AI SDK, Jev sẽ được tích hợp với cùng khóa cổng, và bạn có thể đặt các tùy chọn không lưu giữ dữ liệu và không đào tạo cho mỗi yêu cầu thông qua providerOptions.gateway. Việc sử dụng token được báo cáo cho mỗi yêu cầu và được tính phí theo tỷ lệ của mô hình.

Giá cả và giới hạn tốc độ

Giá cả là một con số. Token đầu vào có giá 0,042 đô la cho mỗi triệu (TypeSafe cũng viết là 42 đô la cho mỗi tỷ). Token đầu ra miễn phí, mà bài đăng ra mắt mô tả là “quá rẻ để đo lường.”

Giới hạn tốc độ trên trang mô hình là 250.000 token mỗi giây và 1.200 yêu cầu mỗi phút, với lưu ý rằng chúng điều chỉnh động. Bốn mã lỗi quan trọng:

Kiểm tra yêu cầu Jev đầu tiên của bạn trong Apidog

Trước khi bạn tích hợp Jev vào một bộ định tuyến hoặc vòng lặp tác nhân, hãy chạy nó như một yêu cầu HTTP đơn giản và xác nhận kết quả. Điều đó mất khoảng hai phút trong Apidog.

1. Tạo một dự án và mở bảng môi trường. Thêm một biến có tên TYPESAFE_API_KEY, đánh dấu nó là biến bí mật để giá trị bị che trong giao diện người dùng và không bao giờ xuất hiện trong các bộ sưu tập đã xuất, sau đó dán khóa của bạn từ bảng điều khiển.
2. Tạo một yêu cầu POST tới https://api.typesafe.ai/v1/systemone. Thêm tiêu đề Authorization: Bearer {{TYPESAFE_API_KEY}}. Apidog sẽ điền biến này vào thời điểm gửi.
3. Dán phần thân JSON từ ví dụ curl ở trên và gửi. Bạn sẽ thấy answers.is_urgent.noul gần 0.9.
4. Mở tab hậu xử lý và thêm một xác nhận: JSONPath $.answers.is_urgent.noul, điều kiện lớn hơn 0.8. Giờ đây, yêu cầu sẽ thất bại rõ ràng nếu độ tin cậy của mô hình thay đổi.
5. Nhân đôi yêu cầu, đổi "model": "jev-latest" thành "jev-1.13.0", và lưu cả hai vào một kịch bản thử nghiệm. Chạy nó theo lịch trình hoặc trong CI. Khi biệt danh chuyển sang một bản phát hành mới, yêu cầu được ghim và yêu cầu biệt danh sẽ khác biệt, và xác nhận của bạn sẽ phát hiện ra điều đó trước khi đưa vào sản xuất.

Kịch bản tương tự cũng đóng vai trò như một kiểm tra hiệu chuẩn. Cung cấp cho nó mười trạng thái mà bạn đã gắn nhãn thủ công, xác nhận trên mỗi xác suất, và bạn sẽ có một bộ kiểm thử hồi quy cho một mô hình ra quyết định, được xây dựng mà không cần viết test harness. Tải xuống Apidog để làm theo; gói miễn phí bao gồm quy trình làm việc này cho các nhóm lên đến bốn người.

Câu hỏi thường gặp

TypeSafe AI có giống với Typesafe, công ty Scala không? Không. Typesafe Inc. là công ty của Akka và Play Framework, được đổi tên thành Lightbend vào năm 2016. TypeSafe AI là một phòng thí nghiệm riêng biệt ở San Francisco được thành lập dựa trên ý tưởng Mô hình System One, không có sản phẩm hoặc người nào được liệt kê chung ở cả hai bên.

Jev có thay thế LLM của tôi không? Không. Jev không tạo văn bản, mã hoặc tóm tắt. Hãy giữ LLM của bạn cho những công việc đó và đặt Jev ở phía trước hoặc phía sau nó như một bộ định tuyến, cổng hoặc trình xác minh. Bài tìm hiểu sâu về Jev bao gồm các mẫu cụ thể để kết hợp cả hai.

Tôi có cần Vercel để sử dụng Jev không? Không. API trực tiếp hoạt động với một khóa từ bảng điều khiển TypeSafe. Vercel AI Gateway là một tiện ích nếu bạn đã sử dụng AI SDK và muốn một khóa và một hóa đơn duy nhất cho nhiều nhà cung cấp.

Jev có thể bị ảo giác không? Đó là tuyên bố của TypeSafe, và điều đó đúng theo nghĩa hẹp là Jev không thể tự tạo văn bản vì nó không bao giờ phát ra bất kỳ văn bản nào. Nó vẫn có thể quá tự tin vào một đầu vào nằm ngoài phân phối huấn luyện của nó. Hãy đặt ngưỡng trên confidence và kiểm tra trên dữ liệu được gắn nhãn của riêng bạn trước khi bạn tin tưởng một điểm số trong môi trường sản xuất.

Ai tài trợ cho TypeSafe AI? Trang nhóm nói “các nhà đầu tư hàng đầu” và không có gì hơn. Không có trang chính thức nào nêu tên họ hoặc số tiền, vì vậy bất kỳ con số nào bạn đọc ở nơi khác đều chưa được xác minh.