أفضل بدائل جيف مفتوحة المصدر

Jev هو نموذج System One الخاص بـ TypeSafe AI: ترسل إليه حالة البرنامج بالإضافة إلى أسئلة مكتوبة، ويُعيد قرارات باحتمالات معايرة بدلاً من النثر. (هذا هو نموذج Jev، وليس FaZe Jev المذيع أو لقاح JEV.) إنه أوزان مغلقة، وواجهة برمجة تطبيقات فقط، ويتم تقديمه على POST https://api.typesafe.ai/v1/systemone باسم jev-latest. لذا، فإن "تشغيل Jev محليًا" لا يمكن أن يعني Jev نفسه. بل يعني مجموعة من المشاريع المجتمعية التي عمرها أيام، بقيادة OpenJev، والتي تعيد إنتاج الفكرة بنماذج مفتوحة. إذا كنت جديدًا على النموذج نفسه، اقرأ ما هو Jev أولاً؛ هذه المقالة تغطي التقليدات.

إنها جولة سريعة وفحص للواقع: ما يدعيه كل ملف README، ومدى وفائه، وما هي متطلبات الأجهزة، وكيفية اختبار أي منها عبر نقطة نهاية HTTP محلية في Apidog بالطريقة التي تختبر بها واجهة برمجة تطبيقات TypeSafe. لم يتم قياس أداء أي منها بواسطة طرف ثالث، ولا يوجد أي منها من TypeSafe.

زر

ماذا يمكن أن يعني "تشغيل Jev محليًا"

يصف منشور إطلاق TypeSafe نموذجًا تم تدريبه باستخدام التعلم المعزز للقرارات المعايرة (RLCD)، وثلاث بدائيات (noul، choice، score)، ووقت استجابة من 70 مللي ثانية إلى 500 مللي ثانية، و0.042 دولار لكل مليون رمز إدخال مع إخراج مجاني. هذه هي ادعاءات البائع؛ وصفة التدريب غير منشورة. يقول أحد منتديات المجتمع إن Jev تم تدريبه على بيانات اصطناعية بنسبة 100%. تعامل مع ذلك كإشاعة غير مؤكدة.

نظرًا لأن الوصفة سرية، فإن كل "Jev مفتوح" يتخذ أحد الاختصارات الثلاثة التالية:

قراءة لوجيتات (logits) من نموذج دردشة مجمد. طرح سؤال متعدد الخيارات على Qwen صغير، تخطي الإنشاء، وتحويل لوجيتات الرمز التالي لكل خيار إلى احتمال. يقوم OpenJev و mini-jev بذلك.
تدريب مُسجل صغير من البداية. نموذج وظيفته الوحيدة هي تسجيل N خيارًا مقابل سياق في تمريرة واحدة. هذا هو jevlike.
تغيير محرك فك التشفير. الاحتفاظ بالنموذج الأساسي، وتقييم كل حقل بالتوازي على المرشحين المقيدين. هذا هو محرك Apple Silicon على Hugging Face وطلب سحب vLLM.

لا أحد منهم يعيد إنتاج RLCD. هذا هو العنوان الصادق.

OpenJev: لوجيتات من Qwen مجمد على بطاقة 3090 واحدة

يسأل OpenJev "هل يمكننا تشغيل شيء مثل Jev على بطاقة 3090 في المنزل؟" ويجيب بحزمة بايثون مرخصة من MIT. ملف README حذر: فهو "يعيد إنتاج نمط الواجهة هذا بنماذج مفتوحة؛ ولا يعيد إنتاج نموذج Jev غير المعلن أو تدريبه."

صورة توضيحية لـ OpenJev تعرض شاشة كود ونتائج مقارنة

الآلية هي تمريرة أمامية واحدة تقرأ لوجيتات الخيار المعلنة، دون أخذ عينة من رمز الإجابة. تصل المعايير والخيارات مع كل طلب، لذلك لا يتم ضبط أي شيء لكل مهمة. النموذج الأساسي هو Qwen3.5-4B.

الأرقام التي يبلغ عنها ملف README على بطاقة RTX 3090 واحدة مع Qwen3.5-4B:

لوجيتات مكتوبة مباشرة: 1.023 ثانية لـ 21 زوجًا من الاحتمالات، مقابل 5.332 ثانية لمصفوفة JSON ذاتية التراجع، أي أبطأ بـ 5.21 مرة.
على مجموعة فرعية من TypeSafe مكونة من 102 صفًا، توافق نمطي 0.845، مقابل 0.883 لـ Jev المنشور.

المدخلات هي JSONL تحتوي على id و state و question ومصفوفة options من {id, description}؛ والمخرجات هي احتمال لكل خيار. لا يوجد خادم HTTP في المستودع: يمكنك تشغيل openjev-score --mode direct --model Qwen/Qwen3.5-4B --input examples/decisions.jsonl، أو تجربة عرض WebGPU على openjev.com. الأجهزة: CUDA ووحدة معالجة رسوميات تحمل نموذجًا بحجم 4B في BF16.

ما يتركه: لا يوجد بدائي noul أو score، والاحتمالات هي دالة softmax على لوجيتات الخيارات، وليست ثقة معايرة بـ RLCD.

mini-jev: دراسة مسجلة مسبقًا مع خادم محلي

mini-jev هي تجربة أكثر منها منتج. شعارها: "كيف تبدو واجهة على غرار Jev على Qwen3-4B مجمد، قراءة لوجيتات حرف الخيار بدلاً من إنشاء JSON." تقوم بتشغيل Qwen3-4B-Instruct-2507 على تصنيف النوايا CLINC150 وتقارن إنشاء JSON المقيد بالقواعد النحوية مقابل قراءة لوجيت حرف الخيار.

مخطط شريطي يوضح مقارنة أداء دقة سرعة JSON مقابل الحروف

النتيجة، من 6,750 ملاحظة مقترنة: دقة JSON 0.909، دقة الحروف 0.907، فرق قدره -0.22 نقطة ضمن فاصل ثقة 95% يبلغ [-1.44، +1.04]. كانت قراءة الحروف أسرع بحوالي 4 مرات على نصوص مكونة من 32 رمزًا.

يربط ملف README مصطلحاته بمصطلحات TypeSafe: choice و noul هما "ما تقيسه هذه الدراسة على نموذج مجمد، كالحرف المقروء والقيمة المنطقية؛ لم يتم قياس score (مقياس مرتب)." ويسمي هذا "تطابقًا للمصطلحات، وليس إعادة إنتاج لنموذجهم"، ويضيف التحذير الذي يجب على كل مشروع هنا نسخه: "مشاركات الحروف هي ترتيب بفجوة ثقة، وليست احتمالات معايرة."

يشحن عرض HTTP تجريبي. يقوم MINIJEV_DEVICE=mps uv run python demo/server.py بتقديم 127.0.0.1:8765 مع POST /run، الذي يستقبل schema و text ويعيد letter و p و gap و answer لكل حقل. يحتاج حوالي 8.5 جيجابايت من الذاكرة على Apple Silicon أو وحدة معالجة رسوميات NVIDIA. مرخص بـ MIT، 11 نجمة وقت الكتابة.

jevlike: مسجل خيارات من البداية

يتم مشاركة jevlike كـ "نموذج Jev-like معاد هندسته". يقول ملف README بخلاف ذلك: "لم تنشر TypeSafe تصميمها. هذا المستودع هو نموذج بدء مستقل بنفس شكل الإدخال والإخراج." يضيف المؤلفون أنهم "لم يظهروا جودة متساوية مع Jev أو يعيدوا إنتاج طريقة تدريب TypeSafe الخاصة."

التصميم صغير. يحصل كل خيار على متجه استعلام يتتبع رموز السياق؛ تقوم عملية ضرب نقطي مشتركة بتسجيل كل زوج؛ وتحول دالة softmax النتائج إلى احتمالات. المشفر الافتراضي هو تضمينات بايت تم تعلمها من الصفر، مع مشفر Hugging Face مجمد اختياري.

الأرقام المبلغ عنها: حوالي 98% على القوائم الاصطناعية، 26% على Wikispeedia باستخدام مشفر Qwen2.5-0.5B مجمد مقابل تحكم عشوائي بنسبة 8%، و تمريرة واحدة "أسرع بحوالي 100 مرة من مفكك تشفير صغير مجبر على كتابة 400 رمز." يعمل على وحدة المعالجة المركزية (CPU)، أو MPS، أو CUDA. مرخص بـ MIT، 764 نجمة.

الدقة هي الأقل في المجموعة. تقوم بتدريبه على تسمياتك الخاصة، لذا فهو مصنف قمت ببنائه، وليس نموذج قرار يمكنك تزويده بمعايير عشوائية. لا يوجد noul أو score، ولا يوجد ادعاء بالمعايرة، ولا يوجد خادم HTTP.

فك التشفير المقيد المتوازي: محرك Apple Silicon

يتم تداول مساحة Hugging Face parallel-constrained-decoding كـ "بديل مفتوح المصدر لـ Jev من Typesafe.ai"، لكن ملف README الخاص به لا يذكر Jev، أو TypeSafe، أو RLCD أبدًا. عنوانه هو "فك التشفير المقيد المتوازي لـ Apple Silicon": محرك استنتاج MLX للاستخراج المنظم عبر mlx-community/Qwen2.5-1.5B-Instruct-4bit، مع أي مفكك تشفير mlx-lm قابل للتبديل.

الطريقة: تعبئة السياق مرة واحدة في ذاكرة تخزين مؤقت KV، وبثه عبر كل حقل مخطط، وتقييم معرفات الرموز المرشحة الصالحة فقط لكل حقل، وتطبيق softmax على هذه المجموعة، وتجميع JSON في الكود. يبلغ ملف README عن M4 Max: فرز الاحتيال ذو 4 حقول يستغرق 420 مللي ثانية بشكل ذاتي التراجع مقابل 75 مللي ثانية بالتوازي (5.6x)، وفرز الدعم ذو 28 حقلًا يستغرق 1,900 مللي ثانية مقابل 270 مللي ثانية (7.0x). ويدعي صحة المخطط بنسبة 100%، وهو ما يتبع من عدم أخذ عينات نص حر أبدًا.

يقدم HTTP على المنفذ 8000 عبر uvicorn، ويعيد parsed_json بالإضافة إلى field_telemetry مع ثقة لكل حقل. المتطلبات: جهاز Mac M1 أو أحدث، macOS 14+. ترخيص Apache 2.0. لا توجد أرقام دقة، فقط زمن الاستجابة، و"معاير" هنا تعني softmax دقيقًا على المرشحين، وليس معايرة مدربة.

طلب سحب vLLM رقم 57250: وضع يشبه Jev لـ DiffusionGemma

طلب سحب vLLM رقم 57250، الذي تم فتحه في 16 سبتمبر ولا يزال مفتوحًا، يحول DiffusionGemma إلى ما يسميه المؤلف "آلة اختيار متعدد معايرة": لوحة مرجحة بفتحات إجابة ذات رمز واحد، يتم قراءتها عند حد للخطوات، مع ثقة من لوغاريتمات الاحتمال والإنتروبيا. تتضمن حقول vllm_xargs الجديدة diffusion_seed_canvas و diffusion_max_steps و diffusion_read_only، ويقوم مثال structured_server.py بترجمة مخطط إلى لوحة.

يبلغ طلب السحب عن 8.7 طلبًا في الثانية على قراءات لوحة واحدة، 54 عند تزامن 32 طريقة، ودقة تقريبية تبلغ 90% على مجموعة بيانات تصنيف اللغة. أشار أحد المراجعين إلى اختبار شرط السباق المفقود وتوليد سلاسل رسائل غير محدودة كعقبات. حتى يتم دمجها، إنها تصميم للقراءة، وليس تصميمًا للنشر.

ما مدى دقة كل منها؟

المشروع	الأساس	الأساسيات	المعايرة	خادم HTTP	الأجهزة
OpenJev	Qwen3.5-4B، مجمد	choice	softmax على لوجيتات الخيارات	لا (CLI + عرض متصفح)	فئة RTX 3090، CUDA
mini-jev	Qwen3-4B-Instruct، مجمد	choice, noul	ترتيب بفجوة	نعم، منفذ 8765	ذاكرة 8.5 جيجابايت، MPS أو CUDA
jevlike	مشفر تقوم بتدريبه	choice	لا يوجد ادعاء	لا	CPU، MPS، أو CUDA
محرك MLX	Qwen2.5-1.5B-Instruct-4bit	حقول المخطط	softmax على المرشحين	نعم، منفذ 8000	Apple Silicon، macOS 14+
طلب سحب vLLM	DiffusionGemma	نعم/لا، choice، مقياس	لوغاريتمات الاحتمال بالإضافة إلى الإنتروبيا	نعم، متوافق مع OpenAI	وحدة معالجة رسوميات فئة vLLM، لم يتم دمجها

كل صف هو نموذج مجمد أو مدرب ذاتيًا يقرأ اللوجيتات. هذا يمنحك شكل Jev: إجابات مكتوبة، احتمال لكل خيار، تمريرة واحدة للأمام. لا يمنحك الادعاء المركزي لـ Jev بأن RLCD يجعل هذه الاحتمالات صادقة. مقارنة OpenJev البالغة 0.845 مقابل 0.883 هي المقارنة الوحيدة بالنموذج الحقيقي، وهي تقييم المؤلف نفسه. يتطابق الإعداد مع دليلنا لـ تشغيل Kimi K3 محليًا: أوزان، وحدة معالجة رسوميات أو جهاز Mac من سلسلة M، منفذ محلي.

اختبر أي منها في Apidog مثل واجهة برمجة تطبيقات Jev الحقيقية

الهدف من إعادة الإنتاج المحلية هو استبدالها بواجهة برمجة التطبيقات الحقيقية دون إعادة كتابة التكامل الخاص بك، لذلك يجب أن ترسل اختباراتك نفس النص إلى كليهما. لا يتحدث أي من هذه المشاريع مخطط Jev {model, state, questions} بشكل طبيعي. ضع محولًا رفيعًا أمام أي واحد تقوم بتشغيله: تطبيق FastAPI من 40 سطرًا يقبل نص Jev، ويستدعي الأداة، ويعيد {"answers": {...}} مع مفاتيح choice و probabilities و confidence. الآن يرى Apidog عقدًا واحدًا.

لقطة شاشة لـ Apidog تعرض إعداد بيئتين لاختبار Jev

بيئتان، مجموعة واحدة من الطلبات. قم بإنشاء Local reproduction مع BASE_URL = http://localhost:8765 وبدون مفتاح، و TypeSafe API مع BASE_URL = https://api.typesafe.ai بالإضافة إلى TYPESAFE_API_KEY في الحقل المحلي حتى لا تتم مزامنته أبدًا مع أعضاء الفريق (قواعد النطاق هنا). يستخدم كل طلب {{BASE_URL}}/v1/systemone و Bearer {{TYPESAFE_API_KEY}}؛ يتجاهل الخادم المحلي الرأس.

أرسل نص Jev. POST {{BASE_URL}}/v1/systemone مع الحالة والأسئلة التي سترسلها إلى jev-latest:

{
  "model": "jev-latest",
  "state": "My card was charged twice for one order and I need this fixed today.",
  "questions": {
    "department": { "type": "choice", "instructions": "Which team handles this?",
      "criteria": { "billing": "charges and refunds", "technical": "bugs", "shipping": "delivery" } },
    "wants_refund": { "type": "noul", "instructions": "Is the customer asking for money back?" }
  }
}

تأكد من حقول الاحتمالية. أضف تأكيدات ما بعد المعالجة: answers.department.choice يساوي billing؛ answers.department.probabilities.billing أكبر من 0.7؛ answers.wants_refund.noul أكبر من 0.8. اقلب القائمة المنسدلة للبيئة وقم بتشغيل نفس السيناريو مقابل TypeSafe. الفجوة بين التشغيلين هي رقم دقتك، وهو أكثر قيمة من أي جدول README.

احفظ التشغيل المحلي كنموذج وهمي (mock) بحيث يتم بناء الواجهة الأمامية (frontend) مقابل كائن answers مستقر بوقت GPU صفر. قم بتنزيل Apidog لإعداده؛ الخطة المجانية تغطي أربعة مستخدمين. نفس النمط لنماذج الدردشة موجود في اختبار نماذج اللغات الكبيرة المحلية كواجهات برمجة تطبيقات.

الأسئلة الشائعة

هل OpenJev هو نفسه Jev؟

لا. يقرأ OpenJev لوجيتات الخيارات من Qwen3.5-4B مجمد ويذكر ذلك في ملف README الخاص به. Jev هو نموذج مغلق قامت TypeSafe بتدريبه باستخدام RLCD. يبلغ OpenJev عن توافق نمطي بنسبة 0.845 مع Jev على مجموعة فرعية من 102 صف، وفقًا لتقييم مؤلفه.

أي واحد يجب أن أجربه أولاً؟

mini-jev إذا كنت تستخدم جهاز Mac وترغب في نقطة نهاية HTTP اليوم؛ OpenJev إذا كان لديك وحدة معالجة رسوميات NVIDIA وترغب في أقرب مقارنة منشورة لـ Jev. اختر jevlike فقط إذا كان لديك بيانات مصنفة للتدريب عليها.

هل يمكنني الحصول على احتمالات معايرة من نموذج مجمد؟

ليس بمجرد قراءة اللوجيتات. فدالة softmax على رموز الخيارات هي ترتيب بفجوة، كما يذكر ملف README الخاص بـ mini-jev. تتطلب المعايرة تدريبًا أو خطوة لاحقة مثل قياس درجة الحرارة على مجموعتك المصنفة، والتي لا يوفرها أي من هذه المشاريع.

هل تشغيل أحد هذه النماذج أرخص من الدفع لـ TypeSafe؟

بسعر 0.042 دولار لكل مليون رمز إدخال مع إخراج مجاني، يحتل Jev بالفعل أدنى مستوى بين مزودي واجهات برمجة تطبيقات نماذج اللغات الكبيرة الأرخص. تفوز الحلول المحلية بالخصوصية والاستخدام دون اتصال بالإنترنت، وليس بالتكلفة، بمجرد احتساب وقت وحدة معالجة الرسوميات.

إلى أين يقودك هذا

يثبت OpenJev، mini-jev، jevlike، محرك MLX، وطلب سحب vLLM جميعًا فكرة واحدة: لا يحتاج القرار إلى نص مُولَّد، وقراءة اللوجيتات في تمريرة واحدة أسرع. لا أحد يثبت أنه معاير، ولا أحد منهم هو Jev. قم بتشغيل أحدهم خلف محول يشبه Jev، واحتفظ ببيئة ثانية موجهة إلى TypeSafe، ودع تأكيداتك تحدد مدى التباعد بينهما.

زر