تشغيل نماذج الذكاء الاصطناعي المتقدمة محليًا يمنح المطورين وهواة التكنولوجيا التحكم والخصوصية وخيارات التخصيص غير المسبوقة. إذا كنت حريصًا على استغلال قوة الذكاء الاصطناعي المتطور على جهازك الخاص، فإن Mistral Small 3.1، بالتعاون مع Ollama، يوفر حلاً ممتازًا. Mistral Small 3.1 هو نموذج لغة متطور تم تطويره بواسطة Mistral AI، ويتميز بـ 24 مليار معلمة وأداء من الدرجة الأولى في فئته. في الوقت نفسه، تُبسّط Ollama عملية نشر مثل هذه النماذج اللغوية الكبيرة (LLMs) محليًا، مما يجعلها متاحة حتى لأولئك الذين لديهم إعدادات تقنية بسيطة. في هذا الدليل الشامل، سنأخذك في كل خطوة لتشغيل Mistral Small 3.1 على نظامك باستخدام Ollama. بالإضافة إلى ذلك، سنوضح لك كيفية تعزيز تجربتك من خلال دمج Apidog، وهي أداة قوية لتطوير واختبار واجهات برمجة التطبيقات.
لماذا تذهب محليًا؟ من خلال تشغيل Mistral Small 3.1 على جهازك، تحتفظ بخصوصية بياناتك، وتتجنب تكاليف السحابة، وتكتسب المرونة لتعديل النموذج حسب احتياجاتك سواء كان ذلك لبناء دردشة آلية، أو توليد كود، أو معالجة نص متعدد اللغات.
لماذا تختار Mistral Small 3.1 و Ollama؟
قبل الانتقال إلى الإعداد، دعنا نستكشف لماذا تمثل Mistral Small 3.1 و Ollama ثنائيًا مثيرًا للإعجاب. Mistral Small 3.1، المتاح تحت ترخيص Apache 2.0 مفتوح المصدر، يقدم أداءً استثنائيًا لحجمه. من خلال نافذة سياق بحجم 128 ألف توكن، يتعامل مع المحادثات الطويلة أو الوثائق بسهولة. كما أنه يدعم لغات متعددة ومدخلات متعددة الوسائط، مما يجعله متعدد الاستخدامات لمهام مثل توليد النصوص، والترجمة، أو حتى تحليل تسميات الصور. يحب المطورون كفاءته، حيث ينافس النماذج الأكبر بينما يعمل على أجهزة ذات مواصفات متواضعة نسبيًا.
بينما، Ollama هي أداة خفيفة الوزن مصممة لتشغيل LLMs محليًا. إنها تبسط الكثير من التعقيدات مثل إدارة التبعيات أو إعداد وحدة معالجة الرسوميات بحيث يمكنك التركيز على استخدام النموذج بدلاً من مواجهة صعوبات الإعداد. معًا، تمكنك Mistral Small 3.1 و Ollama من نشر نموذج ذكاء اصطناعي عالي الأداء دون الاعتماد على خدمات السحابة.
تثبيت Ollama على جهازك
تُبسط Ollama تشغيل LLMs محليًا، وتثبيتها مباشرة. اتبع هذه الخطوات لتثبيتها وتشغيلها:
قم بتثبيت Ollama: قم بتحميلها من الموقع الرسمي لـ Ollama واتباع التعليمات.
تحقق من التثبيت: تأكد من تثبيت Ollama بشكل صحيح من خلال التحقق من إصدارها:
ollama --version
ينبغي أن ترى رقم إصدار (مثل 0.1.x). إذا لم يكن كذلك، تحقق من أن مسار PATH يتضمن ملف التشغيل الخاص بـ Ollama.
بعد تثبيت Ollama، أنت على بعد خطوة واحدة من تشغيل Mistral Small 3.1. بعد ذلك، تحتاج إلى الحصول على النموذج نفسه.
تنزيل أوزان نموذج Mistral Small 3.1
افتح طرفيتك واكتب:
ollama pull cnjack/mistral-samll-3.1
هذا سيقوم بتنزيل أوزان النموذج إلى التخزين المحلي الخاص بك (نسخة مجتمعية من mistral small 3.1). الرابط: https://ollama.com/cnjack/mistral-samll-3.1
اعتمادًا على سرعة الإنترنت لديك، قد يستغرق ذلك 15-30 دقيقة نظرًا لحجم الملف الذي يتجاوز 50 جيجابايت.
تحقق من التنزيل: شغّل ollama list مرة أخرى. ينبغي أن ترى mistral-small-3.1 مدرجًا، مما يدل على أنه جاهز للاستخدام.
الآن بعد أن حصلت على النموذج، دعنا نحمله في Ollama ونبدأ في استكشاف قدراته.
تحميل Mistral Small 3.1 في Ollama
يعد تحميل النموذج لتهيئته للإفادة. تقوم Ollama بمعالجة الأعباء الثقيلة، لذا فإن هذه الخطوة سريعة:
- تحميل النموذج: نفذ هذا الأمر لتحميل Mistral Small 3.1 في الذاكرة:
ollama run cnjack/mistral-samll-3.1:24b-it-q4_K_Sعند تشغيل هذا لأول مرة، تقوم Ollama بتهيئة النموذج، مما قد يستغرق بضع دقائق اعتمادًا على الأجهزة الخاصة بك. تكون عمليات التشغيل لاحقًا أسرع.
- اختبره: بمجرد تحميله، تدخل Ollama في واجهة تفاعلية. اكتب استفسار بسيط:
مرحبًا، كيف يعمل Mistral Small 3.1؟
يستجيب النموذج مباشرة في الطرفية، مما يظهر قدرته على توليد النصوص.
في هذه النقطة، أصبح Mistral Small 3.1 يعمل. ومع ذلك، لفتح كامل إمكانياته، خاصة بالنسبة للوصول البرمجي، دعنا نستكشف كيفية التفاعل معه بشكل أكبر.
التفاعل مع Mistral Small 3.1 محليًا
يمكنك التفاعل مع Mistral Small 3.1 بطريقتين رئيسيتين: الاستدلال المباشر عبر سطر الأوامر أو عبر خادم API. كلا الطريقتين تستفيدان من مرونة Ollama، وسنربط Apidog مع طريقة API.
الطريقة 1: الاستدلال المباشر عبر سطر الأوامر
لإجراء اختبارات سريعة أو عمليات توليد لمرة واحدة، استخدم أمر run الخاص بـ Ollama مع الموجه:
ollama run cnjack/mistral-samll-3.1:24b-it-q4_K_S "اكتب قصيدة قصيرة عن الذكاء الاصطناعي."
يعالج النموذج المدخلات وينتج استجابة، مثل:
عقول اصطناعية في دوائر عميقة،
تتعلم الأنماط بينما ننام،
أصوات من الشيفرة، تتحدث بلطف،
مستقبل مضيء، أفكارهم نحتفظ بها.
تناسب هذه الطريقة التجارب لكنها تفتقر إلى القابلية للتوسع. لتطبيقات أكثر قوة، قم بإعداد خادم API.
الطريقة 2: تشغيل Mistral Small 3.1 كخادم API
لدمج Mistral Small 3.1 في المشاريع أو اختبارها بشكل منهجي، قم بتشغيلها كخادم API محلي:
- بدء الخادم: قم بتشغيل Ollama في وضع الخادم:
ollama serve
هذا سيبدأ واجهة REST API على http://localhost:11434 (المنفذ الافتراضي لـ Ollama). احتفظ بهذا مفتوحًا في طرفية واحدة.
- اختبر API: في طرفية جديدة، استخدم
curlلإرسال طلب:
curl http://localhost:11434/api/generate -d '{"model": "mistral-small-3.1", "prompt": "اشرح الذكاء الاصطناعي في جملة واحدة."}'
قد تبدو الاستجابة كالتالي:
{
"response": "الذكاء الاصطناعي هو محاكاة الذكاء البشري بواسطة الآلات، مما يمكنها من التعلم والتفكير وأداء المهام بشكل مستقل."
}
فتح إعداد API هذا الأبواب أمام تفاعلات متقدمة، وهنا يتألق Apidog.
استخدام Apidog للتفاعل مع واجهة برمجة التطبيقات الخاصة بـ Mistral Small 3.1
يبسط Apidog اختبار واجهات برمجة التطبيقات وتطويرها، مما يجعله مثاليًا للاستعلام عن خادم Mistral Small 3.1 المحلي. إليك كيفية إعداده:
تثبيت Apidog:
- انتقل إلى الموقع الرسمي لـ Apidog وحمّل التطبيق المجاني على سطح المكتب لنظام التشغيل الخاص بك.
- قم بتثبيته وفقًا للتعليمات الموجودة على الشاشة.
إنشاء مشروع جديد:
- افتح Apidog وانقر على "مشروع جديد".
- سمّه باسم مثل "Mistral Small 3.1 Local API".
أضف طلب API:
- انقر على "طلب جديد" واضبط الطريقة على
POST. - أدخل نقطة النهاية:
http://localhost:11434/api/generate.
تكوين جسم الطلب:
- انتقل إلى علامة التبويب "الجسم"، اختر "JSON"، وأدخل:
{
"model": "mistral-small-3.1",
"prompt": "توليد سكربت بايثون لطباعة 'مرحبًا، AI!'",
"stream": false
}
إرسال ومراجعة:
- اضغط على "إرسال". يعرض Apidog الاستجابة، مثل:
{
"response": "print('مرحبًا، AI!')"
}
- استخدم أدوات Apidog لتعديل المعلمات، حفظ الطلبات، أو تصحيح الأخطاء.
تتيح لك واجهة Apidog السهلة استخدام تجارب مع الموجهات، ومراقبة أوقات الاستجابة، وحتى أتمتة الاختبارات، مما يجعلها مثالية للمطورين الذين يبنون على Mistral Small 3.1.
استكشاف المشكلات الشائعة
يمكن أن يواجه تشغيل نموذج بخصائص 24 مليار مشكلة. إليك الحلول للمشاكل المتكررة:
- أخطاء نفاد الذاكرة:
- الحل: تأكد من أنك تمتلك ذاكرة وصول عشوائي 32 جيجابايت أو أكثر و GPU بذاكرة كافية (مثل 24 جيجابايت على RTX 4090). قلل من حجم الدفعة أو طول السياق إذا لزم الأمر.
- النموذج غير موجود:
- الحل: تحقق من أن التنزيل مكتمل (
ollama list) وأن اسم النموذج مطابق تمامًا. - فشل بدء خادم API:
- الحل: تحقق مما إذا كان المنفذ 11434 مستخدمًا (
netstat -tuln | grep 11434) وقم بتحريره أو تغيير منفذ Ollama عبر التكوين. - الأداء البطيء:
- الحل: قم بترقية وحدة المعالجة الرسومية الخاصة بك أو انقل المهام الأقل أهمية إلى المعالج.
مع هذه النصائح، يمكنك حل معظم القضايا والاستمرار في تشغيل Mistral Small 3.1 بسلاسة.
تحسين وتوسيع إعدادك
الآن بعد أن يعمل Mistral Small 3.1 محليًا، اعتبر تحسينه:
- التخصيص: استخدم مجموعات بيانات خاصة بمجالك (مثل النصوص القانونية أو الكود) لتخصيص مخرجات النموذج.
- التوسع: قم بتشغيل عدة نماذج من Ollama لأغراض أو مهام مختلفة.
- التكامل: قم بربط API بالتطبيقات الويبية، والروبوتات، أو سير العمل باستخدام Apidog لتجربة نقاط النهاية.
تفتح هذه الخطوات الإمكانيات الكاملة لـ Mistral Small 3.1، مما يكيفه مع مشاريعك الفريدة.
الخاتمة
تشغيل Mistral Small 3.1 محليًا باستخدام Ollama هو تغيير قواعد اللعبة للمطورين وهواة الذكاء الاصطناعي. لقد أرسلنك هذه الدليل عبر العملية بدءًا من جمع المتطلبات اللازمة إلى تثبيت Ollama، تنزيل النموذج، والتفاعل معه عبر سطر الأوامر أو API. من خلال إضافة Apidog إلى المزيج، ستبسط اختبار واجهات برمجة التطبيقات وتفتح إمكانيات جديدة للتكامل. مع 24 مليار معلمة، نافذة سياق بحجم 128 ألف توكن، ومرونة مفتوحة المصدر، يوفر Mistral Small 3.1 قوة هائلة في متناول يديك. ابدأ التجربة اليوم، وشاهد كيف يمكن أن تحول هذه الثنائية مشاريعك.