حمِّل صورة إلى أي "كاشف صور بالذكاء الاصطناعي" تقريبًا اليوم وستحصل على حكم واثق: 94% بشري، أو 88% ذكاء اصطناعي. يبدو الرقم موثوقًا. تشعر وكأنه قياس. إنه أقرب إلى تخمين يرتدي معطف مختبر. الكشف اللاحق، وهي ممارسة تدريب مصنف لاكتشاف الصور التي تم إنشاؤها بالذكاء الاصطناعي بعد وقوعها، لديه مشكلة هيكلية لا يمكن لأي قدر من الهندسة إزالتها بالكامل. الشيء الذي يحاول اكتشافه يتغير باستمرار، والأشخاص الذين ينشئون الصور لديهم كل الحوافز للبقاء في المقدمة.
يتجاوز هذا الأمر مجرد الفضول بكثير. أصبحت سلامة المحتوى شيئًا تدمجه الفرق بشكل متزايد مباشرة في منتجاتها: نقاط نهاية للتحميل ترفض الصور المعدلة، ومسارات إشراف تحدد الوسائط الاصطناعية، وفحوصات الامتثال التي تحتاج إلى مسار تدقيق يمكن الدفاع عنه.
ملخص سريع
إن الكشف اللاحق عن الصور بالذكاء الاصطناعي، وهو المصنف الذي يقيم الصورة المحملة على أنها "ذكاء اصطناعي" أو "بشري"، غير موثوق به كخط دفاع وحيد. إنه يخسر أمام سباق التسلح، ولا يعمم بشكل جيد على المولدات غير المرئية، وينتج إيجابيات خاطئة تعاقب الأشخاص الحقيقيين بالخطأ، وينهار تحت قص بسيط أو إعادة ضغط. الأساس الأقوى هو المصدر: بيانات وصفية أصلية موقعة (وثائق محتوى C2PA) وعلامات مائية مضمنة وقت الإنشاء (Google SynthID)، مدعومة بدفاع عميق يتعامل مع أي مصنف فردي كإشارة ضعيفة واحدة بين عدة إشارات. لا يزال للكشف استخدامات محدودة، ولكن يجب البناء على المصدر.
لماذا يستمر الكشف اللاحق في الفشل
الكشف ليس عديم الفائدة. يمكن لمصنف جيد أن يميز الصور الاصطناعية الواضحة، أو يفرز قائمة الإشراف، أو يكتشف التزييفات سهلة الإنشاء. المشكلة تكمن في التعامل مع نتائجه كحكم نهائي. إليك سبب انهيار هذا النهج.
سباق التسلح لا نهاية له
يتم تدريب كل كاشف صور بالذكاء الاصطناعي على أمثلة من الصور التي تم إنشاؤها. يتعلم البصمات الإحصائية التي تتركها مجموعة معينة من المولدات: تشوهات التردد، وخصائص توزيع الألوان، وأنماط الضوضاء الدالة. في اللحظة التي يتم فيها إطلاق هذا الكاشف، فإنه يصف الماضي. الجيل التالي من النماذج، والتعديلات مفتوحة المصدر التي تتبعها في غضون أسابيع، يتم تحسينها صراحة لإنتاج صور تبدو أكثر واقعية، مما يعني إنتاج صور تحتوي على عدد أقل من تلك البصمات بالضبط.
المصنفات لا تعمم على نماذج لم ترها من قبل
يميل الكاشف المدرب على صور من عائلة واحدة من المولدات إلى الأداء الضعيف على عائلة لم يُدرب عليها من قبل. يمكن لنموذج تم ضبطه للتعرف على مخرجات GAN القديمة أن يفشل في التعرف على صور نماذج الانتشار. يمكن لنموذج تم تدريبه على نقاط فحص الانتشار للعام الماضي أن يتعثر أمام نقاط هذا العام. لقد تعلم المصنف بصمات مجموعته التدريبية، والمولد الذي لم يره من قبل يترك بصمات مختلفة، أو يخفيها جيدًا بما يكفي بحيث لا يتم إطلاق الإشارة المتعلمة بعد الآن.
هذه هي فجوة التعميم، وهي قاسية في الممارسة العملية لأن نماذج الصور الجديدة تظهر باستمرار. بحلول الوقت الذي يجمع فيه بائع الكاشف مجموعة بيانات، ويدربها، ويتحقق منها، ويشحنها، تكون العديد من المولدات القادرة التي لم تكن ضمن بيانات التدريب قد أصبحت بالفعل في أيدي الجمهور. تم قياس الدقة التي تراها في معيار البائع مقابل النماذج التي اختبروها. قد تأتي الصورة التي يحملها المستخدم غدًا من نموذج لم يتم تقييمه من قبل أي شخص. تواصل الاختبارات المستقلة العثور على فجوة حقيقية بين الدقة المعلن عنها، والتي يُزعم أحيانًا أنها تتجاوز 98%، والأداء المقاس في العالم الحقيقي، والذي يكون أقل بكثير بمجرد تضمين المولدات غير المرئية والصور المعدلة.
الإيجابيات الخاطئة تصنف العمل البشري الحقيقي بالخطأ
يرتكب الكاشف نوعين من الأخطاء. السلبية الخاطئة تفشل في اكتشاف محتوى الذكاء الاصطناعي. مزعج، لكن الصورة الاصطناعية تتسلل وكأن لا يوجد كاشف على الإطلاق. أما الإيجابية الخاطئة فأسوأ: إنها تصنف العمل البشري الأصيل على أنه من صنع الآلة. أنت الآن لا تفشل في اكتشاف التزييف؛ بل تتهم شخصًا بريئًا بشكل فعال.
يأتي أوضح دليل من عالم كاشفات النصوص بالذكاء الاصطناعي المجاور، حيث تسببت الإيجابيات الخاطئة في ضرر موثق. فقد تم تصنيف مقالات أصلية لطلاب على أنها مكتوبة بالذكاء الاصطناعي وواجهوا اتهامات بالغش؛ وقد غطت التقارير حالات في الجامعات حيث تم تقييم عمل الطالب الخاص، مع مسودات لإثبات ذلك، على أنه تم إنشاؤه آليًا. وجدت دراسة لجامعة ستانفورد استُشهد بها على نطاق واسع أن كاشفات النصوص بالذكاء الاصطناعي كانت متحيزة بشدة ضد الكتاب غير الناطقين بالإنجليزية الأصليين، حيث صنفت أعمالهم الأصلية بمعدل أعلى بكثير من الكتاب الأصليين. يعتمد الكشف عن الصور على نفس الأساس الإحصائي. عندما تقوم بدمج كاشف في مسار التحميل وترفض تلقائيًا أي شيء يصنفه على أنه "ذكاء اصطناعي"، فإن كل إيجابية خاطئة هي مصور حقيقي أو مصمم أو عميل يُقال له إن عمله الأصيل مزيف. عند أي حجم ذي معنى، فإن معدل إيجابيات خاطئة بنسبة قليلة يعني آلاف الاتهامات الخاطئة.
بالنسبة للمطورين، الدرس واضح: درجة الكشف ليست حقيقة يمكنك التصرف بناءً عليها تلقائيًا دون قبول أضرار جانبية. إذا كنت ترغب في فهم الحد الأقصى للدقة العملية قبل البناء، فإن دليلنا حول كيفية التحقق مما إذا كانت الصورة تم إنشاؤها بواسطة الذكاء الاصطناعي يشرح ما يمكن لهذه الأدوات أن تخبرك به وما لا يمكنها.
قص بسيط أو إعادة ضغط يهزم العديد من الكاشفات
تعتمد الكاشفات على أنماط إحصائية دقيقة على مستوى البكسل. هذه الأنماط هشة. أعد حفظ الصورة كصيغة JPEG مضغوطة أكثر قليلاً وستعيد عملية الضغط كتابة التفاصيل عالية التردد التي كان الكاشف يقرأها بالضبط. قم بقص 10% من الحواف، غير حجمها، أضف ضوضاء خفيفة، التقط لقطة شاشة لها، مررها عبر مسار معالجة منصة اجتماعية، وستتدهور الإشارة التي اعتمد عليها المصنف أو تختفي.
هذا ليس هجومًا غريبًا. هذا ما يفعله المشاركة العادية بالصورة. تظهر الأبحاث حول الهجمات العدائية ضد كاشفات الصور التي تم إنشاؤها بالذكاء الاصطناعي أن المعالجة اللاحقة اليومية مثل ضغط JPEG، والتشويش، والضوضاء يمكن أن تكون كافية لقلب مخرجات الكاشف، وأن الاضطرابات العدائية المتعمدة تهزم الكاشفات بمعدلات نجاح عالية مع ترك الصورة دون تغيير بصري. الصور المضغوطة ومنخفضة الدقة يصعب تصنيفها باستمرار أكثر من الصور الأصلية النظيفة. لذا، يعمل الكاشف بشكل أفضل على ملف أصلي مباشر من المولد، وأسوأ على الصور الفوضوية، المعاد ضغطها، المأخوذة لقطات شاشة، التي تشكل معظم ما ينتقل بالفعل عبر الإنترنت. هذا هو الاتجاه الخاطئ. الحالات الصعبة هي الحالات الشائعة.
الدلائل البصرية تستمر في الاختفاء
لفترة من الوقت، كان بإمكانك تمييز صور الذكاء الاصطناعي بالعين المجردة: أيادٍ بستة أصابع، نصوص مشوشة على اللافتات، خلفيات ذائبة، مجوهرات مدمجة بالجلد. لا تزال الكثير من النصائح تقول "ابحث عن الأيادي الغريبة". هذه النصيحة تتلاشى في الوقت الفعلي. كل جيل من النماذج يصلح العيوب الواضحة للجيل السابق. تحسنت الأيادي. تحسن النص. تحسنت الانعكاسات والإضاءة.
تطارد كل من العين البشرية والمصنفات التي تعلمت نفس العيوب هدفًا متقلصًا. طريقة الكشف المرتبطة بأخطاء بصرية محددة لها تاريخ انتهاء صلاحية مدمج، لأن الأخطاء هي عيوب ويتم إصلاح العيوب. المراهنة على استراتيجية التحقق الخاصة بك على العيوب هي مراهنة على توقف نماذج الصور عن التحسن. وهي لا تتوقف.
التكلفة الحقيقية لارتكاب هذا الخطأ
من المغري التعامل مع عدم دقة الكاشف كمسألة جودة ثانوية، كرقم يمكن تعديله. في منتج حقيقي، إنها نقطة ضعف قانونية.
تخيل سوقًا للصور الفوتوغرافية التي ترفض تلقائيًا التحميلات التي تُصنف على أنها صور من إنتاج الذكاء الاصطناعي. كل إيجابية خاطئة تعني مُساهمًا يدفع مقابل خدمته، تم رفض صورته الأصلية، ولديه الآن تذكرة دعم، وطلب استرداد، وسبب للمغادرة. تخيل سير عمل في الأخبار أو التأمين يثق بكاشف لتأكيد أن الصورة "حقيقية". كل سلبية خاطئة هي صورة اصطناعية تم ختمها بأنها أصلية بواسطة أداتك الخاصة، وهو ما يمكن القول إنه أسوأ من عدم وجود أي فحص على الإطلاق، لأن علامة الصح الخضراء خلقت ثقة زائفة. تخيل منصة توظيف أو أكاديمية تصنف محفظة أعمال على أنها من صنع الذكاء الاصطناعي. لقد وجهت الآن اتهامًا لشخص معين بناءً على نتيجة احتمالية تتقلب تحت إعادة الضغط.
هناك تكلفة أكثر هدوءًا أيضًا. الكاشف الذي يخطئ غالبًا، ولكنه يُقدم كسلطة، يدرب فريقك ومستخدميك إما على الثقة المفرطة به أو تجاهله. وكلا الأمرين ليس جيدًا. التأطير الصادق هو أن مخرجات الكاشف هي دليل، وليست إثباتًا؛ دليل ضعيف بحد ذاته، وأضعف في اللحظة التي يتم فيها تعديل الصورة أو تأتي من نموذج لم يره الكاشف من قبل. أي نظام يتعامل مع نتيجة مصنف واحد كحكم نهائي لديه نقطة فشل واحدة، ويفشل بصمت.
بالنسبة للمطورين، الدرس واضح: درجة الكشف ليست حقيقة يمكنك التصرف بناءً عليها تلقائيًا دون قبول أضرار جانبية. إذا كنت ترغب في فهم الحد الأقصى للدقة العملية قبل البناء، فإن دليلنا حول كيفية التحقق مما إذا كانت الصورة تم إنشاؤها بواسطة الذكاء الاصطناعي يشرح ما يمكن لهذه الأدوات أن تخبرك به وما لا يمكنها.
قص بسيط أو إعادة ضغط يهزم العديد من الكاشفات
تعتمد الكاشفات على أنماط إحصائية دقيقة على مستوى البكسل. هذه الأنماط هشة. أعد حفظ الصورة كصيغة JPEG مضغوطة أكثر قليلاً وستعيد عملية الضغط كتابة التفاصيل عالية التردد التي كان الكاشف يقرأها بالضبط. قم بقص 10% من الحواف، غير حجمها، أضف ضوضاء خفيفة، التقط لقطة شاشة لها، مررها عبر مسار معالجة منصة اجتماعية، وستتدهور الإشارة التي اعتمد عليها المصنف أو تختفي.
ماذا نستخدم بدلاً من ذلك: الأسبقية للمصدر
إذا كان الكشف يسأل "هل تبدو هذه الصورة مولدة؟"، فإن المصدر يسأل سؤالًا أفضل: "ما هو التاريخ الموثق لهذه الصورة، وهل يمكنني التحقق منه بواسطة التشفير؟" بدلاً من التخمين رجوعًا من البكسلات، يرفق المصدر معلومات قابلة للتحقق إلى الأمام، في لحظة الإنشاء أو التعديل. إنه يحول النموذج من الاستدلال الجنائي إلى سجلات يمكنك التحقق منها.
وثائق محتوى C2PA: بيانات وصفية أصلية موقعة
يُعد تحالف أصل المحتوى وموثوقيته (C2PA) معيارًا مفتوحًا، مدعومًا من قبل Adobe، ومايكروسوفت، وجوجل، وهيئة الإذاعة البريطانية، ومصنعي الكاميرات، وغيرهم، لإرفاق مصدر غير قابل للتلاعب بالوسائط. عمليًا، تنتقل "وثيقة" C2PA مع الملف وتسجل من أين أتت، وما هي الأداة التي صنعتها أو عدلتها، وما الذي تم تغييره، وكل ذلك موقع رقميًا. إذا قام أي شخص بتعديل الصورة دون تحديث الوثيقة، فلن يكون التوقيع صالحًا بعد الآن ويكون التلاعب واضحًا. يرى المستخدمون النهائيون هذا على أنه وثائق المحتوى، وهو علامة "CR" صغيرة تتوسع لتظهر تاريخ الصورة.
الميزة هي الاتجاه. أنت لا تستنتج المصدر من العيوب التي سيزيلها النموذج التالي؛ بل تقرأ بيانًا موقعًا تم إصداره عند إنتاج المحتوى. تحسين الانتشار لا يضعف التوقيع التشفيري. هذا أساس أكثر متانة بكثير من المصنف.
المصدر ليس سحرًا، وادعاء خلاف ذلك سيكون فشلًا بحد ذاته. نظام C2PA يعتمد على الاشتراك الاختياري: فهو لا يساعد إلا عندما تقوم أداة الإنشاء وأدوات التحرير بكتابة البيان بالفعل. ويمكن تجريد البيانات الوصفية. تقوم معظم المنصات الاجتماعية بإعادة ضغط التحميلات عبر شبكة توصيل المحتوى (CDN) الخاصة بها، وهذا الضغط الروتيني يدمر الحاوية التي تحمل بيان C2PA. لوحظ أن إنستغرام وX ولينكد إن وتطبيقات المراسلة تزيل جميعها الاعتمادات المضمنة عند التحميل، أحيانًا لأسباب خصوصية مشروعة، نظرًا لأن نفس إعادة المعالجة تزيل بيانات EXIF GPS. لذا، فإن المحتوى الذي يحتاج إلى المصدر أكثر، وهو الصورة التي تنتشر بسرعة، غالبًا ما يكون المحتوى الأكثر عرضة لفقده أثناء النقل. هذه فجوة حقيقية. وهذا أيضًا هو السبب في أن المصدر هو الأساس وليس المبنى بأكمله.
SynthID: وضع العلامات المائية وقت الإنشاء
بينما يمكن فصل بيانات C2PA الوصفية، فإن العلامة المائية تعيش داخل البكسلات. يدمج نظام SynthID من Google DeepMind إشارة غير مرئية وقابلة للاكتشاف آليًا في الصورة أثناء إنشائها. وهي مصممة لتكون غير محسوسة للبشر ولتتحمل التحويلات الشائعة، بما في ذلك لقطات الشاشة، والقص، وتعديلات الألوان، وإعادة الضغط، وهي العمليات الدقيقة التي تزيل بيانات C2PA الوصفية وتعطل المصنفات اللاحقة.
تعد العلامات المائية وبيانات المصدر الوصفية مكملة لبعضها البعض وليست متنافسة. تحمل C2PA سياقًا غنيًا ومفصلًا وموقعًا حيث تبقى. تحمل SynthID إشارة أصغر وأكثر متانة تستمر خلال التعامل الخشن للتوزيع في العالم الحقيقي. عند قراءتهما معًا، تتدهوران بلطف: إذا فقدت البيانات الوصفية، فقد تتمكن من استعادة العلامة المائية. لدى SynthID نفس قيود الاشتراك الاختياري مثل C2PA، حيث إنها لا تشير إلا إلى الصور من النماذج التي تدمجها، ولكن بالنسبة للمحتوى من مولد مشارك، فإنها توفر فحصًا أكثر متانة بكثير من اكتشاف العيوب.
التقاط موقّع ومسارات موثقة
يمكن للمصدر أن يبدأ قبل سؤال الذكاء الاصطناعي. تقوم بعض الكاميرات وتطبيقات التقاط الصور بالهاتف الآن بتوقيع الصور لحظة التقاطها، مما يؤسس سلسلة من الحضانة من المستشعر إلى الملف. أدوات التحرير التي تحترم C2PA تقوم بتحديث البيان مع انتقال الصورة عبر سير العمل، بحيث يبقى التاريخ مستمرًا بدلاً من إعادة التعيين.
بالنسبة لأنظمتك الخاصة، تنطبق الفكرة نفسها. إذا كانت خدمتك تنشئ أو تحول أو تستوعب صورًا، يمكنك توقيع ما تنتجه وتسجيل ما تستقبله: من قام بتحميله، ومتى، ومن أي حساب موثق، وعبر أي نقطة نهاية. لن تتحكم فيما يحدث بعد مغادرة الصورة لك، ولكن يمكنك جعل الجزء الخاص بك من المسار قابلاً للتحقق. هذا تحكم حقيقي وقابل للتطبيق، وهو نوع السلوك الذي تصممه وتتحقق منه كعقود واجهة برمجة تطبيقات. بناء نقاط النهاية هذه بعناية يتداخل أيضًا مع النظافة الجيدة العادية؛ نفس العناية التي قد تطبقها على إبعاد مفاتيح API عن كود العميل والإضافات تنتمي حول أي مفتاح توقيع يعتمد عليه مسار المصدر الخاص بك، لأن مفتاح التوقيع المسرب يحول "التحقق" إلى "يبدو متحققًا منه".
الصناعة تتجه نحو هذا النهج
هذا ليس موقفًا هامشيًا. في مايو 2026، أعلنت OpenAI أنها ستتبنى C2PA و SynthID لمصدر المحتوى: تحمل الصور من ChatGPT و Codex و OpenAI API الآن بيانات وصفية C2PA بالإضافة إلى علامة مائية SynthID، وأطلقت OpenAI أداة تحقق تسمى Verify تفحص الصورة المحملة بحثًا عن إشارات المصدر هذه. الجزء الجدير بالملاحظة هو البنية. لم تستجب شركة الذكاء الاصطناعي الأكثر مراقبة لمشكلة الكشف عن طريق شحن مصنف لاحق أفضل وادعاء حل المشكلة. بل طبقت بيانات وصفية موقعة وعلامة مائية متينة، وبنت التحقق فوق تلك الإشارات. هذا تفكير يركز على المصدر أولاً، ودفاع عميق، وهو الاتجاه الذي يتحرك فيه المجال.
الدفاع المتعمق: اجمع الإشارات الضعيفة، ولا تثق بأي منها بمفردها
الاستنتاج الصادق ليس "المصدر يحل كل شيء". بل هو أنه لا يوجد مرجع موثوق واحد لسؤال "هل هذه الصورة من الذكاء الاصطناعي". الاستراتيجية العملية هي الدفاع المتعمق: جمع عدة إشارات مستقلة، غير كاملة بشكل فردي، ودمجها، بدلاً من الرهان على إشارة واحدة.
يبدو خط الأنابيب متعدد الطبقات كالتالي تقريبًا:
- فحص المصدر (الأقوى، عند وجوده). ابحث عن وثائق محتوى C2PA صالحة. البيان الموثق دليل عالي الجودة. غيابه ليس دليلاً على أي شيء، حيث يتم تجريد البيانات الوصفية أثناء النقل.
- فحص العلامة المائية. اختبر وجود علامة مائية SynthID أو ما يماثلها. متينة خلال التعديلات، لذا غالبًا ما تبقى حيث لا تبقى البيانات الوصفية. مرة أخرى، الغياب غير حاسم: ليس كل مولد يشارك.
- المصنف كإشارة ضعيفة. استخدم كاشفًا إذا أردت، ولكن تعامل مع نتيجته كمدخل ذي وزن منخفض، وليس كحكم نهائي أبدًا. إنه الأكثر فائدة للفرز والحالات الواضحة، والأقل فائدة للأحكام الواضحة على الصور المعدلة أو النماذج غير المرئية.
- إشارات السياق والحساب. سجل التحميل، عمر الحساب وسمعته، بيانات الجهاز والالتقاط الوصفية، تناسق الوقت والموقع، ما إذا كانت نفس الصورة تظهر في مكان آخر. لا يوجد منها حاسم بمفرده؛ لكنها معًا توضح الصورة.
- المراجعة البشرية للقرارات عالية المخاطر. أي شيء يحمل عواقب حقيقية لشخص، رفض، اتهام، دفع، إزالة، يجب أن يضع إنسانًا في حلقة العمل بدلاً من التصرف تلقائيًا بناءً على مخرجات النموذج.
التحول في طريقة التفكير هو بيت القصيد. توقف عن البحث عن الكاشف الوحيد الذي يكون دقيقًا أخيرًا. افترض أن كل إشارة جزئية، وصمم النظام بحيث لا يكون الفشل الفردي كارثيًا، واجعل النظام يتدهور بلطف بدلاً من أن يتحول من "موثوق به" إلى "خطأ" عند إعادة الضغط.
إليكم مقارنة بين النهجين.
| البعد | الكشف اللاحق (المصنف) | المصدر والعلامات المائية |
|---|---|---|
| السؤال الأساسي | "هل تبدو هذه الصورة مولدة بالذكاء الاصطناعي؟" | "ما هو التاريخ الموثق لهذه الصورة والموقع عليها؟" |
| الموثوقية بمرور الوقت | تتلاشى؛ كل مولد جديد يضعفها | مستقرة؛ لا يضعف التوقيع التشفيري بتحسن النماذج |
| تعميم على نماذج جديدة | ضعيف؛ فجوة التعميم هيكلية | نعم؛ لا يعتمد على التعرف على مولد معين |
| من يجب أن يتعاون | لا أحد، وهي ميزته الحقيقية الوحيدة | يجب أن تقوم أدوات الإنشاء والتحرير بكتابة الشهادات أو العلامات المائية |
| ما الذي يهزمه | قص، إعادة ضغط، لقطة شاشة، ضوضاء، تعديل عدائي، أو أي نموذج غير مرئي | إزالة البيانات الوصفية عند التحميل (C2PA)؛ إزالة العلامة المائية أصعب ولكنها ليست مستحيلة |
| خطر الإيجابيات الخاطئة | عالٍ؛ يصنف العمل البشري الأصيل بالخطأ | منخفض؛ يتم الإبلاغ عن الشهادة المفقودة أو غير الصالحة على أنها "غير معروفة"، وليست "مزيفة" |
| نمط الفشل | واثق وخاطئ | غير حاسم وصادق ("لم يتم العثور على مصدر") |
| أفضل دور | فرز وإشارة ضعيفة داخل نظام متعدد الطبقات | الطبقة الأساسية والموثوقة عند وجودها |
| مسار الصناعة | تناقص الاعتماد كحل مستقل | اعتماد نشط (C2PA, SynthID, خطوة OpenAI لعام 2026) |
اقرأ الصف الأخير معًا. مكانة الكشف الصادقة هي الفرز ومدخل منخفض الوزن. المصدر هو الطبقة التي تبني عليها. لا شيء منهما كامل، وهذا هو بالضبط السبب في تشغيل كليهما، بالإضافة إلى السياق والمراجعة البشرية.
ضوابط العمليات والسياسات
الأدوات هي نصف الحل فقط. النصف الآخر هو كيف يتصرف فريقك ومنتجك حيال عدم اليقين.
- صمم لـ "غير معروف" كحالة رئيسية. تفرض معظم الأنظمة ثنائية، حقيقي أو مزيف. التحقق الحقيقي له ثلاث نتائج: تم التحقق، تم التناقض، وغير معروف. معظم الصور على الإنترنت المفتوح ستصنف على أنها "غير معروفة"، ويجب أن يتعامل واجهة المستخدم الخاصة بك، واستجابات واجهة برمجة التطبيقات، وسياساتك مع ذلك كمعلومات طبيعية بدلاً من خطأ يجب التستر عليه.
- طابق الاستجابة مع المخاطر. يمكن لسير العمل منخفض المخاطر أن يتحمل فحصًا آليًا سريعًا. أما القرارات عالية المخاطر، مثل الدفع، والنشر، والحظر، والاتهام، والإزالة، فيجب أن تتطلب المصدر بالإضافة إلى مراجعة بشرية. لا تسمح لهيكلية واحدة أن تخدم كليهما.
- كن شفافًا بشأن الثقة. إذا عرضت نتيجة للمستخدمين، فأظهر على ماذا تستند. "تم التحقق من وثائق المحتوى" هو بيان مختلف عن "مصنفنا يقدر احتمال الذكاء الاصطناعي بنسبة 70%"، ويستحق المستخدمون معرفة أي منهما ينظرون إليه. دمجهم يخلق ثقة زائفة، وهو الخطيئة الأصلية التي جعلت الكشف المجرد خطيرًا.
- اكتب المصدر في مخرجاتك الخاصة. إذا كانت منصتك تنشئ أو تعدل الصور، أرفق وثائق المحتوى والعلامات المائية بما تشحنه. الكشف هو ضريبة يدفعها الجميع في مسار العمل إلى الأبد؛ المصدر هو هدية تقدمها لهم مرة واحدة. كلما زاد عدد المنتجين الذين يفعلون ذلك، زاد اعتماد النظام البيئي بأكمله على السجلات بدلاً من التخمينات.
- خطط لتطور المعايير. تتطور C2PA و SynthID والأدوات مثل Verify من OpenAI. حافظ على طبقة التحقق معيارية (قابلة للتعديل) بحيث يمكنك إضافة مصدر جديد للمصدر أو كاشف علامات مائية دون إعادة بناء كل شيء. التعامل مع فحوصات المصدر كتكاملات واجهة برمجة تطبيقات ذات إصدارات، بنفس الطريقة التي تتعامل بها مع أي اعتماد طرف ثالث، يحافظ على قابليتها للصيانة.
الخلاصة
الكشف اللاحق عن الصور بالذكاء الاصطناعي ليس عملية احتيال، وليس عديم الفائدة. إنه أداة ضيقة يُطلب منها القيام بعمل لا يمكنها القيام به بمفردها بشكل موثوق.
التوصية العملية للمطورين: إذا كنت تضيف فحوصات لسلامة الصور، فابدأ بالمصدر أولاً. تحقق من وثائق C2PA، وابحث عن العلامات المائية، واحتفظ بالكاشف كإشارة للفرز فقط بوزن منخفض، ولا تتصرف تلقائيًا بناءً على نتيجة مصنف لاتخاذ قرارات تؤثر على شخص حقيقي. صمم هذه الفحوصات كعقود واجهة برمجة تطبيقات نظيفة، ذات إصدارات، ومختبرة جيدًا حتى تتمكن من تطويرها مع تطور المعايير.