ميتا تضيف فحوصات بالذكاء الاصطناعي لاكتشاف الإعلانات التي توجه إلى مواد إساءة جنسية للأطفال

كشفت الشركة أنها، اعتبارًا من الآن، تستخدم نماذج لغوية واسعة النطاق لتحليل ليس فقط المحتوى البصري للإعلانات، بل أيضًا النصوص التي قد تعمل كـ “إشارة توجيهية” (signposting)، أي الرسائل التي تبدو للوهلة الأولى غير ضارة ولكنها تشير إلى أنشطة غير قانونية أو ضارة على مواقع خارجية. وفقًا لما صرحت به ميتا، فإن هذا النهج يتيح لها التعرف على الحملات الإعلانية التي، رغم امتثالها للسياسات الظاهرية، تعمل كأبواب مدخل لتوجيه المستخدمين إلى مواد استغلال جنسي للقُصّر. تستند هذه النماذج إلى تقنيات تعلم عميق متقدمة، وتستطيع تحليل السياق اللغوي بدقة عالية، مما يساعد على كشف الروابط الخفية بين النصوص والروابط التي تؤدي إلى محتوى غير ملائم. وتؤكد ميتا أن هذه التقنية تُطبق على جميع الإعلانات التي تُنشر على منصاتها العالمية، بما في ذلك فيسبوك وإنستغرام.

كيف تعمل الكشف المستند إلى الذكاء الاصطناعي

تحلل الخوارزميات الجديدة نص الإعلان وتطابقه مع قواعد بيانات تشمل كلمات مفتاحية وأنماط لغوية معروفة بارتباطها باستغلال الأطفال. عندما يكتشف النموذج أي إشارة توجيهية محتملة، ينتقل الفحص إلى فحص الوجهة الفعلية للرابط المضمّن في الإعلان بدلاً من الاكتفاء بتحليل الصورة أو الفيديو المعروض فقط. إذا كان عنوان URL يؤدي إلى موقع يستضيف مواد إساءة جنسية للأطفال، يتم حظر الإعلان على الفور، وتُفرض على الحساب المسؤول إجراءات أمان إضافية، مثل إيقاف مؤقت أو إغلاق دائم حسب شدة المخالفة. تُجرى هذه العملية تلقائيًا وبسرعة، وتُسجل جميع النتائج في سجلات تدقيق داخلية لضمان الشفافية وإمكانية المراجعة لاحقًا.

إجراءات التعزيز والتدقيق الداخلي

إلى جانب الكشف في الوقت الفعلي، أطلقت ميتا عمليات فحص رجعية تعيد زيارة الإعلانات التي نُشرت مسبقًا لتحديد أي محتوى قد فاته الأنظمة السابقة. تصف الشركة أيضًا وجود فريق “red‑team” متخصص يقوم بمحاكاة محاولات التهرب لتحديد تقنيات جديدة يستخدمها المخالفون قبل أن تنتشر على نطاق واسع. يهدف هذا الإجراء إلى إبقاء الفلاتر محدثة ومواجهة الاستراتيجيات المتطورة التي يتبعها المجرمون. يعمل فريق red‑team بالتعاون مع خبراء أمن المعلومات لتصميم سيناريوهات اختبار معقدة، ويُقَيمُ النتائج بانتظام لتحديث قواعد البيانات وتدريب النماذج على التعرف على الأنماط الجديدة.

كما عززت ميتا مراقبة الحسابات التي تُنشئ ملفات شخصية جديدة بعد أن تم حظرها سابقًا. عندما يتم التعرف على نمط سلوك مريب، تقوم المنصة تلقائيًا بتعطيل الحساب وتُقفل الروابط الخارجية المرتبطة بعملية الإعلان الاحتيالية. تُكمل هذه الإجراءات حجبًا تلقائيًا لعناوين URL التي تم تحديدها مسبقًا كمصادر لمواد إساءة جنسية للأطفال، مما يمنع وصول المستخدمين إلى تلك المواقع. تُطبق هذه السياسات على جميع المناطق الجغرافية التي تعمل فيها ميتا، وتُحدَّث باستمرار بناءً على تقارير المخاطر الجديدة.

النتائج المعلنة والقيود

وفقًا للأرقام التي نشرتها ميتا، تم “معالجة” ما مجموعه 5.3 مليون قطعة من محتوى استغلال جنسي للأطفال على فيسبوك وإنستغرام في الهند بين يناير ويونيو 2026، حيث تم اكتشاف أكثر من 98 % منها قبل أن يبلغ عنها المستخدمون. وعلى الصعيد العالمي، ارتفع إجمالي المحتوى “المعالج” إلى 33.2 مليون عنصر خلال نفس الفترة، رغم أن الشركة لم تكشف عن عدد القطع التي أُزيلت فعليًا مقارنةً بالإجراءات الأخرى مثل الحجب أو الإبلاغ. تشير هذه الأرقام إلى تحسن ملحوظ في قدرة المنصة على اكتشاف المحتوى الضار مبكرًا، لكنها لا توضح مدى فعالية الإجراءات المتبقية بعد الاكتشاف.

تُقر ميتا أن مؤشر الـ 98 % يقتصر فقط على المحتوى الذي تم العثور عليه قبل أي إبلاغ من المستخدمين، ولا يُظهر كمية المواد التي لا تزال غير مكتشفة. بالإضافة إلى ذلك، لم تكشف الشركة عن عدد الإعلانات المخفية التي تم الموافقة عليها أو تحديدها أو إزالتها خلال الفحص الرجعي، مما يترك فجوة مهمة في تقييم الفعالية العامة للأدوات الجديدة. هذا النقص في الشفافية يجعل من الصعب على الجهات المستقلة أو الباحثين تقييم مدى نجاح النظام في الحد من انتشار محتوى الاستغلال.

جاءت هذه المبادرة بعد تحقيق أجرته هيئة الإذاعة البريطانية (BBC) كشف عن إعلانات مدفوعة على إنستغرام في الهند تروّج لمواد إساءة جنسية للأطفال وتوجه المستخدمين إلى قنوات خارجية. ردًا على ذلك، فتحت السلطات الهندية عدة إجراءات قانونية، شاركت فيها وزارة الإلكترونيات وتكنولوجيا المعلومات (MeitY)، واللجنة الوطنية لحماية حقوق الطفل، واللجنة الوطنية لحقوق الإنسان. تُظهر هذه التحقيقات مدى تعقيد الشبكات الإعلانية التي تستغل المنصات الاجتماعية لتوجيه الضحايا المحتملين إلى محتوى غير قانوني.

أعلنت ميتا أنها ستقوم الآن بالإبلاغ عن حالات الأمان المتعلقة بالأطفال مباشرةً إلى البوابة الوطنية للإبلاغ عن الجرائم الإلكترونية في الهند، بدلاً من تحويلها إلى المركز الوطني للضحايا الإلكتروني (NCMEC) في الولايات المتحدة. تهدف هذه الخطوة إلى تحسين التعاون مع السلطات المحلية وتسريع الاستجابة للحوادث المتعلقة باستغلال الأطفال. تُعَدُّ هذه الخطوة جزءًا من استراتيجية ميتا لتعزيز الشفافية وتسهيل تبادل المعلومات مع الجهات المختصة في كل دولة.

على الرغم من أن الشركة قدمت تفاصيل حول الوظائف الجديدة والأرقام العالمية للإجراءات المتخذة، لم تقم أي جهة تدقيق مستقلة بالتحقق من دقة الخوارزميات أو معدلات الإيجابيات الكاذبة أو السلبيات الكاذبة. وبالتالي، تظل الادعاءات مجرد تصريحات مؤسسية دون توثيق خارجي يثبت الفعالية الفعلية للتدابير المطبقة. هذا النقص في التحقق المستقل يثير تساؤلات حول مدى موثوقية النتائج ومدى قدرتها على الحد من الأضرار الفعلية.

بالنسبة للمعلنين والمنصات، يعني التغيير العملي أن الإعلانات التي تبدو في ظاهرها غير ضارة قد تخضع للمراجعة كلما أشارت وجهة الرابط أو سجل الحساب أو السلوك المحيط إلى محاولة توجيه المستخدمين إلى محتوى غير قانوني. وهذا يتطلب مراقبة أكثر صرامة وإمكانية تدخل بشري قبل النشر، مما يعزز مسؤولية المعلنين عن ضمان عدم استخدام إعلاناتهم كواجهة لاستغلال الأطفال. تشجع ميتا كذلك المعلنين على مراجعة سياساتهم الداخلية وتدريب فرقهم على التعرف على الإشارات الخفية التي قد تُستغل في حملات إعلانية غير مشروعة.