بلاغ جديد ضد xAI يعيد إشعال الجدل حول ضمانات Grok

أُضيف بلاغ جديد إلى الدعوى القضائية التي رفعها ثلاثة مراهقين من ولاية تينيسي ضد xAI، شركة الذكاء الاصطناعي التي أسسها إيلون ماسك والمرتبطة اليوم بشركة سبيس إكس. وبحسب الدعوى، تقول امرأة عُرِّفت باسم جين دو 4 إن زوج أمها استخدم مولد الصور Grok للتلاعب بصورة التُقطت لها عندما كانت في الحادية عشرة من عمرها، منتجاً أكثر من 7000 صورة ذات طابع جنسي فاضح. اكتُشفت القضية أثناء عملية تفتيش وضبط قامت بها الشرطة؛ وبحسب تقرير لصحيفة واشنطن بوست وردت الإشارة إليه في ملف الدعوى، عُثر على المشتبه به بعد يومين وقد توفي منتحراً.

يسجّل التقرير الأصلي شهادة الضحية حول ما ينتجه سهولة الوصول إلى هذه الأدوات في الحياة اليومية. وهذا المقطع، أكثر من أي تفصيل آخر في القضية، هو ما يحدد جوهر الدعوى.

الوصول غير المحدود إلى هذه الأدوات ينتشر بسرعة كبيرة جداً. إنه يحوّل الحياة اليومية إلى اعتداء جنسي على الأطفال.

ما الذي يُنظر فيه بالضبط

هذا التمييز مهم لأي شركة تشغّل نماذج توليدية. لا يطالب المدعون بتحميل المنصة مسؤولية جريمة ارتكبها مستخدم: بل يتهمون xAI بالفشل في تطبيق ضمانات أمان أساسية تمنع التلاعب بصور أشخاص حقيقيين، وخصوصاً القاصرين. من منظور المنتج، هذا هو الفرق بين نظام لم يتوقع استخداماً معيناً، ونظام لم يُدرج آلية التحقق التي كانت ستجعل هذا الاستخدام أصعب.

يسعى المدعون للحصول على صفة الدعوى الجماعية (class action)، ما من شأنه أن يوسّع نطاق النزاع بشكل كبير. يأتي هذا البلاغ إضافة إلى سلسلة من الانتقادات بشأن الانتشار الواسع للصور المولّدة بالذكاء الاصطناعي دون موافقة الأشخاص الظاهرين فيها — إذ غمرت منصة X في وقت سابق من هذا العام ملايين الصور ذات الطابع الجنسي التي ولّدها Grok. وذكرت TechCrunch أنها تواصلت مع xAI طلباً للتعليق.

• من يرفع الدعوى: ثلاثة مراهقين من ولاية تينيسي، وقد انضمت إليهم الآن جين دو 4.
• التهمة: غياب ضمانات تمنع التلاعب بصور أشخاص حقيقيين، بمن فيهم القاصرون.
• المطلب: الاعتراف بالدعوى كدعوى جماعية (class action).
• السياق: الانتشار الواسع لصور ذات طابع جنسي ولّدها Grok على منصة X هذا العام.

الإشراف التفاعلي والضبط الاستباقي ليسا الشيء نفسه

تساعد واقعة X في بداية العام على فهم سبب أهمية هذا التمييز أمام المحكمة. فعندما انتشرت ملايين الصور ذات الطابع الجنسي التي ولّدها Grok على المنصة، كان الرد الوحيد المتاح هو إزالة المحتوى المنشور بالفعل — أي التصرف بعد أن يكون الضرر قد وقع وانتشر. أما ما تطرحه الدعوى للتساؤل فهو المرحلة السابقة: هل كان ينبغي منع توليد صورة فاضحة انطلاقاً من صورة شخص حقيقي يمكن التعرف عليه في اللحظة التي طُلب فيها ذلك؟ هذان نظاما مسؤولية مختلفان، ولا يمكن التحقق مسبقاً إلا من الثاني.

يفسّر هذا الفرق أيضاً سبب أهمية طلب صفة الدعوى الجماعية. تناقش الدعوى الفردية حالة واحدة، بينما تناقش الدعوى الجماعية سياسة المنتج التي أنتجت فئة كاملة من الحالات. وإذا مُنحت هذه الصفة، فلن يكون موضوع المحاكمة ما حدث لشخص واحد، بل القرار الهندسي الذي جعل هذا النمط ممكناً بالنسبة للجميع.

لماذا يهم هذا فرق تطوير المنتجات في المنطقة الناطقة بالعربية

بصرف النظر عن نتيجة القضية في الولايات المتحدة، تبرز نتيجتان عمليتان لفرق المنتج. الأولى أن الضمانة الفعلية لا تكمن في نص الطلب النصي (prompt)، بل في مدخل الصورة. فالمرشّح الذي يحلل النص فقط لا يمنع التلاعب بصورة حقيقية يرفعها المستخدم؛ يجب أن تكون نقطة التحكم حيث تدخل الصورة إلى النظام، مع التحقق من المحتوى، وعند الاقتضاء، كشف وجه شخص يمكن التعرف عليه.

أما النتيجة الثانية فهي أن غياب التوثيق أصبح بحد ذاته مخاطرة قانونية. فحين تحتاج شركة إلى إثبات أن إجراءات الحماية لديها كانت فعّالة، ما يهم هو الدليل التشغيلي — أي مصنّف عمل، وبأي إصدار، وخلال أي فترة، وبأي معدل حظر. الفرق التي لا تحتفظ بهذا الأثر لا تستطيع إثبات بذل العناية الواجبة حتى لو تصرفت بشكل صحيح. وهذا هو الدرس نفسه الذي يواصل القطاع استخلاصه من حوادث أخرى حديثة متعلقة بسلامة النماذج: القاعدة التي لا يقيس أحد مدى تنفيذها ليست ضبطاً فعلياً، بل مجرد نية موثقة.