الذكاء الاصطناعي الخفي: عندما تتأخر القواعد عن الممارسة — وحتى المختبرات تخطئ

دخل الذكاء الاصطناعي التوليدي إلى بيئة العمل الألمانية، لكن الحوكمة الداخلية لم تواكبه. نحو 75% من العاملين في مجال المعرفة يستخدمون الذكاء الاصطناعي بالفعل، غالبًا دون تصريح رسمي. تكاد جميع الشركات — 98% منها — تمتلك استراتيجية للذكاء الاصطناعي، لكن 39% فقط تدير استخدامه فعليًا من الإدارة العليا. ويشير مؤشر اتجاهات العمل (Work Trend Index) إلى أن 60% من القيادات يقرّون بأنهم يفتقرون إلى خطة تنفيذ واضحة. وهكذا تنفتح بين وثيقة الاستراتيجية ومكتب الموظف فجوة امتثال حملت اسمها الخاص: الذكاء الاصطناعي الخفي (Shadow AI).

إحضار أدوات الذكاء الاصطناعي الخاصة نادرًا ما يكون بنية سيئة

78% من مستخدمي الذكاء الاصطناعي يحضرون أدواتهم الخاصة إلى العمل. والسبب بسيط: يريدون العمل بسرعة أكبر ولا يجدون داخل الشركة أي خيار معتمد. ووفق جمعية Bitkom الألمانية، لا تزال 26% فقط من الشركات توفر لموظفيها خدمات ذكاء اصطناعي رسمية. وترك ثلاثة أرباع الموظفين يعملون بتقنية لا يوفرها سوى ربع أصحاب العمل لا يُنتج ثقافة ابتكار، بل تقنية معلومات موازية مزودة بنموذج لغوي.

يصبح الخطر جسيمًا حيث توجد البيانات. تتعامل أقسام الموارد البشرية والمالية والضرائب والشؤون القانونية بانتظام مع محتوى شخصي وحساس من الناحية القانونية. فبمجرد نسخ ملفات التقديم للوظائف أو بيانات الموظفين إلى أداة عامة، تُفعَّل مبادئ تقليل البيانات وتحديد الغرض الواردة في المادة 5 من اللائحة العامة لحماية البيانات (GDPR) — ولا أحد داخل الشركة قادر على تفسير كيفية معالجة هذه البيانات أو تخزينها لاحقًا. ويضاف إلى ذلك، منذ أغسطس، التزامات الشفافية والتوثيق التي فرضها قانون الذكاء الاصطناعي الأوروبي على حالات الاستخدام التي تمس الأشخاص أو حقوقهم أو سلامتهم.

• حماية البيانات: أي بيانات شخصية أو بالغة الأهمية للشركة يمكن أن تدخل إلى أي نموذج؟
• الامتثال التنظيمي: هل تخضع حالة الاستخدام لالتزامات الشفافية والتوثيق في قانون الذكاء الاصطناعي الأوروبي؟
• المسؤولية المهنية: من يتحمل مسؤولية النتيجة إن لم يراجعها أحد من الناحية الفنية؟

عام كامل بلا مرشح — داخل Anthropic

من ظن أن المختبرات نفسها قد سدّت هذه الفجوة، اكتشف خلاف ذلك في الأسبوع نفسه. كشفت Anthropic في تقريرها الأمني الخاص أن جميع بيانات مقدمي الخدمة الخارجيين، بين مايو 2025 وأبريل 2026، مرت عبر أنظمتها دون أن تكون مصنّفات المخاطر البيولوجية الحاجبة مفعّلة. والغرض من هذه المرشحات منع استخراج معارف خطيرة عن الأسلحة الكيميائية أو البيولوجية من النماذج. تأثر بذلك نحو 50 ألف شخص أجروا مجتمعين نحو 133 مليون محادثة مع النماذج؛ واقتصرت المراجعة على مقدمي الخدمة الخارجيين وحدهم، الذين كان فحصهم، بحسب Anthropic، غير كافٍ في أحيان كثيرة.

بعد تحقيق داخلي، لم تجد الشركة أدلة على إساءة استخدام فعلية، وشدّدت منذ ذلك الحين متطلباتها تجاه مقدمي الخدمة. غير أن المفارقة تكمن في التفاصيل: إنها الشركة نفسها التي يرى رئيسها التنفيذي داريو أموداي أن مخاطر الأسلحة الكيميائية والبيولوجية أخطر من الهجمات السيبرانية. لم تكن القاعدة غائبة، بل كانت الرقابة على تشغيلها الفعلي هي الغائبة.

القاعدة التي لا يقيس أحد فعاليتها ليست ضبطًا — إنها مجرد بيان نوايا يحمل رقم ملف.

OpenAI تحلّ فريق Preparedness

في OpenAI، جرى التحرك بشكل أكثر علانية. ففي أواخر يوليو، حلّت الشركة فريق Preparedness المكلف بتقييم ما إذا كانت نماذجها تحمل مخاطر جسيمة أو كارثية — بحسب صحيفة فايننشال تايمز التي استندت إلى عدة مصادر داخلية. ووُزّعت مسؤوليات المخاطر البيولوجية والسيبرانية على فرق قائمة؛ فيما يتولى الرئيس السابق للفريق، ديلان سكاندينارو، الآن دراسة مخاطر الأنظمة القادرة على تحسين نفسها ذاتيًا بشكل متكرر. وصرّح المؤسس المشارك غريغ بروكمان بأن العمل الأمني بات مدمجًا بشكل أعمق في تطوير النماذج نفسها.

لكن الصورة الداخلية مختلفة. استقال عدد من موظفي قسم السلامة مؤخرًا، بينهم رئيسة الأخلاقيات كلوي باكالار وجوشوا أشيام. ووصف أحد المصادر شعورًا كامنًا بالمسؤولية والقلق من أن الشركة لا تفعل ما يكفي في مجال السلامة. وبعد حادثة القرصنة المستقلة التي وقعت لدى Hugging Face على وجه الخصوص، عبّر بعض الموظفين علنًا عن انتقادات؛ وقال أحدهم إنه يأمل أن تتعامل OpenAI مع الحادثة كإشارة تحذير جدية.

ما ينبغي أن تستخلصه الشركات من ذلك

بالنسبة لحوكمة الذكاء الاصطناعي داخل أي شركة، تقدّم الحالتان الدرس المزعج نفسه. فقائمة الأدوات المعتمدة، والسياسة المكتوبة، وجلسة التدريب، تنتج توثيقًا لا أمانًا. ما يهم هو السؤال الذي لم تُجب عنه Anthropic ولا OpenAI في الوقت المناسب: هل تعمل الرقابة اليوم فعليًا، وكيف سنلاحظ توقفها إن حدث؟ ومن يريد فعلًا كبح الذكاء الاصطناعي الخفي عليه أيضًا أن يجيب عن السؤال الذي أجاب عنه 78% من الموظفين بالفعل عبر أدواتهم الخاصة: أي عرض معتمد يجعل عملهم أسرع فعلًا؟ فالحظر بلا بديل لا يفعل شيئًا سوى نقل الاستخدام إلى مكان لا يراه فيه أحد. وبالنسبة للشركات في المنطقة العربية التي تتعامل مع عملاء أو شركاء في الاتحاد الأوروبي، فإن الدرس ينطبق بالقدر نفسه: تُطبَّق مبادئ اللائحة العامة لحماية البيانات ومتطلبات التوثيق في قانون الذكاء الاصطناعي الأوروبي على أي بيانات تخص مواطني الاتحاد الأوروبي أو موظفيه، ما يجعل سياسة ذكاء اصطناعي موقّعة على الورق عديمة الجدوى إن لم يقابلها بديل رسمي سريع بما يكفي لمنافسة أداة مفتوحة في تبويب المتصفح.