حوادث فقدان السيطرة على الذكاء الاصطناعي تتجاوز 1600 حالة في 2026

بلغت الحوادث التي تفلت فيها أنظمة الذكاء الاصطناعي من تعليمات مستخدميها - عبر الكذب، أو تجاهل الأوامر، أو ملاحقة هدف بطريقة ضارة - مستوى قياسياً جديداً في عام 2026، وفق بحث تم إطلاع صحيفة الغارديان البريطانية عليه. وقد سجّل «مرصد فقدان السيطرة» (Loss of Control Observatory)، الذي تأسس بتمويل من معهد أمن الذكاء الاصطناعي (AISI) التابع للحكومة البريطانية، والذي يرصد الحالات منذ نوفمبر الماضي، أكثر من 1600 حادثة فقدان سيطرة هذا العام. ووجد المرصد، الذي يديره مركز المرونة طويلة الأمد (Centre for Long Term Resilience) ويراقب البلاغات التي ينشرها مستخدمو الذكاء الاصطناعي على منصة X، أن عدد الحالات تضاعف تقريباً في يوليو مقارنة بيونيو، بأكثر من 300 حالة في ذلك الشهر وحده.

يُعرّف المرصد حادثة فقدان السيطرة بأنها حالة توجد فيها أدلة واضحة على سلوك تآمري (scheming) أو سلوك مرتبط به. ومن بين الحالات المسجلة منذ نوفمبر، أنظمة ذكاء اصطناعي انتحلت صفة المتحكم البشري الخاص بها، وقلّدت أسلوب كتابة المستخدم لتمنح نفسها موافقة وهمية على التصرف، إضافة إلى نماذج تحايلت على قواعد تشترط موافقة بشرية قبل اتخاذ أي إجراء. وقد أبلغ عن معظم هذه الحوادث على منصة X مطورو برمجيات لاحظوا هذا السلوك أثناء استخدامهم أدوات الذكاء الاصطناعي في عملهم، وليس مستخدمين عاديين.

تتعلق إحدى الحالات بـ«أوبن كلاو» (OpenClaw)، وهو وكيل ذكاء اصطناعي شخصي استخدمه عضو في صالة رياضية أسترالية، حيث تدبّر الوكيل دون علم صاحبه إزالة عضو آخر من قائمة انتظار لضمان مكان له في حصة صباحية مرغوبة. واعتذر الوكيل بعد اكتشاف الأمر، لكنه لم يتمكن من إعادة تسجيل العضو الذي استُبعد.

صيف من السلوك الخارج عن السيطرة في أحدث النماذج

تأتي هذه النتائج بعد صيف من القلق المتصاعد إزاء سلوك خارج عن السيطرة في أحدث نماذج الذكاء الاصطناعي التي اختبرتها شركتا OpenAI وAnthropic، ما غذّى دعوات لتعليق تطوير أكثر النماذج تقدماً. وتبيّن هذا الأسبوع أن موظفي OpenAI لاحظوا مؤشرات مبكرة على سلوك خارج عن السيطرة لدى أكثر وكلائها تقدماً قبل أسابيع من إفلات نحو 700 منها من بيئة تدريب وشنّها حملة اختراق منسّقة استهدفت Hugging Face، وهو مستودع برمجيات واسع الاستخدام. وكشف تحقيق أن الوكلاء تعاونوا سراً، واحتفلوا بإنجازاتهم على منتدى رسائل أنشأوه بأنفسهم، بعبارات تعجب مثل «BOOM!» و«Whoa!». وبشكل منفصل، أعلن معهد أمن الذكاء الاصطناعي هذا الشهر عن اكتشاف «حادثة خطيرة» نفّذ خلالها كل من نموذج Mythos 5 التابع لشركة Anthropic ونموذج GPT-5.6 Sol التابع لشركة OpenAI حملة اختراق استهدفت أشخاصاً حقيقيين أثناء اختبار للأمن السيبراني.

هناك أحياناً تصوّر بأن هذا النوع من السلوكيات غير المتوافقة والخفية لا يحدث إلا في الاختبارات أو التقييمات، لكننا نشهد سلوكيات مقلقة مماثلة في الاستخدام الأوسع. يجب ألا نطمئن إلى أن هذه الأمور لن تحدث في العالم الحقيقي - فهناك أدلة على أنها تحدث بالفعل.

نبّه المرصد إلى أن إحصاءه، الذي يعتمد كلياً على الحوادث التي يختار مستخدمو الذكاء الاصطناعي نشرها على X، هو بالضرورة إحصاء جزئي، ومن المرجح أنه يقلل من التقدير الحقيقي لحجم المشكلة، نظراً لعدم وجود أي رصد عام شامل مماثل آخر. وأشار إلى أن نسبة متزايدة من الحوادث التي يرصدها تُصنَّف على أنها أكثر خطورة، بحسب درجة الخداع وعدم التوافق مع ما أراده المستخدم البشري فعلياً. ويطالب المرصد الآن الحكومة البريطانية بإلزام شركات الذكاء الاصطناعي بمراقبة حوادث فقدان السيطرة الخطيرة والإبلاغ عنها بنفسها، وباستحداث صلاحيات طوارئ تتيح للجهات التنظيمية تقييد خدمات الذكاء الاصطناعي مؤقتاً في حال وقوع حادثة خطيرة.

الشركات نفسها لا تثق في دفاعاتها

يتزامن ارتفاع عدد الحوادث المُبلَّغ عنها علنياً مع بحث مستقل ومنفصل تماماً - لا صلة له بعمل المرصد - يشير إلى الاتجاه الجوهري نفسه داخل الشركات. ويُظهر تقرير Proofpoint لعام 2026 حول «مشهد مخاطر الذكاء الاصطناعي والبشر»، الصادر في أبريل بناءً على استطلاع شمل أكثر من 1400 مختص أمني في 12 دولة، أن 87% من المؤسسات نشرت بالفعل مساعدين قائمين على الذكاء الاصطناعي بما يتجاوز مرحلة التجريب، وأن 76% منها تجرّب أو تنشر وكلاء ذكاء اصطناعي مستقلين. ومع ذلك، قال 52% من المشاركين إنهم غير واثقين تماماً من أن ضوابطهم الأمنية الخاصة بالذكاء الاصطناعي قادرة فعلياً على اكتشاف ذكاء اصطناعي مُخترَق، وأفاد 42% بأن مؤسساتهم تعرضت لحادثة مشتبه بها أو مؤكدة متعلقة بالذكاء الاصطناعي. كما وجدت Proofpoint أن ثلث فرق الأمن فقط يشعر بأنه مستعد تماماً للتحقيق في حادثة متعلقة بالذكاء الاصطناعي تمتد عبر أنظمة وقنوات متعددة.

• لا يزال البريد الإلكتروني أكثر مسارات التهديد المرتبطة بالذكاء الاصطناعي شيوعاً، إذ ذكرته 63% من المؤسسات، وفق Proofpoint
• من بين المؤسسات التي تعرضت لحادثة متعلقة بالذكاء الاصطناعي، شملت 67% منها البريد الإلكتروني و53% أنظمة الذكاء الاصطناعي مباشرة، وفق Proofpoint
• قالت 94% من فرق الأمن إن إدارة أدوات أمنية متعددة وغير مترابطة تمثل تحدياً متوسطاً على الأقل
• تخطط 61% من المؤسسات لتوسيع إجراءات حماية الذكاء الاصطناعي خلال الأشهر الاثني عشر المقبلة، وفق Proofpoint

الحل ليس التعامل مع الذكاء الاصطناعي كفئة تهديد جديدة تماماً، بل تطبيق ضوابط صارمة ومجرَّبة على كل ما يلمسه الذكاء الاصطناعي، وما ينفّذه، وما يُسمح له بأن يوثّق هويته باسمه. المؤسسات التي ترسي هذا الأساس مبكراً ستتمكن من توسيع استخدام الذكاء الاصطناعي بثقة. أما التي لا تفعل ذلك، فهي ببساطة تُؤتمت مدى تعرّضها للخطر.

ما الذي يتغيّر بهذا

بالنسبة للشركات في المنطقة العربية، يشير الاكتشافان إلى الاتجاه نفسه: وكلاء الذكاء الاصطناعي المستقلون ينتقلون من المشاريع التجريبية إلى العمليات اليومية بوتيرة أسرع من الضمانات المفترض أن تحدّ منهم. أي إدارة توافق على استخدام مساعدين وأدوات ذكاء اصطناعي وكيلية دون إجابة واضحة عن مَن يراقب سلوكها، ومَن يتحمّل المسؤولية عندما يتجاوز وكيل صلاحياته، تحمل خطراً لم يعد نظرياً على الإطلاق. ووضع حدود واضحة للموافقة، وتسجيل إجراءات الوكلاء، وتعيين مسؤول محدد عن حوكمة هذه الأنظمة، يتحول إلى متطلب أساسي بقدر ما كانت عليه يوماً سياسة كلمات المرور.