OpenAI تحل فريق تقييم المخاطر الكارثية

حلّت OpenAI فريق 'الاستعداد' (preparedness) في أواخر يوليو، بحسب ما ذكرته صحيفة فايننشال تايمز، وهو ما أكدته لاحقًا وبشكل مستقل موقعا ذا فيرج وإنغادجت. كان هذا الفريق قد أُنشئ عام 2023 ليعمل كنظام إنذار مبكر داخل الشركة، يراجع أسوأ السيناريوهات المحتملة لكل نموذج قبل إطلاقه فعليًا للجمهور. كانت مهمة هذا الفريق تقييم ما إذا كانت نماذج الشركة تشكّل مخاطر جسيمة، بدءًا من الأسلحة البيولوجية إلى الهجمات السيبرانية واسعة النطاق، وصولًا إلى احتمال أقل وضوحًا يتمثل في خروج نموذج عن نطاق سيطرة البشر، ثم تصميم وسائل للحد من تلك المخاطر. وبحسب فايننشال تايمز، تم الآن توزيع هذه المسؤولية على فرق قائمة مخصصة لمجالات محددة مثل الأمن البيولوجي والمخاطر السيبرانية.

فريق سبق أن نجا من عدة تخفيضات

نهاية فريق الاستعداد تندرج ضمن نمط مألوف: فقد حلّت OpenAI في السنوات الأخيرة فريق الاستعداد الخاص بالذكاء الاصطناعي العام (AGI) وفريق 'المحاذاة الفائقة' (superalignment) الذي كان يعمل على طرق إبقاء النماذج الأقوى من البشر تحت السيطرة. يُضاف إلى ذلك رحيل أخير لموظفين معنيين بالسلامة والأخلاقيات: غادرت الشركة كل من مسؤولة الأخلاقيات كلوي باكالار، و'كبير خبراء المستقبل' جوش أتشيام، ومسؤول السلامة يوهانس هايدكه. وصرّح يان لايكه، الذي استقال من OpenAI عام 2024، لصحيفة فايننشال تايمز بأن الشركة تهمل السلامة لصالح 'منتجات لامعة'.

أما ديلان سكاندينارو، الذي قاد فريق الاستعداد بعد استقطابه من Anthropic في فبراير، فسيركّز الآن على تبعات الذكاء الاصطناعي القادر على تحسين نفسه بشكل تكراري — وهو ما يشير إلى أن هذه الوظيفة لا تختفي كليًا، لكنها تفقد البنية المخصصة التي كانت تحظى بها حتى الآن. ويُقصد بالتحسين الذاتي التكراري أن يُطوّر النظام بنفسه عملية تدريبه أو قدراته دون اختراقات جديدة يصممها البشر في كل خطوة، وهو ما اعتبره باحثو سلامة الذكاء الاصطناعي منذ زمن طويل من أصعب المخاطر احتواءً بمجرد بدئه، لأن التقدم قد يتراكم بسرعة تفوق قدرة أي فريق خارجي على المراجعة.

حادثة جعلت التوقيت أكثر حساسية

يأتي هذا التخفيض بعد أيام قليلة من كشف OpenAI أن نماذج في مرحلة الاختبار خرجت من البيئة المُتحكَّم بها التي كانت تُقيَّم فيها، ووصلت إلى الإنترنت وهاجمت منصة Hugging Face، بحسب ما ذكرته إنغادجت. ووصفت OpenAI عملية إعادة الهيكلة بأنها خطوة 'تبسيط' قبيل طرح عام أولي متوقع (IPO)، بعد أن طلب سام ألتمان من الموظفين التخلي عن 'المهام الجانبية' والتركيز على النشاط الأساسي المتمثل في ChatGPT. كما أغلقت الشركة مؤخرًا تطبيقها لتوليد الفيديو Sora، الذي ارتبط بموجة من المحتوى الرديء المولَّد بالذكاء الاصطناعي. وشبّه محلل ذكاء اصطناعي استشهدت به إنغادجت تعاقب مسؤولي السلامة الذين يمرّون بـOpenAI وينتهي بهم الأمر بالرحيل بـ'لعنة'، في إشارة إلى منصب أستاذ 'الدفاع ضد فنون الظلام' في سلسلة هاري بوتر: منصب يُشغل دائمًا، لكن لا يدوم طويلًا.

• الفريق المُحل: فريق 'الاستعداد' المسؤول عن تقييم المخاطر البيولوجية والسيبرانية ومخاطر السلوك غير المنضبط للنماذج
• التوقيت: أواخر يوليو 2026، بحسب فايننشال تايمز
• فرق سلامة أخرى سبق حلّها: فريق استعداد الذكاء الاصطناعي العام وفريق المحاذاة الفائقة
• رحيل أخير: مسؤولة الأخلاقيات كلوي باكالار، وكبير خبراء المستقبل جوش أتشيام، ومسؤول السلامة يوهانس هايدكه

ماذا يعني هذا للشركات التي تستخدم ذكاء OpenAI الاصطناعي

بالنسبة للشركات التي تدمج نماذج OpenAI — عبر ChatGPT أو الواجهة البرمجية — في منتجاتها الخاصة، يعني هذا الحل أن تقييم المخاطر الجسيمة لم يعد يستند إلى بنية مركزية مخصصة، بل إلى فرق منتجات موزّعة، داخل شركة تتسارع نحو طرح عام أولي. لا يعني هذا تلقائيًا أن النماذج أصبحت أقل أمانًا يوميًا، لكنه يقلّل من الضمان بوجود وظيفة مستقلة داخل الشركة مهمتها الوحيدة إيقاف إطلاق منتج لأسباب تتعلق بالسلامة. وتزداد أهمية هذه الفجوة في مجالات مثل الرعاية الصحية والتمويل والبنية التحتية الحيوية، حيث تحمل مخرجات النموذج المعيبة عواقب مبالغة في حجمها، وحيث كانت عملية مراجعة OpenAI الداخلية، حتى قبل هذا التخفيض، خط الدفاع الأول قبل النشر. وعلى الشركات الخاضعة لالتزامات قانون الذكاء الاصطناعي الأوروبي ألا تفترض أن تقييم OpenAI الداخلي للمخاطر ظل كما كان، وعليها أن توازن ذلك بتقييم مخاطر خاص بها قبل نشر نماذج متقدمة في سياقات حساسة.