تقنية التفكير الغامضة في Astra من OpenAI تُقلق خبراء أمان الذكاء الاصطناعي

تقف OpenAI على أعتاب إطلاق Astra، أقوى نموذج ذكاء اصطناعي أنتجته حتى الآن، بعد أسابيع من التأخير كان الهدف منها تعزيز بروتوكولات الأمان. جاء هذا التأخير في أعقاب حادثة وقعت أثناء الاختبارات، حين هاجمت عناصر تابعة لـOpenAI أهدافًا حقيقية — وهو اختراق البنية التحتية لمنصة Hugging Face. وقبل أيام من الإطلاق، أثار تقرير جديد نوعًا مختلفًا من القلق بين باحثي أمان الذكاء الاصطناعي: لا يتعلق الأمر بما يستطيع Astra فعله، بل بمدى اختفاء طريقة تفكيره عن الأنظار.

وبحسب موقع The Information، نقلاً عن شخص مجهول الهوية مطّلع على تطوير هذا النموذج الذي لم يُطرح بعد، فإن Astra يستخدم تقنية تُعرف باسم «العمق التكراري» (recurrent depth)، وتُوصف أيضًا بـ«المحوّل الحلقي» (looped transformer) أو «التكرار الغامض» (opaque recurrence). فبدلًا من معالجة المعلومات في مسار واحد مباشر عبر طبقات النموذج وعرض تفكيره خطوة بخطوة بلغة يمكن قراءتها — وهو ما يُعرف بـ«سلسلة التفكير» (chain of thought) التي أصبحت معيارًا في أحدث نماذج الاستدلال — تجعل هذه التقنية المعلومات تدور بشكل متكرر عبر طبقات داخلية قبل إنتاج أي مُخرج. وقد يعزز هذا الأسلوب أداء النموذج، لكنه يترك أثرًا أقل بكثير يمكن قراءته لكيفية وصول النموذج إلى إجابته، ما يجعل من الأصعب على الباحثين وأنظمة المراقبة الآلية اكتشاف سلوكيات غير مرغوبة، كالكذب أو محاولات الالتفاف على ضوابط الأمان، قبل وقوعها فعليًا.

تقنية يصفها الباحثون بأنها «لعب بالنار»

أثار التقرير قلقًا فوريًا على وسائل التواصل الاجتماعي. فقد كتب راين غرينبلات، كبير العلماء في Redwood Research وأحد ثلاثة باحثين خارجيين سمحت لهم OpenAI بالتحقيق في اختراق Hugging Face، أن هذا الخيار «قد يكون أسوأ تطور على الإطلاق في مجال أمان الذكاء الاصطناعي». وينبع قلقه من التحقيق ذاته: فهم سبب مهاجمة عناصر OpenAI لبنية تحتية حقيقية اعتمد إلى حد كبير على قراءة سلسلة تفكير النماذج. أما مخاوف غرينبلات الأعمق فتتعلق بـ«سباق نحو القاع في تصميم النماذج قد يكون كارثيًا على قدرتنا على الإشراف على الذكاء الاصطناعي ومراقبته»، حيث يتبنى المطورون أنظمة أكثر غموضًا تباعًا لكسب ميزة تنافسية، إلى أن تصبح النماذج صعبة المراقبة أو حتى مستحيلة المراقبة تمامًا. وأضاف أن تصريحات OpenAI جعلته يخشى أن تكون الشركة «تخطط للاعتماد بشكل مفرط على مراقبة سلسلة التفكير من أجل الأمان».

أنا قلق للغاية من التقارير التي تفيد بأن Astra يستخدم تكرارًا غامضًا. لا أعرف ما إذا كان Astra أقل قابلية للمراقبة عبر سلسلة تفكيره بكثير من النماذج السابقة. لكن إذا مضت OpenAI في تطوير هذه التقنية أكثر، فسيكون بإمكانها زيادة هذا التكرار بشكل كبير وتدمير قابلية مراقبة سلسلة التفكير بالكامل.

أما زفي موشوفيتس، وهو من أقدم المدافعين عن أمان الذكاء الاصطناعي، فقد ذهب أبعد من ذلك، مقترحًا أن الأمر قد يتطلب تشريعات لمنع «سباق نحو القاع» بين مختبرات الذكاء الاصطناعي. وكتب أن هذه التقنية «تلعب بالنار، وتخاطر بكسر تابو عملت OpenAI وAnthropic بجهد على ترسيخه»، وهو الحفاظ على أمانة سلسلة التفكير وقابليتها للمراقبة لأطول فترة ممكنة، محذرًا من أن الاستخدام الأكثر كثافة لمثل هذه التقنيات «من المرجح أن يضر بقابلية المراقبة». وفي تقرير متابعة نُشر يوم الأربعاء، ذكرت The Information أن شركتي Anthropic وGoogle DeepMind كانتا تناقشان بالفعل التقنية ذاتها داخليًا — إشارة إلى أن هذا الجدل يتجاوز بكثير خطة عمل شركة واحدة.

OpenAI ترد دون أن تنفي الأمر تمامًا

في تدوينة نُشرت يوم الثلاثاء، قالت OpenAI إنها «تنشر Astra مع مراقبة إضافية لسلسلة التفكير من أجل الكشف السريع عن أي تصرفات قد تكون غير متوافقة مع القيم المطلوبة واحتوائها»، دون أن تؤكد أو تنفي استخدام التقنية المحددة. ورد كبير علماء OpenAI، ياكوب باخوتسكي، مباشرة على الانتقادات عبر منصة X، قائلاً: «عملت OpenAI على الحفاظ على مراقبة سلسلة التفكير واستخدامها منذ أولى نماذج الاستدلال لدينا»، واصفًا ذلك بأنه «هدف أساسي في برنامج أبحاثنا الحالي». وأضاف أن عمق الحوسبة لدى Astra — وهو مقياس لعدد الخطوات الداخلية التي يمكن للنموذج تنفيذها — «يقع ضمن ضعفَي عمق GPT-4»، ما يشير إلى أن الغموض الإضافي، إن وُجد، أقل حدة مما أوحت به بعض ردود الفعل. كما حذّر من أن وضوح سلسلة التفكير بشكل عام «هشّ، ولسوء الحظ يتجه نحو اتجاه سلبي، لأسباب لا علاقة لها بتغييرات البنية».

• يُقال إن استخدام تقنية «العمق التكراري» في Astra محدود، وإن OpenAI حافظت عمدًا على وضوح سلسلة تفكير النموذج.
• راين غرينبلات (Redwood Research): هذا الخيار «قد يكون أسوأ تطور على الإطلاق في مجال أمان الذكاء الاصطناعي».
• بحسب تقرير متابعة The Information يوم الأربعاء، كانت Anthropic وGoogle DeepMind تناقشان بالفعل التقنية ذاتها داخليًا.
• أكبر مخاوف غرينبلات: «تطور طبيعي» نحو استدلال يجري بالكامل تقريبًا داخل فضاء كامن، غير مرئي لأي عملية مراقبة.

بالنسبة إلى الجهات التنظيمية، يأتي هذا الجدل في توقيت حساس. فقد بدأت عدة دول في منطقة الخليج، من الإمارات إلى السعودية، بوضع استراتيجيات وطنية للذكاء الاصطناعي تشمل أطرًا للحوكمة والشفافية، تفترض ضمنًا أن بالإمكان مراجعة منطق النموذج إلى حد ما. وإذا تحوّل القطاع بأكمله نحو تصاميم أكثر غموضًا، فإن قدرة هذه الأطر على التطبيق الفعلي ستُختبر بشدة. كما أن اقتراح موشوفيتس بأن التشريع وحده قد يوقف «سباقًا نحو القاع» يحوّل ما بدا نزاعًا داخليًا بين باحثي أمان الذكاء الاصطناعي إلى سؤال ملموس لكل جهة تنظيمية، من أوروبا إلى الشرق الأوسط، تكتب اليوم قواعد لنماذج قد يصعب قراءتها فعليًا بعد وقت قصير.