أوبن إيه آي تدعو إلى معايير عالمية تقودها الولايات المتحدة للذكاء الاصطناعي الحدودي

نقلت أوبن إيه آي النقاش حول سلامة الذكاء الاصطناعي الحدودي من مستوى القلق العام إلى مطلب حوكمة محدد: معايير دولية للسلامة والأمن، مع دور قيادي للولايات المتحدة. في مقترح نُشر في 21 سبتمبر، تقول الشركة إن المعايير التقنية المشتركة يمكن أن تقلل خطر ظهور قواعد مجزأة وغير متكافئة بين الولايات القضائية. وترسم الوثيقة أيضا حدا حول التحسين الذاتي المتكرر، إذ تقول إن هذه القدرة ينبغي ألا تُلاحق إلا إذا، وحينما، يمكن تنفيذها بأمان.

ما الذي تغير

التغيير لا يتمثل في أن أوبن إيه آي بدأت للتو الاعتراف بمخاطر سلامة الذكاء الاصطناعي. التحول هو أن الشركة تدعو إلى إطار دولي تقوده المعايير، في وقت تناقش فيه الشركات والجهات التنظيمية ما إذا كان التطوير ينبغي أن يتباطأ بسبب مخاوف السلامة. هذا يضع موقف أوبن إيه آي بين ضغطين: استمرار تطوير الأنظمة الحدية من جهة، والمطالب بفرض قيود أقوى من جهة أخرى.

مقترح الشركة هو إعلان من أوبن إيه آي، وليس نتيجة تنظيمية مستقلة أو معيارا اختباريا محايدا. حجته المركزية هي أن التعاون العالمي يمكن أن يساعد في تجنب فسيفساء من القواعد التي قد تكون غير متسقة أو ناقصة أو مطبقة بشكل غير متساو. وتعكس هذه الحجة قلقا عمليا لدى الشركات التي تبني الذكاء الاصطناعي الحدودي أو تنشره: فالمتطلبات الوطنية المختلفة يمكن أن تخلق حالة عدم يقين، بينما قد تترك الفجوات بين الأنظمة مخاطر من دون معالجة.

كما تقدم أوبن إيه آي الولايات المتحدة بوصفها الفاعل الذي ينبغي أن يقود الجهد العالمي. هذا موقف سياسي ومؤسسي، لا نتيجة تقنية. ولا يثبت المقترح، وفق الوقائع المقدمة، أن القيادة الأميركية ستنتج أنظمة أكثر أمانا من أي ترتيب آخر. إنه يقول إن الولايات المتحدة ينبغي أن تضطلع بهذا الدور، وإن التعاون الدولي أفضل من القواعد المجزأة.

كيف يُفترض أن يعمل المقترح

الآلية المطروحة هي المعايير، لا قانون محلي واحد. ويمكن لمعايير السلامة والأمن التقنية أن تحدد التوقعات المتعلقة بكيفية تطوير أنظمة الذكاء الاصطناعي الحدودي واختبارها وتأمينها وحوكمتها. ومن حيث المبدأ، يمكن للمعايير المشتركة أن تجعل من الأسهل على الحكومات والشركات تقييم ما إذا كان نظام ما يستوفي متطلبات متفقا عليها. ويمكنها أيضا أن تمنح الجهات التنظيمية مفردات مشتركة عند مقارنة المخاطر عبر الحدود.

تكمن أهمية المقترح في تركيزه على الذكاء الاصطناعي الحدودي، لا على البرمجيات العامة. يشير الذكاء الاصطناعي الحدودي إلى الأنظمة الواقعة عند الحافة المتقدمة للقدرات، حيث قد تكون أسئلة السلامة والأمن أصعب في التقييم مسبقا. وموقف أوبن إيه آي هو أن هذه الأنظمة تحتاج إلى تنسيق دولي لأن آثارها ومخاطرها لا تنحصر في ولاية قضائية واحدة. وهذا الادعاء حجة سياساتية من الشركة، لا خلاصة مقاسة صادرة عن مراجعة مستقلة.

التحسين الذاتي المتكرر هو القدرة الأكثر حساسية التي يتناولها المقترح. تصفه أوبن إيه آي بأنه برمجيات تساعد في تحسين نفسها. ويتمثل القلق في أنه إذا جرت ملاحقة مثل هذه العملية من دون ضمانات موثوقة، فقد تصبح الأنظمة أصعب في السيطرة عليها أو تقييمها أو تأمينها. والموقف المعلن للشركة هو أن التحسين الذاتي المتكرر ينبغي ألا يُلاحق إلا إذا، وحينما، يمكن تنفيذه بأمان.

هذه الصياغة مهمة. فهي ليست رفضا دائما للتحسين الذاتي المتكرر. إنها توقف مشروط: لا تلاحقوه إلا إذا أمكن إثبات السلامة. والنتيجة العملية هي أن أوبن إيه آي تحاول تعريف عتبة للعمل المستقبلي على هذه القدرة. لكن الوقائع المقدمة لا تحدد ما الاختبارات أو المعايير أو الأدلة التي ستكون كافية لإظهار أن التحسين الذاتي المتكرر يمكن أن يُنفذ بأمان.

ما الذي تظهره الحادثة المذكورة وما الذي لا تظهره

استشهدت أوبن إيه آي بحادثة Hugging Face التي كُشف عنها سابقا بوصفها لمحة عن مخاطر يمكن أن تصبح أكثر خطورة في غياب الضمانات. وذكرت الشركة أيضا أن الحادثة نفسها لم تكن ناجمة عن التحسين الذاتي المتكرر. هذا التمييز أساسي. فالحادثة تُستخدم مثالا على نوع مخاوف السلامة والأمن التي قد تتوسع في خطورتها، لا دليلا على أن التحسين الذاتي المتكرر أنتج بالفعل نتيجة من هذا النوع.

هذا يعني أن الحادثة لا تثبت أن التحسين الذاتي المتكرر يتسبب حاليا في ضرر. كما أنها لا تثبت أن المعايير المقترحة كانت ستمنع الحادثة. واستنادا إلى الوقائع المتحققة، تؤدي الحادثة وظيفة إشارة تحذير في حجة أوبن إيه آي: فالأنظمة والبنى التحتية المرتبطة بالذكاء الاصطناعي يمكن أن تكشف مخاطر، وقد تجعل الأنظمة الأكثر قدرة أو الأكثر استقلالية هذه المخاطر أصعب في الإدارة إذا كانت الضمانات ضعيفة.

لا تتضمن الوقائع المتاحة أرقاما للأداء، أو مقاييس للحوادث، أو أرقام اعتماد، أو تقييمات للنماذج، أو نتائج سلامة مقارنة. ونتيجة لذلك، لا يوجد هنا معيار رقمي يبين أن نموذجا معينا للمعايير أكثر أمانا من آخر، أو أن الخطر الناجم عن التحسين الذاتي المتكرر بلغ عتبة كمية محددة. لذلك ينبغي قراءة المقترح كتدخل في الحوكمة وتقييم للمخاطر من أوبن إيه آي، لا كدراسة تجريبية منشورة تثبت فعالية معيار محدد.

غياب الأرقام هذا يحد مما يمكن استنتاجه. يستطيع المقترح أن يبين ما تريد أوبن إيه آي من الحكومات والقطاع أن يعطياه الأولوية. ويمكنه أن يوضح موقف الشركة من التحسين الذاتي المتكرر، وأن يحدد التجزئة بوصفها خطرا على الحوكمة. لكنه لا يستطيع، وفق الوقائع المقدمة، أن يبرهن إلى أي مدى سيكون نظام المعايير العالمي أكثر أمانا، أو مدى سرعة إمكان تنفيذه، أو أي ضوابط تقنية ستكون كافية.

الدلالات الدبلوماسية والعملية

يمنح التوقيت المقترح سياقا دبلوماسيا. فمن المتوقع أن يطلع سام ألتمان مجلس الأمن الدولي يوم الأربعاء خلال أسبوع الجمعية العامة للأمم المتحدة. وتنظم فرنسا، التي تتولى الرئاسة الدورية للمجلس، الاجتماع. يضع هذا السياق سلامة الذكاء الاصطناعي الحدودي داخل منتدى أمني، لا فقط ضمن نقاش تكنولوجي أو تجاري.

بالنسبة إلى الحكومات، تتمثل الدلالة العملية في أن حوكمة الذكاء الاصطناعي الحدودي قد تُناقش على نحو متزايد كقضية أمن دولي. وإذا جرت ملاحقة المعايير عالميا، فسيتعين على صناع السياسات أن يقرروا من يكتبها، وكيف يُقيّم الامتثال لها، وكيف تتفاعل مع التنظيم الوطني. يجادل المقترح بضرورة تجنب القواعد المجزأة وغير المتكافئة، لكنه لا يزيل الصعوبة السياسية المتمثلة في مواءمة دول ذات أولويات تنظيمية مختلفة.

بالنسبة إلى شركات الذكاء الاصطناعي، يمكن للمعايير المشتركة أن تخلق توقعات أوضح، وخصوصا في ممارسات السلامة والأمن حول الأنظمة الحدية. ويمكنها أيضا أن تزيد عبء التوثيق والاختبار والضوابط الداخلية. ولا تقول الوقائع المقدمة ما إذا كان نهج أوبن إيه آي المقترح سيبطئ التطوير، أو يسرع النشر عبر خلق الثقة، أو ينتج الأثرين معا في مجالات مختلفة. ويبقى ذلك جزءا من النقاش الأوسع حول ما إذا كان تطوير الذكاء الاصطناعي ينبغي أن يتباطأ بسبب مخاطر السلامة.

أما بالنسبة إلى النقاش العام، فالنتيجة الرئيسية هي فصل أوضح بين ثلاثة أسئلة غالبا ما تختلط معا. الأول هو ما إذا كان الذكاء الاصطناعي الحدودي يحتاج إلى معايير تقنية عالمية. والثاني هو ما إذا كان ينبغي للولايات المتحدة أن تقود هذه العملية. والثالث هو ما إذا كان ينبغي تأجيل التحسين الذاتي المتكرر إلى أن يمكن تنفيذه بأمان. تجيب أوبن إيه آي بنعم على الأسئلة الثلاثة، لكن هذه الإجابات مواقف شركة. والاختبار التالي هو ما إذا كانت الجهات التنظيمية والشركات الأخرى والمؤسسات الدولية ستتعامل معها كأساس لقواعد مشتركة.