كاليفورنيا تتسارع لتطبيق إشراف على الذكاء الاصطناعي وتدرس زر الإيقاف الطارئ

في 18 سبتمبر 2026، وقع الحاكم غافين نيوسام مرسومًا يدفع كاليفورنيا إلى مقدمة الولايات المتحدة في تنظيم الذكاء الاصطناعي المتقدم. يُلزم الأمر إطار إشراف متسارع ويوجه لجنة من الخبراء لتقديم توصيات ملموسة خلال ستين يوماً.

تُكلف مجموعة الخبراء باقتراح سُبل تعزيز القوانين الحالية للسلامة والأمن. يجب أن تتناول التوصيات دمج مُقَيّمين مستقلين داخل مختبرات الذكاء الاصطناعي وتوضح تصميم واختبار وتحقق آلية زر الإيقاف الطارئ للنماذج المتقدمة.

نطاق المبادرة الجديدة

تفرض كاليفورنيا بالفعل قواعد على التدقيق من طرف ثالث، وحماية الأطفال، واكتشاف التزييف العميق، والخصوصية، والأمن السيبراني. يهدف مرسوم نيوسام إلى البناء على هذه الأسس، وجعل نظام الولاية نموذجًا محتملًا على المستوى الوطني.

الأمر لا يفرض زر إيقاف إلزاميًا فوريًا. بل يطلق جهدًا تنظيميًا وتقنيًا ستحدد تفاصيله تقرير الخبراء القادم.

العناصر الرئيسية قيد المراجعة

• مُقَيّمين مستقلين مدمجين داخل مختبرات أبحاث الذكاء الاصطناعي
• معايير لتفعيل الإيقاف الطارئ
• إجراءات لمنع إساءة استخدام سلطة الإيقاف
• طرق للتحقق من توقف النموذج الموزع فعليًا
• متطلبات توثيق لجرد النماذج واختبارات السلامة

أشار نيوسام إلى حوادث سلامة حديثة تتعلق بوكلاء الذكاء الاصطناعي كدافع للأمر. كما أبرز غياب توجيه فدرالي يلزم الشركات بالإبلاغ عن حوادث الذكاء الاصطناعي الخطرة، مؤكدًا أن اتخاذ إجراءات على مستوى الولاية أصبح ضروريًا.

تُظهر الخلفية السياسية إدارة فدرالية ترفض فرض قيود إضافية على تطوير الذكاء الاصطناعي، في حين يطالب عدد متزايد من النواب الديمقراطيين بفرض ضوابط أقوى على الصعيدين الولائي والوطني.

التأثير الفوري على الشركات

بالنسبة لشركات الذكاء الاصطناعي العاملة في كاليفورنيا، يخلق المرسوم عبئًا توثيقيًا فوريًا. يجب على الشركات إعداد جرد للنماذج الحرجة، وتطوير خطط أمان قابلة للتحقق، والاحتفاظ بأدلة اختبار السلامة، وإنشاء إجراءات تصعيد يمكن تدقيقها.

على الرغم من أن الأمر لا يفرض زر إيقاف عالمي، فإن ضرورة الاستعداد لمثل هذه الآلية تجبر المنظمات على التفكير في مشغلات الإغلاق، والهياكل الفاشلة الآمنة، وضمانات المساءلة.

ستشكل نتائج لجنة الخبراء، المتوقعة خلال شهرين، الجولة القادمة من اللوائح. إذا تم تبني التوصيات، قد تفرض كاليفورنيا تدقيقات مستقلة دورية، وتفرض معايير واضحة للإيقاف الطارئ، وتطلب تقارير عامة عن الامتثال.

تُظهر الخطوة التنظيمية التي أطلقها الحاكم أن الإطار المقترح سيعتمد على آليات تقييم مستمرة، بحيث تُجرى مراجعات دورية للأنظمة المتقدمة لتحديد ما إذا كانت لا تزال تتوافق مع معايير السلامة والأمان. هذا يعني أن الشركات لن تُعفى من الالتزام بمجرد إتمام التقييم الأولي، بل سيتعين عليها تقديم تقارير دورية تُظهر أن الاختبارات المتجددة تُظهر استقرار النموذج وعدم وجود سلوكيات غير متوقعة. الاعتماد على مقيمين مستقلين داخل المختبرات يُعطي فرصة لتقليل التحيز الداخلي، لكنه يفرض أيضاً ضرورة وجود بروتوكولات واضحة لتحديد صلاحيات هؤلاء المقيمين وتفاصيل عملهم، ما يضمن أن تكون عمليات الفحص شاملة ولا تُقصر على فحص تقني سطحي فقط. بالإضافة إلى ذلك، يُشترط أن تكون نتائج الفحص موثقة ومُعتمدة من قبل هيئات مستقلة لتجنب أي تضارب محتمل بين المطورين والجهات التنظيمية.

تتضمن مسألة زر الإيقاف الطارئ مجموعة من الحدود التقنية والقانونية التي يجب وضعها بدقة. من الناحية التقنية، يجب أن تُصمم آلية الإيقاف بحيث تكون قابلة للتفعيل في جميع مراحل تشغيل النموذج، بما في ذلك عندما يكون النموذج موزعاً على سحابات متعددة أو مدمجاً في أجهزة طرفية. هذا يتطلب وجود طبقة وسيطة قادرة على قطع تدفق البيانات أو إيقاف تنفيذ الأوامر بشكل فوري، مع الحفاظ على سجل يُظهر توقيت وتفاصيل الإيقاف لتسهيل التحقيقات اللاحقة. من الناحية القانونية، يلزم وضع ضوابط تمنع سوء استخدام سلطة الإيقاف، مثل وضع آليات مراجعة داخلية وخارجية لضمان أن أي طلب إيقاف يُصادق عليه من قبل هيئات مستقلة قبل تنفيذه، ما يُقلل من مخاطر الإغلاق التعسفي أو السياسي.

التحقق من فعالية زر الإيقاف يتطلب بناء أنظمة مراقبة مستمرة تُقيس ما إذا كان النموذج قد توقف فعلياً بعد تفعيل الإجراء. يجب أن تشمل هذه الأنظمة اختبارات فورية تُجري استعلامات على النموذج بعد الإيقاف للتأكد من عدم استجابة أي طلبات جديدة، إضافة إلى فحص سجلات الخوادم لتحديد ما إذا كان هناك أي نشاط غير عادي مستمر. كذلك، يتعين توثيق جميع خطوات الإيقاف في سجل غير قابل للتعديل يُحفظ في بيئة آمنة، بحيث يمكن للجهات الرقابية مراجعة الأدلة في حالة حدوث نزاع. هذه المتطلبات التقنية تُضيف عبئاً إضافياً على فرق التطوير لتضمين أدوات مراقبة وتدقيق داخل بنية النظام منذ مرحلة التصميم.

من الناحية العملية، سيتوجب على الشركات التي تتعامل مع نماذج ذكاء اصطناعي عالية المخاطر تعديل سياسات الحوكمة الداخلية لتشمل عمليات جرد شاملة لجميع النماذج، وتحديد مستوى الخطورة لكل نموذج بناءً على معايير موحدة. هذه العملية تتطلب إنشاء قواعد بيانات مركزية تُسجل تفاصيل كل نسخة من النموذج، بما في ذلك الإصدارات، والبيئات التي تُشغل فيها، ونتائج اختبارات السلامة. بالإضافة إلى ذلك، يجب أن تُصمم خطط أمان تشمل سيناريوهات متعددة لتفعيل زر الإيقاف، مع تحديد المسؤوليات الواضحة لكل فريق داخل المؤسسة، وتحديد آليات تصعيد تُتيح للجهات المختصة اتخاذ إجراءات سريعة عند اكتشاف سلوك غير متوقع.

تُبرز الحاجة إلى توثيق ضوابط السلامة والتأكد من مطابقتها للمعايير الوطنية والدولية أن الشركات ستحتاج إلى استثمار موارد إضافية في التدريب وتطوير الأدوات. يجب أن يتلقى الموظفون المختصون دورات تدريبية دورية حول كيفية تنفيذ اختبارات السلامة، وتفسير نتائجها، وتطبيق إجراءات الإيقاف الطارئ. كما سيتعين على المؤسسات تبني أدوات أتمتة تُسهل جمع وتحليل البيانات المتعلقة بالاختبارات، وتوليد تقارير تُظهر الامتثال للمتطلبات التنظيمية. هذه الجهود لا تُعزز فقط من قدرة الشركات على التوافق مع اللوائح، بل تُسهم أيضاً في رفع مستوى الثقة العامة في تقنيات الذكاء الاصطناعي.

في النهاية، إذا تم اعتماد توصيات لجنة الخبراء، فإن الآثار المترتبة ستتجاوز الحدود الإقليمية لتصبح معياراً يحتذى به على الصعيد الوطني وربما الدولي. سيؤدي ذلك إلى إنشاء سلاسل إمداد أكثر شفافية، حيث يُطلب من مزودي الخدمات الخارجية تقديم أدلة على امتثالهم للمعايير نفسها. كما سيُعزز ذلك من دور الهيئات الرقابية المستقلة، التي ستحصل على صلاحيات أوسع لإجراء تدقيقات دورية ومفاجئة، مما يخلق بيئة تنظيمية أكثر صرامة وتوازنًا بين الابتكار والمسؤولية. في هذا السياق، يصبح الامتثال المبكر ليس مجرد ضرورة قانونية، بل ميزة تنافسية تُظهر التزام الشركة بالمسؤولية الاجتماعية وتُسهم في بناء سمعة قوية في أسواق تتزايد فيها المخاوف بشأن مخاطر الذكاء الاصطناعي.

ما يعنيه ذلك للمنظمات الناطقة بالعربية هو ضرورة الاستعداد الآن لنظام إشراف أكثر صرامة. ينبغي إجراء تدقيق شامل لجميع نماذج الذكاء الاصطناعي عالية المخاطر، وتوثيق ضوابط السلامة، وتصميم عملية إيقاف طارئ يمكن إثباتها. سيسهم الامتثال المبكر في تقليل خطر العقوبات المستقبلية ويُظهر الشركة كجهة مسؤولة في ولاية تسعى لتحديد المعيار الوطني.