مجلس نيويورك يطلب من عمالقة الذكاء الاصطناعي الشهادة حول مخاطر السيطرة في جلسة تاريخية

انعقد مجلس مدينة نيويورك جلسة استماع محلفة رفيعة المستوى في 5 أكتوبر 2026، حيث تم استدعاء كبار التنفيذيين من أربعة من أكبر مختبرات الذكاء الاصطناعي في العالم أمام المشرعين. ركزت الجلسة على احتمال تصرف الأنظمة المتقدمة للذكاء الاصطناعي بطرق لا تتماشى مع قيم الإنسان وعلى عدم وضوح المسؤولية القانونية عن أي أضرار قد تنتج.

شارك في الجلسة كل من لوغان غراهام عن Anthropic، ومورغان دويير عن OpenAI، وأليس فريند عن Google، وشاين كاهيل عن Meta. جاء حضورهم بعد تهديد بإصدار استدعاءات؛ فقد وافقت Meta على الشهادة مبكرًا، بينما التزمت الشركات الأخرى فقط بعد إعلان المجلس عن احتمال اتخاذ إجراءات قانونية.

المخاوف الرئيسية التي أثارها الخبراء

حذر ألكس تورنر، الباحث السابق في DeepMind، من أن أنظمة الذكاء الاصطناعي قد تسعى لتحقيق أهداف تتعارض مع نوايا البشر، ما يخلق خطرًا بحدوث نتائج كارثية إذا تُركت دون رقابة. تعكس ملاحظاته تحذيرات سابقة من الباحثين في سلامة الذكاء الاصطناعي حول "عدم توافق الأهداف" في النماذج المتزايدة الاستقلالية.

دعا موظفان سابقان، جاكوب كوكسون من Anthropic ودانييل كوكوتاجلو من OpenAI، إلى مزيد من الشفافية حول خرائط تطوير النماذج وحثا على إبطاء العمل الذي يدفع حدود الأداء. سلطت تصريحاتهما الضوء على نقاش داخلي متصاعد حول وتيرة الابتكار مقابل إجراءات السلامة.

انتقادات المجلس لتقييم المخاطر

انتقدت رئيسة المجلس جولي مينين الشهادة لافتقارها إلى تقييم كمي واضح للمخاطر الكارثية. وأشارت إلى أنه بدون مقاييس ملموسة لا يمكن لصانعي السياسات تصميم استراتيجيات تخفيف فعّالة أو تخصيص الموارد بصورة مناسبة.

كما أبرزت مينين المنطقة القانونية الرمادية المتعلقة بالمسؤولية. "إذا تسبب نظام ذكاء اصطناعي بأضرار، من المسؤول؟" سألته، مؤكدةً الحاجة إلى إطار تشريعي يحدد المساءلة لكل من المطورين والموزعين.

مواقف الصناعة تجاه التنظيم

دافعت أليس فريند من Google عن نهج تنظيمي موحد على المستوى الفيدرالي، معتبرةً أن تشكيلة القوانين المحلية ستعوق الابتكار وتخلق فوضى امتثال للشركات متعددة الجنسيات.

في المقابل، أقر لوغان غراهام من Anthropic بمخاوف المجلس لكنه اقترح أن المعايير الطوعية للصناعة قد تكمل، لا تحل محل، أي تشريع فيدرالي مستقبلي.

• تعهد مورغان دويير من OpenAI بزيادة الشفافية حول قدرات النماذج
• وعد لوغان غراهام من Anthropic بنشر إطار تقييم مخاطر
• التزم شاين كاهيل من Meta بمجموعة عمل صناعية للسلامة
• حثت أليس فريند من Google الكونغرس على إقرار مشروع قانون وطني للسلامة

فشلت SpaceXAI، الوافدة الجديدة في مجال الذكاء الاصطناعي، في الحضور رغم استدعاء رسمي. أعلن المجلس أنه سيسعى للحصول على أمر قضائي لإجبار الشركة على الحضور، مشيرًا إلى أن عدم الامتثال سيقابل بعواقب قانونية.

إن التركيز على توضيح حدود المسؤولية القانونية يُظهر أن التشريعات الحالية لا توفر إطارًا واضحًا لتحديد الجهة المسؤولة عن الأضرار الناجمة عن أنظمة الذكاء الاصطناعي المتقدمة، وهو ما يستدعي وضع معايير موحدة لتقييم المخاطر وتحديد المسؤولية بين المطورين والموزعين، بحيث تُصبح عملية التتبع والإنفاذ أكثر شفافية وفعالية، وتُقلل من الفجوات القانونية التي قد تُستغل في حال حدوث حوادث كبرى.

تُبرز الحاجة إلى مقاييس كمية لتقييم المخاطر الكارثية أن الاعتماد على التقديرات النوعية لا يكفي لتصميم سياسات تخفيفية دقيقة؛ لذا فإن تطوير مؤشرات قياسية مثل معدلات الخطأ المتوقعة، وإمكانية انحراف النماذج عن الأهداف المبرمجة، وإحتمالية حدوث سلوك غير متوقع، سيسمح للسلطات بتخصيص الموارد بصورة مستهدفة، وتحديد أولويات التدخل بناءً على مستويات الخطر الفعلية.

من منظور الصناعة، يُظهر التباين بين الدعوة إلى تنظيم فدرالي موحد وتفضيل المعايير الطوعية أن هناك توترًا مستمرًا بين الابتكار السريع ومتطلبات السلامة؛ وهذا التوتر يُقيد قدرة الشركات على التنبؤ بالمتطلبات المستقبلية، ما قد يؤدي إلى تأخير في إطلاق المنتجات أو تعديل استراتيجيات البحث لتلبية معايير محتملة، وهو ما يستدعي توجيه الجهود نحو بناء أطر عمل مرنة تسمح بالتجربة مع الحفاظ على حدود أمان واضحة.

تُشير الملاحظات الداخلية للموظفين السابقين إلى وجود نقاش داخلي متصاعد حول وتيرة الابتكار مقارنةً بإجراءات السلامة، وهو ما يحدّد حدودًا عملية للسرعة التي يمكن أن تُطوّر بها النماذج دون إهمال تقييم المخاطر؛ لذا فإن تبني آليات مراجعة داخلية مستقلة، مثل لجان تدقيق الأخلاقيات التقنية، يمكن أن يوفّر توازنًا بين التطوير السريع والحفاظ على معايير أمان موثوقة.

إن توجيه الجهات التنظيمية للتركيز على الشفافية في خرائط تطوير النماذج يُعطي إشارات واضحة إلى ضرورة توثيق مسارات التدريب والبيانات المستخدمة، مما يُسهل عمليات التحقق المستقلة ويقلل من فرص التلاعب أو إخفاء المعلومات الحيوية؛ وبالتالي فإن تطبيق بروتوكولات تدقيق شاملة سيعزز الثقة بين الجمهور والشركات، ويُسهم في بناء بيئة تنظيمية تستند إلى أدلة ملموسة بدلاً من الافتراضات.

فيما يتعلق بالنتائج العملية، فإن توقع متطلبات تقارير أكثر صرامة وتدقيقات سلامة إلزامية سيؤثر مباشرةً على جداول إطلاق المنتجات وتكاليف التأمين، ما قد يدفع الشركات إلى إعادة هيكلة استراتيجياتها المالية وتخصيص موارد إضافية للامتثال؛ كما أن وجود قواعد مسؤولية أوضح سيُحَفِّز على تطوير آليات تعويض سريعة وفعّالة في حال وقوع أضرار، مما يقلل من المخاطر القانونية ويُسهم في استقرار السوق على المدى الطويل.

بالنسبة للمنظمات الناطقة بالعربية، تمثل هذه الجلسة علامة تحول. فهي تُظهر استعداد السلطات المحلية لاستخدام صلاحيات الاستدعاء لفرض الشهادات، وتلمح إلى أن نقص إطار تنظيمي موحد قد يفسح المجال لتشريعات فدرالية أقرب. ينبغي على الشركات العاملة في المنطقة توقع متطلبات تقارير أكثر صرامة، وربما تدقيقات سلامة إلزامية، وقواعد مسؤولية أوضح قد تؤثر على جداول إطلاق المنتجات وتكاليف التأمين.