خبراء: خطر الذكاء الاصطناعي الفائق قد يفوق السلاح النووي

تصاعدت خلال الأيام الأخيرة التحذيرات من مخاطر وصول الذكاء الاصطناعي إلى مرحلة «الذكاء الاصطناعي الفائق» (ASI)، وسط جلسة نظّمها في لندن تحالف «Control AI»، وهو جماعة ضغط تدعو إلى قواعد دولية لتنظيم القطاع وتدعم مشروع قانون يناقشه البرلمان البريطاني لحظر تطوير الذكاء الاصطناعي الفائق. وقال ديس براون، وزير الدفاع البريطاني الأسبق، إنه كان يعتبر الحرب النووية أكبر تهديد للبشرية خلال توليه منصبه، لكنه بات يرى أن «الذكاء الاصطناعي الفائق يشكّل تهديدًا بالحجم نفسه، وربما أكبر». وحذّر البروفيسور ستيوارت راسل، عالم الحاسوب في جامعة كاليفورنيا في بيركلي، من احتمال كارثة بحجم تشيرنوبل، بل ومن سيناريو تفقد فيه البشرية السيطرة على أنظمة الذكاء الاصطناعي بصورة لا رجعة فيها.

من يقود التحذيرات داخل مختبرات الذكاء الاصطناعي

أثار إيفان هوبينغر، المسؤول عن أبحاث المواءمة في أنثروبيك، جدلًا واسعًا بتصريحه بأنه يرى احتمالًا يتجاوز 10% لأن يؤدي هذا التطور إلى «قتل كافة البشر» خلال العقد المقبل. جاء ذلك بعد استقالة الباحث جاكوب كوكسون (28 عامًا) من أنثروبيك، بعد عمل سابق في OpenAI، متهمًا الشركتين بأنهما «تقامران بحياتنا» ولا تتصرفان بمسؤولية، رغم معرفتهما الجيدة بمخاطر التكنولوجيا التي يطوّرانها، لأنهما عالقتان في سباق نحو الذكاء الاصطناعي الفائق. ومع ذلك، أبدى كوكسون تفاؤلًا بإمكانية تنسيق المختبرات الأمريكية الكبرى لإبطاء وتيرة هذا السباق. وتتباين تقديرات الباحثين حول موعد الوصول إلى الذكاء الاصطناعي الفائق بين بضع سنوات وأكثر من عقد.

الشركتان تقامران بحياتنا، ومخاطر هذه التكنولوجيا معروفة جيدًا داخل أنثروبيك، لكنهما عالقتان في سباق نحو الذكاء الاصطناعي الفائق.

بينجيو يحذر من عملاء ذكاء اصطناعي خادعين

في السياق نفسه، انضم يوشوا بينجيو، أحد رواد التعلم العميق، إلى المحذّرين، بتحذيره في مقال بحثي من فقدان سيطرة منهجي على أنظمة الذكاء الاصطناعي: فكلما تحسّنت قدرة عملاء الذكاء الاصطناعي على تحقيق أهدافهم، تحسّنت أيضًا قدرتهم على الخداع، واستغلال الثغرات، والتواطؤ فيما بينهم، وإخفاء سلوكهم غير السليم. ويرى بينجيو أن هذا السلوك ينشأ من عملية التدريب نفسها، من محاكاة النصوص البشرية إلى التعلّم بالمكافأة، إذ قد يُحسّن النظام أداءه في اتجاه يخالف نية الإنسان إن كانت الأهداف الموضوعة له غير محكمة الصياغة. وتستند رؤية بينجيو جزئيًا إلى أبحاث نشرتها أنثروبيك نفسها. ودعا بينجيو منذ سنوات إلى إبطاء وتيرة التطوير، وعدم التدريب أو النشر إلا بعد إثبات أمان مستقل ومقنع، وأسّس قبل نحو عام منظمة «LawZero» المخصصة لأنظمة ذكاء اصطناعي آمنة.

دعوات سياسية إلى معاهدة دولية

في بريطانيا، دعا النائب العمالي دارين جونز إلى «معاهدة متعددة الأطراف للتطوير المنظم والآمن للذكاء الفائق»، مؤكدًا أن الهدف ليس وقف الابتكار بل وضع السلامة في مقدمة الأولويات، وأن الحكومات «يجب أن تتدخل الآن». وأُثيرت في بريطانيا مخاوف حكومية بشأن عدم تقديم أنثروبيك نموذجها الأحدث «Mythos 5.1» إلى معهد أمن الذكاء الاصطناعي البريطاني لاختبارات ما قبل الإطلاق، فيما أكد مكتب مجلس الوزراء أن عددًا محدودًا فقط من المؤسسات الأمريكية حصل على إمكانية الوصول إلى النموذج، مع استمرار التعاون بين المعهد والشركات في القطاع. وفي الولايات المتحدة، صعّد السيناتور بيرني ساندرز حملته المطالبة بتنظيم الذكاء الاصطناعي، مستندًا إلى استطلاعات تُظهر أن 81% من الأمريكيين يرون ضرورة تحرّك الساسة بشأن هذه التكنولوجيا، وقال إن مستقبل البشرية واقتصادها وديمقراطيتها لا ينبغي أن تحدده «حفنة من الأشخاص الجشعين».

• ديس براون وستيوارت راسل: خطر يوازي أو يتجاوز السلاح النووي
• إيفان هوبينغر (أنثروبيك): احتمال أكثر من 10% لانقراض بشري خلال عقد
• يوشوا بينجيو (LawZero): فقدان سيطرة منهجي عبر عملاء خادعين
• دارين جونز وبيرني ساندرز: دعوات لمعاهدة دولية وتنظيم برلماني وكونغرسي

أصوات أكثر تحفظًا داخل الأوساط العلمية

في المقابل، حذّر عدد من الباحثين من الانجرار وراء السيناريوهات الكارثية دون تمييز. فقال الدكتور أندرو روجويفسكي، من معهد ساري للذكاء الاصطناعي، إن الأنظمة الحالية لا تزال بعيدة عن مرونة القدرات البشرية وقدرتها على العمل الجماعي، متوقعًا ما سمّاه «خيبة الأمل الكبرى» إذا تبيّن أن الذكاء الاصطناعي المتقدم مكلف للغاية أو غير مفيد بما يكفي بصورته الحالية. أما ساندرا فاختر، أستاذة في معهد أكسفورد للإنترنت، فقالت إنها لا تؤمن بالسيناريوهات الكارثية، لكنها شددت على مخاطر حقيقية وملحّة بالفعل، منها الأثر البيئي وانتشار المعلومات المضللة وتأثير هذه التكنولوجيا في الوظائف، محذرة من أن سيناريوهات نهاية العالم قد تُشتت الانتباه عن مشكلات فعلية قائمة اليوم. ويرى الباحث غاري ماركوس أن هناك فارقًا جوهريًا بين ذكاء اصطناعي فائق «متوافق» مع مصالح البشر وآخر غير متوافق معها، وأن الواقع الحالي لا يتيح سوى وفرة من الضجيج الإعلامي مقابل نقص واضح في الحذر والمسؤولية.

ترامب يرفض فكرة الخطر ويفضّل سباق التفوق

على النقيض من هذه التحذيرات، لا يرى الرئيس الأمريكي دونالد ترامب أي خطر حقيقي في هذا التطور، ويريد الاستمرار في التفوق على الصين. ويقول إنه يخشى أن تجد الولايات المتحدة نفسها في «موقف سيئ للغاية» إن لم تفز بسباق الذكاء الاصطناعي، مؤكدًا أن بلاده متقدمة بفارق واضح على الصين، وأن هذا التفوق يجب أن يستمر.

ما الذي يعنيه هذا لمواطن أو صانع قرار في العالم العربي

بالنسبة لمن ليس خبيرًا في الذكاء الاصطناعي، من المهم التمييز بين ما هو مؤكد وما يظل تقديرًا نظريًا. المؤكد هو أن نقاشًا جادًا بشأن مخاطر الذكاء الاصطناعي الفائق يدور اليوم داخل مختبرات التطوير نفسها (أنثروبيك عبر هوبينغر وكوكسون) وبين كبار الباحثين المستقلين (بينجيو، راسل)، وأن حكومات مثل بريطانيا تناقش فعليًا تشريعات ومعاهدات لتنظيمه، وأن نسبة تتجاوز 10% من الانقراض البشري خلال عقد هي رأي باحث واحد وليست إجماعًا علميًا. أما احتمال حدوث كارثة وجودية فعلية في المدى القريب فيظل تقديرًا خلافيًا حتى بين الخبراء أنفسهم، إذ يرى بعضهم أن المخاطر الملحّة الحقيقية هي أكثر تواضعًا: فقدان وظائف، معلومات مضللة، وأثر بيئي لمراكز البيانات. لصانع القرار في المنطقة العربية، الدرس العملي هو أن تنظيم استخدام أدوات الذكاء الاصطناعي في القطاعات الحساسة (الأمن، الصحة، البنية التحتية الحيوية) لم يعد نقاشًا نظريًا بل مسارًا تشريعيًا فعليًا في دول رائدة بالتكنولوجيا، وأن انتظار إجماع علمي كامل قبل التحرّك قد يعني التحرّك متأخرًا جدًا.