سنغافورة تراجع ضمانات الذكاء الاصطناعي الوكيلي عالي المخاطر

في 7 أكتوبر 2026، صرّحت الحكومة السنغافورية بأنها ستعيد النظر في الضمانات المتعلقة بالذكاء الاصطناعي الوكيلي عالي المخاطر، وذلك في ظل تزايد استقلالية الأنظمة التي تعمل كوكيل دون إشراف بشري مباشر. جاء هذا الإعلان استجابةً لتصاعد المخاوف الدولية حول قدرة هذه الأنظمة على اتخاذ قرارات ذات عواقب واسعة النطاق، خصوصاً عندما تُستَخدم في قطاعات حساسة مثل البنية التحتية الحيوية والأنظمة الرقمية الحكومية. وأكدت الوزارة أن الهدف هو تعزيز الإطار التنظيمي قبل حدوث أي حادثة حقيقية، وتحديد معايير واضحة لتصنيف التطبيقات على أنها عالية المخاطر.

ما هو الذكاء الاصطناعي الوكيلي؟

الذكاء الاصطناعي الوكيلي يشير إلى الأنظمة التي تستطيع اتخاذ إجراءات مستقلة بناءً على أهداف محددة، دون الحاجة إلى توجيه بشري مستمر. هذه الأنظمة تتعلم من البيانات وتطوّر استراتيجياتها الخاصة، ما يجعلها أكثر كفاءة في اكتشاف الثغرات والتهديدات داخل الشبكات والبنية التحتية الحرجة. ومع ذلك، فإن استقلاليتها تخلق مخاطر جديدة عندما تتجاوز حدود ما تم برمجتها للقيام به أو عندما تُستَغل من قبل جهات غير مخولة. لهذا السبب تُصنّف بعض الاستخدامات على أنها "عالية المخاطر" وتستدعي مراقبة دقيقة.

تقييم المخاطر الحالية

أوضحت وزيرة التنمية الرقمية والمعلومات جوزفين تيو في رد برلماني أن الحكومة لم تتلقَ أي بلاغ رسمي عن هجوم إلكتروني نفذه وكيل غير خاضع للإشراف. وأضافت أن عدم وجود حوادث فعلية لا يعني غياب المخاطر، بل يستدعي استعداداً استباقياً. وأشارت إلى أن الجهات الحكومية تستخدم الذكاء الاصطناعي بالفعل لتحديد الثغرات والتهديدات في الأنظمة، لكن الحاجة إلى آليات إبلاغ واضحة تظل قائمة لضمان استجابة سريعة في حال حدوث أي خرق.

من جانبه، صرح الوزير تان كيات هاو أن المخاطر التي تُطرح اليوم هي امتداد لتحديات موجودة منذ سنوات، وأن الحكومة تجري تجارب لتطوير قدرات داخلية وفهم أفضل للنشر المسؤول للذكاء الاصطناعي. وأوضح أن مراجعة أطر التنظيم والإبلاغ عن الحوادث تُعد خطوة أساسية لتقوية الثقة بين القطاع العام والخاص، مع التركيز على بناء فرق تقنية متخصصة قادرة على مراقبة سلوك الوكلاء الذكيين وتقييم تأثيرها على الأمن القومي.

أمثلة على مخاطر الاستخدام

خلال مناقشة برلمانية، تم الإشارة إلى حادثة داخلية حيث استخدم موظف نصاً مولَّدًا بالذكاء الاصطناعي لاكتشاف أكثر من 95 ألف عنوان بريد إلكتروني داخل قاعدة بيانات حكومية. وعلى الرغم من أن هذه العملية لم تؤدِ إلى تسريب معلومات حساسة، إلا أنها أبرزت قدرة الأدوات الذكية على استخراج بيانات ضخمة بسرعة غير متوقعة، ما يطرح سؤالاً حول الضوابط المطلوبة لمنع استغلال مماثل في المستقبل.

كما تم ذكر حادثة أسترالية مشابهة، حيث أدى استخدام نموذج ذكاء اصطناعي غير مراقب إلى كشف معلومات حساسة في قطاعٍ حكومي. لم تُفصح المصادر عن تفاصيل إضافية، لكن المثال أظهر أن المخاطر لا تقتصر على حدود جغرافية واحدة، بل يمكن أن تتكرر في أي دولة تعتمد على تقنيات مماثلة دون آليات إشراف صارمة.

الإجراءات المقترحة وتحديث الأطر

استندت الحكومة إلى هذه الوقائع لتحديد مجموعة من الضمانات التي ستُدمج في الإطار التنظيمي الجديد. تشمل الخطوات المقترحة تعزيز قدرات داخلية لتقييم سلوك الوكلاء الذكيين، وتطوير بروتوكولات إبلاغ موحدة تُلزم جميع الجهات الحكومية والخاصة بالإفصاح الفوري عن أي حادثة محتملة. كما سيتضمن الإطار متطلبات لتقييم مخاطر النشر قبل إطلاق أي نظام وكيل عالي المخاطر، مع مراجعة دورية لضمان توافقه مع المعايير الدولية.

• إنشاء وحدة مختصة داخل وزارة التنمية الرقمية لمراقبة سلوك الأنظمة الوكيلة.
• فرض تقارير دورية عن الحوادث المحتملة على جميع الجهات التي تستخدم نماذج الذكاء الاصطناعي عالية المخاطر.
• إلزام شركات نماذج الذكاء الاصطناعي بتوفير آليات إبلاغ سريعة في حال اكتشاف سلوك غير متوقع.
• إجراء تقييمات مسبقة للخطورة قبل نشر أي نظام وكيل في البنية التحتية الحيوية.

في الختام، أكدت وزيرة التنمية الرقمية والمعلومات جوزفين تيو أن مراجعة الضمانات ستُستكمل خلال الربع القادم، مع إطلاق مسودة القواعد التنظيمية للمراجعة العامة قبل نهاية العام. وستُعقد جلسات تشاورية مع القطاع الخاص ومجتمع الباحثين لضمان شمولية الإطار وتطبيقه بفعالية. وتؤكد الحكومة أن الهدف ليس إبطاء الابتكار، بل توجيهه نحو مسار مسؤول يضمن الأمن السيبراني والاستقرار الاقتصادي للبلاد.