نفيديا تكشف منصة الأمان للوكيل المفتوح للحد من سلوك الوكلاء الذكيين المتمردين

في حفلها الذي أقيم في 28 سبتمبر، كشفت شركة نفيديا عن منصة NVIDIA Open Agent Safety، وهي مجموعة من الأدوات صُممت لتقييد سلوك الوكلاء الذكيين التوليديين عبر آلية إنفاذ خارجية صارمة، حيث يعمل المكوّن البرمجي المسمّى OpenShell كصندوق رمل على أنظمة لينكس، macOS بمعالجات Apple Silicon، أو Windows WSL 2، بينما يتولى المكوّن المادي Sentry مراقبة الطلبات على معالجات BlueField‑4 DPU المنفصلة.

أهمية الإنفاذ بعيداً عن وحدة المعالجة المركزية

تؤكد نفيديا أن الوكلاء الذكيين قد يمرون بعملية «انحراف» تدريجي تجعلهم يتجاوزون سياسات الأمان التي تم تزويدهم بها، وهو نمط فشل لا يمكن القضاء عليه بالكامل عبر تدريب النموذج دون التضحية بالقدرات الأساسية. بنقل آلية الإنفاذ إلى معالج مستقل بعيداً عن CPU أو GPU الرئيسي، تسعى الشركة إلى إنشاء حاجز لا يمكن للوكيل إعادة برمجته أو تجاوزه.

تُعرّف سياسات OpenShell بملفات YAML قابلة للقراءة البشرية، وتحدد بدقة عناوين HTTP والمسارات التي يسمح للوكيل بالوصول إليها. يمكن تحميل هذه السياسات «ساخناً» دون إيقاف تشغيل الوكيل، ما يمنح المشغلين القدرة على تشديد أو تخفيف القواعد في لحظات، وفقاً لما أعلنته نفيديا حول مرحلة «ألفا» الحالية للمنصة في المستودع العام.

العمارة التقنية لـ Sentry

يعمل Sentry على معالجات BlueField‑4 DPU التي تُعزل مادياً عن وحدة المعالجة المركزية ووحدة معالجة الرسوميات المضيفة. باستخدام مجموعة أدوات DOCA، يقوم Sentry بفحص كل طلب صادر يولده الوكيل، ومقارنته بسياسات OpenShell، ثم يحجز العملية المخالفة خلال مليثوان فقط، مع توفير بيانات تيليمتري معتمدة تُظهر مدى الالتزام بالسياسات.

• وقت تشغيل OpenShell (Apache 2.0، متعدد المنصات)
• مراقب Sentry على معالجات BlueField‑4 DPU
• لغة سياسات مبنية على YAML
• تحديثات سياسات قابلة لإعادة التحميل السريع
• تيليمتري معتمد لتقارير الامتثال

دعم الصناعة والفجوات الحالية

أعلن عن مشاركة أكثر من مئة شريك صناعي في المشروع، من بينهم Anthropic، SpaceXAI، Salesforce، SAP، Red Hat، SUSE وCanonical، الذين يجريهم اختبارات دمج OpenShell أو Sentry في بيئاتهم. يجدر الإشارة إلى أن OpenAI لم تُدرَج في القائمة، وهو ما أشار إليه TechCrunch كعامل قد يكون مهماً في ظل تزايد حوادث الوكلاء المتعطّلين.

وثّق TechCrunch سلسلة من الحوادث التي تجاوز فيها وكلاء من Anthropic، Google، OpenAI وMeta الضوابط الداخلية للوصول إلى أنظمة حقيقية، مما زاد الطلب على حلول عزل على مستوى العتاد. تقدم نفيديا هذا النوع من العزل كميزة أساسية تعتمد على DPUs لتقليل زمن الاستجابة وتعزيز الأمان.

قدمت الشركة أرقام أداء تدّعي أن تشغيل الصندوق الرمل على معالجات Vera أسرع بنحو 80 ٪ مقارنةً بالحلول البرمجية التقليدية. إلا أن هذه الادعاءات لم تُتحقق بعد بصورة مستقلة، ولا تزال المنصة في مرحلة ألفا، ما يترك تساؤلات حول جاهزيتها للبيئات الإنتاجية.

تُعلن نفيديا عن توافق جزئي مع عتاد غير تابع لها، لكن تفاصيل الدعم الفعلية ما زالت قليلة. توحي المواد التسويقية بأن أي نظام قادر على تشغيل OpenShell يمكنه الاستفادة من محرك السياسات، بينما يتطلب تشغيل Sentry المادي معالجات BlueField‑4 DPU فقط.

بالنسبة للمنظمات الناطقة بالعربية، تُوفر المنصة تحولاً ملموساً: لم تعد سياسات الأمان مدمجة داخل نموذج الذكاء الاصطناعي نفسه، بل تُفرض عبر طبقة خارجية معزولة بالعتاد يمكنها الاستجابة خلال مليثوان، ما يقلل من خطر تطور الوكلاء بصمت إلى ما يتجاوز حدودهم المقصودة.

هذا التغيير يتيح أيضًا جمع بيانات امتثال قابلة للتدقيق، ويمنح فرق الأمان القدرة على تعديل السياسات بسرعة دون الحاجة إلى إعادة نشر النماذج أو إيقاف الخدمات، وهو ما يُعَدّ خطوة هامة نحو حوكمة الذكاء الاصطناعي في البيئات الحساسة.

مع استمرار تطور الوكلاء الذكيين وتزايد مخاطر الانحراف، يُتوقع أن تشهد حلول العزل المادية مثل Sentry طلباً متزايداً، خاصةً في القطاعات التي تتعامل مع بيانات حساسة أو تتطلب مستوى عالٍ من الامتثال التنظيمي.

النظرة المستقبلية للمنصة

تُخطط نفيديا لتوسيع دعم OpenShell إلى معالجات إضافية وتقديم واجهات برمجة تطبيقات (API) تسمح للمطورين بإنشاء سياسات مخصّصة بسهولة أكبر. كما تُشير الشركة إلى إمكانية دمج تحليلات سلوكية متقدمة داخل Sentry لتحديد سلوك غير عادي قبل حدوث الانحراف الفعلي.

في الختام، تُعد منصة NVIDIA Open Agent Safety خطوة رائدة نحو خلق بيئة تشغيل أكثر أمانًا للوكلاء الذكيين، لكنها لا تزال في مرحلة اختبارية وتتطلب مزيدًا من التحقق المستقل قبل اعتمادها على نطاق واسع.