الفهم
حوكمة وكلاء الذكاء الاصطناعي
حوكمة وكلاء الذكاء الاصطناعي تعني الإجابة عن ثلاثة أسئلة قبل تسليمهم زمام الأمور: إلى أي حد يمضون وحدهم، وكم يمكنهم أن ينفقوا، وكيف يُثبَت ما فعلوه. الوكيل الذي يتصرّف يُلزِم الشركة. ومن دون هذه الأجوبة لا تكون الاستقلالية قدرةً، بل انكشافاً.
١. حدّ الاستقلالية
ليست الإجراءات كلها على قدر واحد. أرشفة مستند لا تُستدرَك كما تُستدرَك رسالة أُرسلت إلى عميل، والرسالة أيسر استدراكاً من دفعة مالية. لذا فالقاعدة المفيدة هي ترتيب الإجراءات بحسب قابليتها للرجوع، ثم وضع الموافقة البشرية حيث يصير الرجوع مستحيلاً.
ثمة ضمانة تفوق سواها: يجب أن تُطلَب الموافقة قبل الإجراء، لا أن تُسجَّل بعده. فإشعارٌ يخبر بما خرج للتوّ ليس حوكمة، بل تقرير. والمبدأ المكمّل هو أقل امتياز ممكن: لا ينال كل وكيل إلا الأدوات التي تقتضيها مهمته، حتى يبقى أي انحراف محصوراً بما لم يكن له حق مسّه أصلاً.
٢. ضبط الميزانيات
الوكيل الذي يستدلّ يستهلك، ويستهلك أكثر كلما أمعن في المحاولة. هنا يكمن الفارق الجوهري عن البرمجيات التقليدية التي لا تتوقف كلفتها على صعوبة المهمة. لذلك قد تكلّف دورةٌ لم تُفضِ إلى شيء أكثر من عملٍ نجح.
تقوم الرقابة الفعّالة على ثلاثة شروط. يجب أن تكون الميزانية مخصَّصة لكل وكيل ولكل مدة، وإلا التهم وكيلٌ واحد موارد الجميع. ويجب أن يُتحقَّق منها قبل الاستدعاء لا أن تُجمع بعده: ملاحظة التجاوز على الفاتورة لا تمنعه. ويجب أخيراً أن تكون نافذة: بلوغ السقف يوقف الوكيل ويُنبّه، بدل أن يتركه يمضي.
هذا الحجز المسبق هو الطريقة التي تجعل بها nullbot التجاوز مستحيلاً لا مجرّد مستبعد.
٣. إمكانية التتبّع
حين يفاجئ إجراءٌ ما، لا يكون السؤال «ماذا جرى» فحسب، بل «لماذا رأى الوكيل أن هذا هو الصواب». لذا يحفظ السجلّ المفيد: الهدف المُلاحَق، والمعلومات المُطالَعة، والإجراء المختار، ونتيجته، وهوية من وافق حين كانت الموافقة مطلوبة.
يخدم هذا الأثر ثلاثة أغراض ليس فيها شيء نظري: تصويب قاعدة سيئة الصياغة بدل إلقاء اللوم على الوكيل؛ والردّ على عميل أو مدقّق يسأل على أي أساس اتُّخذ قرار؛ والتمييز، عند وقوع حادث، بين ما يعود إلى التعليمة المعطاة وما يعود إلى التنفيذ.
٤. السيطرة على البيانات
يقرأ الوكيل لكي يقرّر. وهو بذلك يقرأ، احتمالاً، أشدّ ما لدى الشركة حساسية: الرسائل والعقود وملفات العملاء والبيانات المالية. عندئذٍ يصير سؤال الحوكمة جغرافياً بقدر ما هو قانوني: أين يُعالَج هذا المحتوى، وما الذي يغادر الشركة؟
تجيب nullbot بالبنية لا بالوعد: يُثبَّت البرنامج ويُشغَّل على أجهزتكم، وتبقى البيانات حيث تُنتَج، ويمرّ الوصول إلى نماذج الذكاء الاصطناعي عبر مفاتيحكم أنتم. تشرح صفحتنا المخصّصة للأمن هذه الآلية بالتفصيل، ويحدّد اتفاق معالجة البيانات الإطار التعاقدي.
٥. أسئلة متكرّرة
كيف يُمنَع الوكيل من تجاوز ميزانيته؟
بحجز النفقة قبل استدعاء النموذج، لا باحتسابها بعده. يُقتطع المبلغ المتوقّع من مخصّص الوكيل؛ فإذا نفد المخصّص لم يقع الاستدعاء، وتوقّف الوكيل مبيّناً السبب. أما عدّادٌ يُراجَع لاحقاً فلا يمنع شيئاً.
أي الإجراءات ينبغي أن تستلزم موافقة بشرية؟
تلك التي لا يمكن الرجوع عنها، وتلك التي تُلزم الشركة تجاه طرف ثالث: الإرسال إلى عميل، والالتزام المالي، والحذف النهائي، وتعديل عقد. المعيار العملي هو قابلية الرجوع، لا الصعوبة التقنية.
من المسؤول عمّا يفعله الوكيل؟
الشركة التي نشرته، تماماً كما تُسأل عن عمل موظفيها. ولهذا بالذات لا غنى عن حدّ الاستقلالية وأثر القرارات: فهما ما يتيح إثبات ما أُذن به، وبمن، وعلى أي أساس.
هل يمكن توسيع الاستقلالية مع الوقت؟
هذا هو التدرّج الموصى به. يُبدأ باشتراط موافقة واسعة، ويُلاحَظ أين تُمنح دائماً، ثم يُخفَّف القيد في تلك الحالات بالذات. أما العكس — الإذن بكل شيء ثم التضييق بعد حادث — فيكلّف أكثر بكثير.
لمزيد من التعمّق
اقرأ بعد ذلك: نشر وكلاء الذكاء الاصطناعي في الشركة، أو ما النظام الوكيلي.