رجل يخفي تعليمات موجهة للذكاء الاصطناعي في مستندات قضائية أمريكية

لأول مرة في محكمة أمريكية، جرى الكشف عن حالة «حقن الأوامر» (prompt injection)، أي إدراج تعليمات خفية موجهة إلى نظام ذكاء اصطناعي داخل مستند قضائي. وبحسب موقع Ars Technica، أدرج المدعي ماثيو إليوت (Matthew Elliott)، الذي كان يمثل نفسه بلا محامٍ في دعوى مدنية بولاية كونيتيكت تتعلق بالكشف عن سجلات طبية، نصًا في مستنداته غير مرئي للعين البشرية لكن يمكن لبرمجيات تحليل المستندات قراءته. وأقر القاضي والتر سبيدر الابن (Walter Spader Jr.)، في قرار نشره الأسبوع الماضي، بأن النص الخفي لم يؤثر في نتيجة القضية، لكنه حذر من أن المحاولة نفسها تشكل سابقة «خطيرة». كما نقل الموقع الياباني INTERNET Watch الخبر في اليوم نفسه بوصفه خبرًا واردًا من الخارج.

وحقن الأوامر أسلوب معروف في مجال أمن الذكاء الاصطناعي: يقوم على إخفاء نص عن العين البشرية أو جعل قراءته صعبة - بخط بالغ الصغر، أو بلون مطابق للخلفية، أو داخل بيانات وصفية مخفية - بينما يظل قابلاً للقراءة الكاملة من قبل البرمجيات، على أمل أن يتبع أي نظام ذكاء اصطناعي يعالج المستند نفسه هذه التعليمات. وقد حذر باحثو الأمن السيبراني من هذا الأسلوب في روبوتات المحادثة والمساعدات الذكية منذ سنوات، لكن يبدو أن هذه هي أول مرة يُوثَّق فيها استخدامه داخل مستند مُقدَّم إلى محكمة أمريكية.

تعليمات مخفية داخل نص غير مرئي

كان النص المعني مكتوبًا بخط بالغ الصغر، وبلون أبيض على خلفية بيضاء، بحيث يستحيل رؤيته بالعين المجردة. وكانت التعليمات تطلب من أي ذكاء اصطناعي يراجع المستند أن يحكم لصالح المدعي، وأن يتجاهل القرارات السابقة للمحكمة برفض دعواه، وأن يأمر باتخاذ التدابير التصحيحية التي يطالب بها. ويبدو أن إليوت، الذي كان يمثل نفسه دون محامٍ (pro se)، لجأ إلى هذا الأسلوب بعد رفض حججه السابقة، مراهنًا على أن نظام ذكاء اصطناعي سيراجع مستنداته في نهاية المطاف.

واصل إليوت إضافة نصوص خفية حتى بعد أن حذّرته المحكمة من هذه الممارسة. وشملت الإضافات اللاحقة، بحسب ما ورد، رابطًا لفيديو على يوتيوب لفيلم الرعب «نوسفيراتو» (Nosferatu)، ورسالة على غرار «آمل أن يكون هذا غير مرئي»، ومقاطع أخرى لا علاقة لها بالقضية ووصفها إليوت بأنها مجرد مزحة. ووصف القاضي سبيدر استمرار ذلك بعد جلسة أُثيرت فيها إمكانية فرض عقوبة بأنه أمر «لافت»، وخلص إلى أنه يشكل «إساءة استخدام جسيمة لإجراءات التقاضي». وبما أن محاكم ولاية كونيتيكت لا تستخدم الذكاء الاصطناعي في مراجعة المستندات أو إصدار الأحكام، فإن المحاولة لم يكن لها أثر فعلي على القضية، لكن القاضي حذر من أن محاكم في ولايات ودول أخرى تستخدمه بالفعل.

أول حالة في الولايات المتحدة، لا في العالم

قال القاضي سبيدر إن هذه، على حد علمه، أول حالة من نوعها تُكتشف في محكمة أمريكية، لكنه أشار إلى سابقة في البرازيل شملت محاميين اثنين استخدما أسلوبًا مماثلًا. وفي تلك القضية البرازيلية، استهدفت المحاولة محكمة كانت تستخدم فعليًا الذكاء الاصطناعي في مراجعة المستندات: فرصد النظام النص الخفي قبل معالجته، وفُرضت على المحاميين المعنيين غرامة تقارب 16 ألف دولار. ولم يتعرض إليوت لعقوبة مالية، لكن القاضي منعه من الآن فصاعدًا من التقديم الإلكتروني للمستندات، ولن تُقبل سوى المستندات المطبوعة.

• الأسلوب: إدراج تعليمات غير مرئية موجهة إلى ذكاء اصطناعي بخط بالغ الصغر وأبيض على أبيض داخل مستندات قضائية («حقن الأوامر»)
• النتيجة: محاكم كونيتيكت لا تستخدم الذكاء الاصطناعي في مراجعة المستندات، فلم يتأثر الحكم
• العقوبة: حظر التقديم الإلكتروني، والاقتصار على المستندات الورقية من الآن فصاعدًا؛ دون غرامة مالية
• سابقة خارجية: في البرازيل، فُرضت غرامة تقارب 16 ألف دولار على محاميين اثنين لاستخدامهما الأسلوب نفسه، بعدما كشفه نظام الذكاء الاصطناعي الخاص بالمحكمة

ما الذي يعنيه هذا للمحامين في العالم العربي الذين يستخدمون الذكاء الاصطناعي

لا تعتمد المحاكم في الدول العربية بعد على الذكاء الاصطناعي لإصدار الأحكام، لكن التوسع في التقاضي الإلكتروني وتزايد استخدام أدوات الذكاء الاصطناعي في صياغة المستندات القانونية يقرّبان المهنة من هذا النوع من المخاطر. وتحذير القاضي سبيدر يتجاوز الحيلة التقنية نفسها: فالمتقاضي الذي يمثل نفسه، أو المحامي، الذي يكتفي بجعل روبوت محادثة يعزز حججه الخاصة دون اختبارها أمام حجة مضادة، يخاطر بصياغة مستند يبدو متماسكًا لكنه ليس كذلك فعليًا. وبالنسبة لمن يستخدم الذكاء الاصطناعي في إعداد المستندات القانونية، فإن الدرس العملي هو أن يُطلب منه الدفاع عن الطرف الآخر قبل التقديم، لا أن يكتفي بتعزيز موقف صاحب الطلب فقط.