ميموريلا من ستانفورد تختزل ذاكرة النموذج اللغوي في 16 رمزًا

كشف باحثون وراء مشروع مستضاف على memory.stanford.edu عن Memorilla، وهو نظام ذاكرة يختزل مجموعة كاملة من المستندات في 16 «رمز ذاكرة» لنموذج لغوي كبير مجمَّد. ووفق الورقة المنشورة على arXiv في 15 أكتوبر 2026، يتفوق هذا النهج على خطوط المقارنة، ومنها Mem0 وMemoRAG، في خمسة من ثمانية اختبارات، ويمنح النموذج رموزًا أقل بكثير من موجِّه بالسياق الكامل.

ما هو Memorilla وأي مشكلة يحل؟

النموذج اللغوي المجمَّد هو نموذج لا تُحدَّث أوزانه بعد التدريب. وكي يستفيد من معرفة جديدة، مثل محادثات سابقة للمستخدمين أو مستندات طويلة أو إجراءات سابقة لوكيل، لا سبيل أمامه إلا أن تصله هذه المعلومات داخل نافذة السياق. ووفق ملخص arXiv، لا يزال جمع المعلومات التي يحتاجها كل استعلام ودمجها مع إبقاء السياق قصيرًا أمرًا صعبًا على أنظمة الذاكرة الحالية.

يعالج Memorilla ذلك بفصل التخزين عن الاستدعاء، كما توضح صفحة المشروع. يخزّن مرمِّز مجمَّد كل مستند وارد، مثل محادثة أو فصل من كتاب، في صورة تضمين (embedding) أي متجه عددي. ولكل سؤال، تقرأ فتحات ذاكرة متعلَّمة السؤال والمخزن بأكمله، ثم تتحول إلى رموز ذاكرة يقرؤها النموذج المجمَّد مع السؤال. وهذه الوحدة وحدها هي التي تُدرَّب، على مراحل تبدأ بإعادة صياغة ويكيبيديا، ثم الإجابة عن أسئلة عامة والتلخيص، ثم مجموعات التدريب الخاصة بالاختبارات، وفق صفحة المشروع.

وتسرد صفحة المشروع أربعة متطلبات للتصميم:

• وصول إلى المجموعة كلها: كل استعلام يقرأ المجموعة بأكملها لا بضع فقرات مختارة سلفًا؛
• استدعاء يعتمد على الاستعلام: ما تعيده الذاكرة يتغير بحسب السؤال؛
• ميزانية رموز ثابتة: يتلقى النموذج العدد القليل نفسه من رموز الذاكرة مهما كبرت المجموعة؛
• تضمينات قابلة لإعادة الاستخدام: يُرمَّز كل مستند مرة واحدة فينمو المخزن دون إعادة ترميز الماضي.

كيف يؤدي مقارنة بالسياق الكامل وRAG؟

تجيب جميع الطرق المقارَنة عبر نموذج Qwen3-8B المجمَّد نفسه، وفق صفحة المشروع. يحقق Memorilla أعلى متوسط درجات، 49.68، ويتصدر في خمسة من ثمانية اختبارات، فيما يمنح النموذج في المتوسط رموز مستندات أقل 394 مرة من السياق الكامل. وتشدد الصفحة على أن هذا المتوسط يجمع مقاييس مختلفة.

النتيجة الأبرز تخص FactKG، وهو اختبار للتحقق من الوقائع. يبلغ Memorilla دقة 84.33% مقابل 80.43% للاستدلال بالسياق الكامل، مع رموز أقل 108 مرات لتمثيل المستندات المصدر، وفق ملخص arXiv. وتوضح صفحة المشروع أن الدرجة تشمل 9,041 ادعاءً اختباريًا، وأنه كلما جمعت الادعاءات وقائع أكثر هبط خط الأساس RAG-50 من 78.7% إلى 51.8% بينما بقي Memorilla فوق 80%.

أرقام أخرى منشورة على صفحة المشروع:

• PersonaMem-v2، وهو اختبار تخصيص: دقة 44.60% في الإجابة القصيرة مقابل 30.90% لأقوى خط أساس، xRAG؛ ويبلغ السياق الكامل 27.92% مع رموز مستندات أكثر 1,974 مرة؛
• LaMP-7: ترتفع درجة ROUGE-L من 43.13 دون ذاكرة إلى 48.37؛
• TriviaQA: أفضل تطابق تام عند 57.0، مع رموز مستندات أقل 743 مرة من السياق الكامل؛
• NarrativeQA: رموز أقل حتى 4,212 مرة من السياق الكامل؛
• زمن الاستجابة: أقل 27 مرة من السياق الكامل مع 512 مستندًا، مقيسًا من طرف إلى طرف على وحدة H100-80GB واحدة مع Qwen3-8B وحجم دفعة 1.

وتذكر الصفحة نفسها تحفظين. يحصل PersonaMem-v2 وPersonalizationV4 على ضبط دقيق إضافي خاص بكل اختبار، ولم يُقَس زمن استجابة خط أساس RAG.

بماذا يختلف Memorilla عن RAG؟

يختار التوليد المعزَّز بالاسترجاع (RAG) بضع فقرات ويلصق نصها الحرفي في الموجِّه. ووفق صفحة المشروع، يمكن أن يتشارك RAG وMemorilla التضمينات نفسها والنموذج المجمَّد نفسه، لكن Memorilla يقرأ المجموعة كلها فيستطيع الربط بين معلومات لا تشبه السؤال إلا قليلًا. وبالمتوسط الهندسي عبر الاختبارات الثمانية يستخدم رموز مستندات أقل 113 مرة من RAG-50، وفق الصفحة نفسها.

والمقايضة معلنة بصراحة. يمنح RAG النموذج النص الحرفي الذي يختاره، وهذا يناسب الأسئلة التي جوابها اسم يرد حرفيًا. وفي NarrativeQA يتفوق Memorilla على RAG-50 خاصة في أسئلة «لماذا» و«كيف»، بينما يفوز RAG-50 في «من» و«أي»، وتلاحظ صفحة المشروع أن عددًا ثابتًا من رموز الذاكرة قد يفقد تفاصيل دقيقة كالأسماء الحرفية.

هل يساعد وكلاء الذكاء الاصطناعي على التذكر؟

يختبر ملخص arXiv كذلك التعلم المستمر لدى الوكلاء الذين يزداد عدد مستنداتهم مع كل دور. في بيئة TextWorld، يستكشف وكيل Qwen3-4B مجمَّد حتى 65 غرفة لإنجاز مهمة في 50 دورًا، بينما يختزل Memorilla سجله في ثمانية رموز ذاكرة دُرِّبت بالتعلم المعزَّز، وفق صفحة المشروع. وتفيد الورقة بأن الوكيل يتجول أقل بين غرف سبق استكشافها، وبأن متوسط نجاحه يرتفع من 18.6% مع التعلم في السياق بكامل السجل إلى 24.2%.

ما الذي يتغير بالنسبة إلى شركة

بالنسبة إلى شركة تبني مساعدين على نموذج مفتوح لا تستطيع إعادة تدريبه، تشير النتيجة إلى وسيلة لمنح النموذج ذاكرة طويلة عن العملاء أو المستندات بكلفة موجِّه ثابتة. لكنه بحث في الوقت الحالي: فالنتائج مصدرها اختبارات المؤلفين ونماذج Qwen3، والمصادر التي استطعنا قراءتها لا تفصّل الترخيص ولا أدوات الإنتاج. وجدير بفريق في العالم العربي أن يقارنه ببياناته الخاصة مع خط RAG بسيط، خصوصًا حيث تهم الأسماء والأرقام الدقيقة.