Belief Memory: Agent Memory Under Partial Observability
تقدم الورقة البحثية BeliefMem، وهو إطار عمل للذاكرة الاحتمالية لوكلاء النماذج اللغوية الكبيرة (LLM) يعمل على التخفيف من الأخطاء ذاتية التعزيز في البيئات ذات الإدراك الجزئي من خلال الاحتفاظ بعدة استنتاجات مرشحة مع احتمالات محدثة بدلاً من الالتزام باستنتاجات حتمية منفردة، مما يحقق أداءً فائقاً في اختبارات السياق الطويل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل لغز، لكنك لا تحصل إلا على لقطات صغيرة وضبابية لمسرح الجريمة كل بضع دقائق. أنت لا تعرف القصة كاملة دفعة واحدة؛ بل عليك تخمين ما يحدث بناءً على هذه الأدلة الجزئية.
هذا هو بالضبط كيف تعمل معظم الوكلاء الذكيين (البرامج الحاسوبية الذكية) حالياً عندما يحاولون تذكر الأشياء لفترة طويلة. تجادل ورقة بحثية بعنوان "BeliefMem" بأن الطريقة التي تخزن بها هذه الوكلاء ذاكرتها حالياً هي طريقة معطلة، وتقترح طريقة جديدة لإصلاحها.
إليك التفاصيل بتبسيط شديد:
المشكلة: التخمين "الكل أو لا شيء"
في الوقت الحالي، عندما يرى الذكاء الاصطناعي شيئاً مربكاً (مثل خطأ في موقع إلكتروني)، فإنه يتخذ قراراً واحداً وحاسماً ويكتبه كحقيقة مطلقة.
التشبيه:
تخيل أنك تحاول فتح باب، فوجدته مغلقاً.
- الذكاء الاصطناعي الحالي: يكتب فوراً في مذكراته: "الباب مكسور للأبد". ثم يرمي صفحة المذكرات ولا ينظر إليها مرة أخرى أبداً.
- الخطأ: ربما لم يكن الباب مكسوراً؛ ربما كان شخص ما قد أغلقه فقط، أو ربما كان القفل عالقاً. ولكن لأن الذكاء الاصطناعي قرر أنه "مكسور"، فإنه يتوقف عن محاولة فتح ذلك الباب مرة أخرى أبداً. حتى لو قلت له "حاول مجدداً"، فإنه يرفض لأن مذكراته تقول إن الباب مكسور.
- النتيجة: يقع الذكاء الاصطناعي في حلقة مفرغة من القرارات السيئة. إنه يعزز أخطاءه لأنه يرفض النظر في احتمال أنه قد يكون مخطئاً.
الحل: الدفتر "الاحتمالي"
يقترح المؤلفون نظاماً جديداً يسمى BeliefMem. بدلاً من كتابة حقيقة واحدة قاطعة، يحتفظ الذكاء الاصطناعي بقائمة من الاحتمالات، ولكل منها "درجة ثقة" (نسبة مئوية).
التشبيه:
تحاول فتح الباب، وتجده مغلقاً.
- BeliefMem: يفتح دفتراً ويكتب ثلاثة احتمالات:
- الباب مكسور (ثقة 50%)
- شخص ما أغلقه (ثقة 35%)
- القفل عالق (ثقة 15%)
- ماذا يحدث بعد ذلك؟ يحاول الذكاء الاصطناعي تجربة الباب مرة أخرى.
- إذا فُتح الباب، يرى الذكاء الاصطناعي دليلاً يدعم "شخص ما أغلقه". يقوم بتحديث الدفتر: "شخص ما أغلقه" ترتفع إلى 90%، و*"الباب مكسور"* تنخفض إلى 5%.
- إذا ظل الباب مغلقاً، فقد ترتفع درجة "المكسور".
- الفائدة: الذكاء الاصطناعي لا يحذف الاحتمالات الأخرى نهائياً. إنه يبقي الباب مفتوحاً (مجازياً وحرفياً) أمام الأدلة الجديدة. إذا تبين لاحقاً أن الباب كان مغلقاً فقط، يمكن للذكاء الاصطناعي تغيير رأيه والمحاولة مرة أخرى لاحقاً.
كيف يعمل (الخدعة السحرية)
تستخدم الورقة البحثية قاعدة رياضية تسمى Noisy-OR لتحديث هذه الدرجات. فكر في الأمر كنظام تصويت:
- في كل مرة يرى فيها الذكاء الاصطناعي دليلاً يدعم "الباب مكسور"، يحصل هذا الخيار على بعض الأصوات الإضافية.
- في كل مرة يرى فيها دليلاً يدعم "شخص ما أغلقه"، يحصل هذا الخيار على أصوات.
- ينظر الذكاء الاصطناعي دائماً إلى القائمة بأكملها، وليس فقط إلى الخيار الفائز. وهذا يسمح له بالقول: "أنا شبه متأكد أنه مغلق، لكنني لا أزال بنسبة 10% متأكد أنه قد يكون مكسوراً، لذا سأستمر في المحاولة".
لماذا يهم هذا الأمر
اختبر الباحثون هذا النظام في عالمين مختلفين:
- المحادثات الطويلة: مثل دردشة تستمر لأسابيع. كان على الذكاء الاصطناعي تذكر تفاصيل عن حياة شخص ما دون أن يرتبك بسبب الحقائق المختلطة.
- مهام الروبوت: مثل روبوت يحاول تنظيف منزل. كان عليه معرفة ما إذا كانت الأداة مكسورة أم أنها مجرد مفقودة في مكان ما.
النتائج:
في كلا الاختبارين، أدى نظام "BeliefMem" الجديد عملاً أفضل بكثير من الأنظمة القديمة القائمة على مبدأ "الكل أو لا شيء".
- ارتكب أخطاء أقل.
- استطاع إصلاح أخطائه بشكل أسرع عندما حصل على معلومات جديدة.
- عمل بشكل جيد حتى عندما لم يكن لديه الكثير من البيانات للتعلم منها.
الخلاصة
تزعم الورقة البحثية أنه من خلال السماح لوكلاء الذكاء الاصطناعي بإبقاء خياراتهم مفتوحة وتتبع مدى تأكدهم من احتمالات مختلفة، فإنهم يصبحون أكثر ذكاءً وأقل عرضة للوقوع في حلقة مفرغة من القرارات السيئة. إنها تحول ذاكرة الذكاء الاصطناعي من مذكرات جامدة وغير قابلة للتغيير إلى خريطة مرنة ومتطورة من الاحتمالات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.