MutMem: Cryptographically Authorized Mutation in Persistent Agent Memory
يُعد MutMem بروتوكول طفرة مُصرح به تشفيرياً لذاكرة الوكيل المستمرة، يضمن النزاهة والقابلية للتتبع من خلال توقيع انتقالات الأوزان والأدلة، محققاً دقة استرجاع عالية ومقاومة قوية لهجمات التسمم دون المساس بالاستمرارية التاريخية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقوم ببناء صديق آلي لا ينسى أبدًا. إنه يتذكر إضافتك المفضلة على البيتزا، واسم معلم الصف الثالث الابتدائي، والوقت الذي وعدت فيه بتمشية الكلب. لكن الجزء الصعب هنا هو أن الناس يتغيرون. ربما تقرر الآن أنك تكره الأناناس على البيتزا، أو تدرك أن معلم الصف الثالث كان في الواقع يُدعى "السيدة سميث"، وليس "الآنسة جونز". إذا قام صديقك الآلي بمجرد استبدال ذكرياته القديمة بأخرى جديدة، فكيف ستعرف أنه لم يتعرض للاختراق؟ كيف يمكنك إثبات أن التغيير كان تحديثًا حقيقيًا منك، وليس فيروسًا متسللاً يتظاهر بأنه أنت؟ هذه هي مشكلة "الذاكرة المستمرة" في الذكاء الاصطناعي. يحاول العلماء بناء ذكاء اصطناعي يتعلم ويتكيف على مدار سنوات، لكنهم بحاجة إلى طريقة لضمان أن تلك التغييرات مصرح بها وقابلة للتتبع، مثل مذكرات رقمية لا يمكن تعديلها سرًا دون ترك بصمة.
تقدم هذه الورقة نظامًا ذكيًا يسمى MutMem (اختصارًا لـ "الذاكرة القابلة للتعديل" - Mutable Memory) مصمم لمحرك دماغ آلي يسمى HOM-AIMOS. فكر في MutMem كدفتر حسابات سحري فائق الأمان لذاكرة الذكاء الاصطناعي. بدلاً من مسح الحقائق القديمة عند وصول معلومات جديدة، يحتفظ MutMem بالذاكرة القديمة آمنة ولكنه يضيف "ملاحظة موقعة" بجانبها. تقول هذه الملاحظة: "مهلاً، لقد قمنا بتحديث أهمية هذه الذاكرة بسبب هذا الحدث الجديد، وإليك الإثبات التشفيري بأن هذا التحديث كان مصرحًا به". إنه يشبه إذا كتبت تصحيحًا في هامش كتاب في مكتبة، ولكن التصحيح تم توقيعه بختم شمعي فريد وغير قابل للكسر يثبت أنك أنت من فعل ذلك، وليس لصًا. كما يحتوي النظام على طريقة خاصة للتعامل مع المعلومات "المسمومة" — وهي حقائق مزيفة زرعها المخترقون. بدلاً من حذف الحقائق المزيفة (الذي من شأنه إخفاء دليل الهجوم)، يحتفظ بها MutMem ولكنه يضع عليها ملصق "مشبوه" (SUSPICIOUS) ضخم وموقع. بهذه الطريقة، يعرف الذكاء الاصطناعي أن يتجاهل المعلومات المزيفة، بينما يمكن للباحثين دراسة الهجوم لاحقًا.
اختبر الباحثون هذا النظام بثلاث طرق رئيسية. أولاً، تحققوا مما إذا كان بإمكان الروبوت الإجابة على الأسئلة بشكل صحيح باستخدام ذاكرته. في اختبار صعب يسمى LongMemEval، أجاب الروبوت على 91.8% من الأسئلة بشكل صحيح. وفي اختبار آخر للذاكرة طويلة المدى يسمى LoLoMo، أجاب بنسبة 74.12% بشكل صحيح. تُظهر هذه الأرقام أن نظام الذاكرة يعمل جيدًا للمهام العادية.
ثانيًا، اختبروا الأمان. أجروا مجموعة متخصصة من الاختبارات حيث حاولوا خداع النظام لإجراء تغييرات غير مصرح بها أو حذف ذكريات. نجح النظام في اكتشاف كل محاولة تلاعب في هذه السيناريوهات المحددة، مثل محاولة إعادة استخدام التوقيعات عبر ذكريات مختلفة أو تعديل الأختام الرقمية. في كل مرة يتم فيها إجراء تغيير، كان يتم إغلاقه بتوقيع رقمي. وإذا حاول أي شخص التلاعب بالذاكرة في هذه الاختبارات، فإن النظام كان يكتشف الختم المكسور فورًا. كما كانت عملية إجراء تحديث آمن سريعة جدًا، حيث استغرقت حوالي 4.865 ميلي ثانية في المتوسط — وهو وقت أسرع من رمشة عين الإنسان.
ثالثًا، اختبروا مدى قدرة النظام على التعامل مع البيانات "المسمومة". قاموا بمحاكاة هجوم حيث حقن المخترقون 500 فقرة مزيفة ومضللة في ذاكرة الروبوت. لم يقم النظام بحذف هذه الفقرات المزيفة؛ بل احتفظ بها ووضع عليها ملصق "محتمل التسمم" (poison_likely) مع علامة موقعة. وعندما طُرحت أسئلة على الروبوت حاولت التلاعب به، نجح النظام في تجاهل المعلومات المزيفة بنسبة 97% من الوقت (في 3% فقط من الحالات، استخدم الروبوت المعلومات المسمومة عن طريق الخطأ). والأهم من ذلك، أن النظام لم يرتبك أو يفقد قدرته على الإجابة على الأسئلة العادية بشكل صحيح؛ حيث ظلت دقة استجابته عالية حتى تحت الهجوم.
كما أجرى البحث تجربة خاصة لمعرفة سبب عمل النظام بهذا الشكل الجيد ضد التسمم. وجدوا أن "الملصقات الموقعة" كانت هي البطل. فعندما استخدم الروبوت هذه الملصقات لتجاهل المعلومات المزيفة، قفزت دقته في الأسئلة الخادعة من 40% إلى 65%. وبدون الملصقات، كان من السهل خداع الروبوت.
ومع ذلك، فإن المؤلف حذر جدًا في توضيح ما لا يفعله هذا النظام. فهو لا يثبت أن الذاكرة "حقيقية" فعليًا في العالم الواقعي. يمكن للروبوت أن يمتلك ذاكرة موقعة ومصرح بها تمامًا ومع ذلك تكون خاطئة واقعيًا (مثل تذكره أنك تكره الأناناس بينما أنت تحبه بالفعل). النظام يثبت فقط أن الذاكرة تم تحديثها من قبل الشخص الصحيح وأن تاريخ التغييرات كان صادقًا. إنه نظام للثقة والتتبع، وليس لإيجاد الحقيقة المطلقة.
في النهاية، يظهر MutMem أنه يمكننا بناء ذكريات للذكاء الاصطناعي مرنة بما يكفي للتعلم والتغيير، ولكنها آمنة بما يكفي لإثبات من قام بالتغييرات وما الذي تم تغييره. إنه يحتفظ بتاريخ كل تحديث، وكل شك، وكل تصحيح، وكلها مغلقة بأختام رقمية غير قابلة للكسر، مما يضمن أنه حتى لو كان دماغ الذكاء الاصطناعي ضخمًا ومعقدًا، يمكننا دائمًا تتبع مسار أفكاره.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.