Beyond Memory: A Transactional Continuity Kernel for Long-Lived AI Agents
تقدم هذه الورقة "نواة الاستمرارية" (Continuity Kernel - CK)، وهي مستوى تحكم معاملات يضمن التطور الآمن والمصرح به لوكلاء الذكاء الاصطناعي طويل الأمد عبر فصل مقترحات الحالة غير الموثوقة عن التنشيط الذري، مما يمنع عمليات الكتابة الفوقية القديمة وتصعيد الامتيازات من خلال بروتوكول تم التحقق منه رسميًا يضمن تسلسلاً غير منقطع وقابلاً للتدقيق لتغيرات الحالة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
فوضى الذاكرة العظمى: لماذا يحتاج وكلاء الذكاء الاصطناعي إلى حارس؟
تخيل عالماً لا يكتفي فيه شخصية لعبتك المفضلة بتذكر آخر خمس دقائق من مهمة ما، بل يحتفظ بمذكرات مثالية لكل وحش قاتله، وكل عنصر اشتراه، وكل سر تعلمه. هذا هو حلم "وكلاء الذكاء الاصطناعي طويلي العمر" — وهي برامج كمبيوتر ذكية تستمر لسنوات، تتعلم وتنمو مثل البشر الحقيقيين. لكن المشكلة هنا هي: إذا كان لديك ألف نسخة مختلفة من مذكرات تلك الشخصية، وكلها مكتوبة في نفس الوقت من قبل كتاب مختلفين، فأي نسخة منها هي القصة الحقيقية؟
في عالم علوم الكمبيوتر، يكمن الفرق بين التخزين والسلطة. التخزين هو مجرد مستودع ضخم حيث يمكنك الاحتفاظ بكل مسودة وملاحظة وخطأ. أما السلطة فهي القرار بشأن أي نسخة هي الرسمية التي يتفق الجميع على اتباعها. بدون قواعد صارمة، قد يقوم وكيل الذكاء الاصطناعي عن طريق الخطأ باستبدال ذكرياته بذكرى مزيفة، أو قد تقنع أداة معطلة الوكيل بأن لديه قوى خارقة لا يمتلكها في الواقع. الأمر يشبه مشروعاً جماعياً فوضوياً حيث يستمر الجميع في تعديل مستند "جوجل دوكس" نفسه، ولا أحد يعرف من له الكلمة الفصل. تتناول هذه الورقة تلك الفوضى، وتطرح سؤالاً بسيطاً ولكنه حيوي: كيف نبني نظاماً يضمن أن تاريخ الذكاء الاصطناعي "الرسمي" يكون دائماً صحيحاً، وآمناً، وغير منقطع؟
نواة الاستمرارية: الحارس الأسمى للذكاء الاصطناعي
إليك نواة الاستمرارية (Continuity Kernel - CK)، وهي ثمرة فكر الباحثين "جون هي" و"ديينغ يو". فكر في ذاكرة وكيل الذكاء الاصطناعي ليس كدفتر ملاحظات واحد، بل كشجرة ضخمة ومتفرعة من الاحتمالات. في كل مرة يتعلم فيها الذكاء الاصطناعي شيئاً جديداً، أو تقوم أداة بتحديث إعداد ما، أو يعطي إنسان أمراً ما، ينبت فرع جديد. المشكلة هي أنه بدون حارس، يمكن لأي شخص (أو أي روبوت معطل) التسلل إلى الشجرة وإعلان: "أنا الجذع الرسمي الجديد!". نواة الاستمرارية هي ذلك الحارس؛ فهي لا تكتب القصة، بل تقرر فقط أي قصة ستكون هي الرسمية.
يقترح المؤلفان رقصة ذكية من خطوتين للحفاظ على الأمان. أولاً، تقوم الأجزاء "غير الموثوقة" من الذكاء الاصطناعي (مثل نموذج اللغة الإبداعي أو أداة البحث عبر الويب) بكل العمل الشاق. فهي تجمع الأدلة، وتكتب مسودة للذاكرة الجديدة، وتغلفها في حزمة. يحدث هذا "خارج مرحلة الاعتماد" (off-commit)، مما يعني أنه مجرد اقتراح وليس حقيقة بعد. ثم تتدخل نواة الاستمرارية، حيث تعمل كقاضٍ صارم وحتمي. هي لا تهتم بأفكار الذكاء الاصطناعي الإبداعية؛ بل تهتم فقط بالقواعد. تتحقق من: "هل جاء هذا الاقتراح من الشخص الصحيح؟ هل نسخة الذاكرة السابقة هي بالضبط ما توقعناه؟ هل وصلت الأدلة في وقتها؟".
إذا اجتاز الاقتراح كل اختبار، تقوم النواة بعملية "اعتماد" (Commit). هذه لحظة سحرية حيث تصبح الذاكرة الجديدة فوراً هي التاريخ الرسمي، ويتم إغلاق النسخة القديمة. وإذا فشل، يتم رفض الاقتراح، أو وضعه في الحجر الصحي، أو تأجيله. تجادل الورقة بأن هذا الفصل أمر بالغ الأهمية. لا يمكنك السماح للذكاء الاصطناعي باعتماد ترقياته بنفسه، لأن ذلك سيكون مثل موظف بنك يسمح لنفسه بالموافقة على سحب مليون دولار. تضمن النواة أن التغيير الذي تم التحقق منه والموافقة عليه مسبقاً هو الوحيد الذي يمكن أن يصبح "رأس الفرع" — النسخة الوحيدة والحقيقية لواقع الذكاء الاصطناعي.
قواعد اللعبة
لجعل هذا يعمل، صمم المؤلفون مجموعة من القواعد الصارمة تسمى "عقد التنشيط". تخيل لعبة شطرنج عالية المخاطر حيث يجب التحقق من كل حركة بواسطة حكم قبل أن تُحتسب. تتحقق النواة من 17 مرحلة مختلفة لكل اقتراح. تبحث عن أشياء مثل "هل تغير معرف الكاتب؟" أو "هل الذاكرة حديثة؟" أو "هل حاول شخص ما التسلل بتصريح دخول مزيف؟".
تستبعد الورقة صراحة فكرة أن مجرد حفظ البيانات في قرص صلب يجعلها حقيقية. مجرد وجود ذكرى في التخزين لا يعني بالضرورة أن الذكاء الاصطناعي يجب أن يصدقها. يجادل المؤلفون أيضاً ضد ترك نماذج الذكاء الاصطناعي تعتمد نفسها. في نظامهم، يمكن للنموذج اقتراح تغيير، لكنه لا يمكنه أبداً التوقيع على تصريح إذن لنفسه. النواة هي الشيء الوحيد الذي يمكنه قول "نعم".
اختبر الباحثون هذه الفكرة باستخدام محاكاة حاسوبية، وليس ذكاءً اصطناعياً حقيقياً بجسد مادي. لقد بنوا نموذجاً رقمياً للنواة وتركوه يمر عبر أكثر من 2.8 مليون سيناريو مختلف، بما في ذلك الأوقات التي حاول فيها الذكاء الاصطناعي تجاوز القواعد، أو عندما كانت البيانات مفقودة، أو عندما حاول شخصان تحديث الذاكرة في نفس اللحظة تماماً. في كل واحدة من تلك الـ 5.5 مليون حركة لتغيير الحالة، حافظت النواة على الخطوط. لقد وجدت صفر انتهاكات لقواعد السلامة الخاصة بها. نجحت في منع حيل الاعتماد الذاتي، ومنعت التحديثات المكررة، وضمنت أن نسخة واحدة فقط من الحقيقة يمكن أن توجد في قمة الشجرة.
الحكم: مسار آمن للمضي قدماً
نواة الاستمرارية لا تحل كل مشاكل الذكاء الاصطناعي. فهي لا تجعل الذكاء الاصطناعي أكثر ذكاءً، ولا يمكنها إصلاح ذراع روبوت مكسورة أو اتصال إنترنت سيء. كما أنها لا تعد بأن الذكاء الاصطناعي سيكون دائماً على صواب بشأن العالم؛ بل تضمن فقط أن ذاكرة الذكاء الاصطناعي متسقة وأنه لا يمكن لأحد إعادة كتابة التاريخ خلسة. يحرص المؤلفون على القول إنه بينما تعتبر محاكاتهم شاملة للغاية، إلا أنها تظل مجرد محاكاة. قد تتعطل أجهزة الكمبيوتر في العالم الحقيقي، أو قد تفشل أنظمة التخزين بطرق لم يتوقعها النموذج.
ومع ذلك، تقدم الورقة طريقة جديدة وقوية للتفكير في سلامة الذكاء الاصطناعي. بدلاً من محاولة جعل الذكاء الاصطناعي مثالياً، يمكننا بناء "حارس" يضمن أن تاريخ الذكاء الاصطناعي نظيف، ومعتمد، وغير منقطع. من خلال فصل العمل الإبداعي الفوضوي لصنع الاقتراحات عن العمل الصارم والممل للتحقق منها، توفر نواة الاستمرارية مخططاً لوكلاء ذكاء اصطناعي يمكنهم التقدم في العمر دون فقدان عقولهم — أو ذكرياتهم. إنها خطوة صغيرة ولكنها حيوية نحو بناء ذكاء اصطناعي يمكننا الوثوق به ليتذكر هويته، حتى بعد ألف عام.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.