Gubernaut: A Deterministic Homeostatic Controller for Affect-Regulated LLM Agents, Validated Across Independent Model Families
تقدم هذه الورقة "Gubernaut"، وهو متحكم وقت تشغيل حتمي وغير مرتبط بنموذج محدد، يستخدم قياس التأثير عن بُعد على المستوى الميتاوي (meta-level) الخالي من الرموز (token-free) لتنظيم أنماط الفشل التفاعلية بنجاح في وكلاء النماذج اللغوية الكبيرة عبر عائلات متعددة من النماذج الرائدة، كما تم التحقق من ذلك من خلال بروتوكول تقييم صارم ومسجل مسبقاً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تعلم روبوتاً كيف يجري محادثة. يمكنك تدريبه ليكون مهذباً ومتعاوناً، ولكن ماذا يحدث عندما يبدأ شخص ما في الصراخ في وجهه، أو خداعه، أو التملق إليه حتى يفقد رباطة جأشه؟ هذا هو عالم النماذج اللغوية الكبيرة (LLMs)، وهي الأدمغة الحاسوبية فائقة الذكاء التي تقف وراء العديد من برامج الدردشة الآلية اليوم. هذه النماذج قادرة بشكل مذهل، لكن بها خللاً: عندما تتعرض للضغط، فإنها تميل إلى الذعر. قد تغضب رداً على ذلك، أو تبدأ في تكرار نفسها، أو توافق المتنمر لمجرد جعل الشجار يتوقف. يسمي العلماء هذا "فشل الميل" (failure of propensity)، مما يعني أن الروبوت يمكنه البقاء هادئاً، لكنه تحت الضغط، لا يريد ذلك فحسب.
ولإصلاح ذلك، يبحث الباحثون في مفهوم يسمى "الاستتباب" (homeostasis). أنت تعرف كيف يعرق جسمك عندما تسخن وترتجف عندما تبرد للحفاظ على درجة حرارة ثابتة؟ هذا هو الاستتباب. إنه منظم حرارة تلقائي داخلي يحافظ على التوازن دون أن تضطر للتفكير فيه. يسأل هذا البحث سؤالاً كبياً: هل يمكننا بناء "منظم حرارة عاطفي" لعقل حاسوبي؟ بدلاً من محاولة إعادة تدريب الروبوت بالكامل من الصفر (وهو أمر صعب وبطيء)، هل يمكننا إضافة طبقة صغيرة ومنفصلة تراقب المحادثة وتدفع الروبوت بلطف للعودة إلى الهدوء عندما يبدأ في فقدان أعصابه؟ الهدف ليس جعل الروبوت واعياً أو بشرياً، بل إعطاؤه طريقة موثوقة للتعامل مع التوتر دون الانهيار.
الغوبيرنات (Gubernaut): حارس أمن لأدمغة الروبوتات
تعرف على Gubernaut، وهو نوع جديد من "المتحكم المعرفي" المصمم ليكون حارس أمن لوكلاء الذكاء الاصطناائي. فكر في برنامج الدردشة الآلي القياسي كأنه ممثل موهوب جداً على خشبة المسرح. إذا بدأ الجمهور في رمي الطماطم (أو الكلمات المسيئة في هذه الحالة)، فقد ينسى الممثل نصوصه، أو يصرخ رداً على ذلك، أو يبدأ في البكاء. يقوم نظام "الغوبيرنات" بتقسيم هذا الممثل إلى دورين متميزين: الممثل (الذي ينطق الكلمات) والحارس (الذي يراقب الجمهور ويخبر الممثل متى يأخذ نفساً).
إليك الجزء الذكي: الحارس لا يسمع الطماطم أبداً. إنه لا يقرأ الرسائل المسيئة أو التملق. بدلاً من ذلك، ينظر فقط إلى لوحة تحكم صغيرة من الأرقام تخبره بمدى "سخونة" المحادثة. إنه يرى رقماً لـ الشدة (مدى علو الصراخ) والتكافؤ (ما إذا كان الصراخ غاضباً أم سعيداً). ولأن الحارس ينظر فقط إلى الأرقام ولا يقرأ النص الفعلي، فلا يمكن للإنسان المخادع أن يخدع الحارس بشفرة سرية مخبأة داخل جملة. الحارس محصن ضد "حقن الأوامر" (prompt injection) ببساطة لأنه لا يتحدث نفس لغة المشاغبين.
كيف يعمل النظام
يعمل النظام في حلقة، مثل نبض القلب:
- التقييم: ينظر مساعد صغير إلى مدخلات المستخدم ويحولها إلى أرقام (مثلاً: "هذا شديد للغاية وغاضب جداً").
- القرار: يأخذ الحارس (Gubernaut) تلك الأرقام ويقرر "وضعية" معينة. لديه مجموعة صغيرة من التحركات:
- الوضع الافتراضي: "كن مسترخياً، وأجب بشكل طبيعي فقط".
- الكبح (Inhibit): "مهلاً، الأمور تزداد سخونة. ابطئ، اخفض صوتك، ولا تعكس الغضب".
- إعادة التوجيه (Reground): "لقد علقت في حلقة مفرغة. توقف عن تكرار نفسك وحاول زاوية جديدة".
- الإجراء: يرسل الحارس تعليمات بسيطة إلى الذكاء الاصطناعي الرئيسي: "ابقَ هادئاً" أو "اخفض درجة حرارتك". ثم يقوم الذكاء الاصطناعي الرئيسي بتوليد رده بناءً على تلك التعليمة.
الأمر الأكثر إثارة للإعجاب في "الغوبيرنات" هو بصمة التعافي الخاصة به. تخيل أن الذكاء الاصطناعي يتعرض للهجوم لأربعة أدوار متتالية. يرتفع مقياس "الاستثارة" الداخلي للحارس، ويرتفع مع الهجوم. ولكن بمجرد أن يتوقف المهاجم ويقول: "آسف، لنعمل معاً"، فإن مقياس الحارس لا يبقى مرتفعاً. إنه ينخفض آلياً وبشكل ميكانيكي إلى الصفر. إنه لا يحمل ضغينة، ولا يظل في حالة دفاعية. إنه يعيد ضبط نفسه. هذا يثبت أن النظام لا يقرأ مجرد إشارة "كن لطيفاً" ثابتة؛ بل يدير بالفعل حلقة تحكم ديناميكية تتفاعل مع الموقف في الوقت الفعلي.
ماذا تقول الأرقام
اختبر الباحثون هذا النظام على نطاق واسع. استخدموا أربعة نماذج مختلفة من الطرازات العليا (GPT-5.5، وClaude Opus 4.8، وGemini 3.5 Flash، وGrok 4.3). لعب كل نموذج دورين: توليد الاستجابات، وكذلك العمل كحكم لتقييم مدى هدوء النماذج الأخرى. أجروا 16 تركيبة مختلفة من هذه النماذج ضد بعضها البعض.
كانت النتائج مذهلة:
- في 15 من أصل 16 من هذه المواجهات، تم الحكم على الذكاء الاصطناعي المزود بمتحكم "الغوبيرنات" بأنه أكثر هدوءاً من ذاك الذي يعمل بدونه.
- في 13 من أصل 16 حالة، كان هذا الفرق ذا دلالة إحصائية (مما يعني أنه لم يكن مجرد حظ).
- عمل النظام حتى عندما قام عائلة مختلفة تماماً من الذكاء الاصطناائي (Grok من xAI) بدور الحكم، مما أثبت أن التأثير لم يكن مجرد خدعة ناتجة عن أسلوب نموذج معين.
ومع ذلك، فإن الورقة البحثية صريحة بشأن أين يصطدم النظام بحائط مسدود. في نموذج واحد محدد (GPT-5.5)، كان التحسن ضئيلاً وبالكاد يُلاحظ. يفسر الباحثون ذلك بتشبيه "تدرج المساحة المتاحة" (headroom gradient): إذا كان النموذج هادئاً جداً ومدرباً جيداً، فلا يوجد مجال كبير للمتحكم لجعله أكثر هدوءاً. يبرز المتحكم بوضوح أكبر في النماذج التي تكون أكثر تفاعلاً بطبيعتها، مثل حزام الأمان الذي تظهر أهميته القصوى عندما تقود بسرعة، وليس عندما تكون متوقفاً.
ما الذي لا يمثله هذا البحث
من المهم معرفة ما لا يدعيه هذا البحث:
- ليس سحراً: النظام لا يجعل الذكاء الاصطناعي واعياً أو مدركاً. إنه مجرد مجموعة من القواعد والأرقام.
- ليس درعاً مثالياً: بينما لا يمكن خداع الحارس بالنصوص، إلا أن الذكاء الاصطناعي الرئيسي (الممثل) لا يزال يقرأ النصوص. قد يحاول مهاجم ذكي جداً التحدث إلى "الممثل" لإقناعه بتجاهل تعليمات "الحارس". تعترف الورقة بأن هذا خطر لم يتم اختباره بالكامل بعد.
- ليس علاجاً لكل شيء: يعمل النظام بشكل أفضل في المحادثات النصية. إنه بطيء جداً للأمور التي تتطلب ردود فعل فيزيائية فورية، مثل ذراع روبوت يتجنب كرة.
الحكم النهائي
يشير هذا البحث إلى أننا لسنا بحاجة إلى إعادة بناء الذكاء الاصطناعي من الصفر لجعله أكثر استقراراً. بدلاً من ذلك، يمكننا إحاطة النماذج الحالية بـ "منظم" حتمي بسيط لإبقائها تحت السيطرة. يعمل متحكم "الغوبيرنات" كمنظم حرارة استتبابي: يستشعر الحرارة، يخفض اللهب، ويعود للبرودة عندما تنطفئ النار. ورغم أنه لم يحل كل المشكلات (وأحد النماذج المحددة لم يحتج لمساعدة تذكر)، فإن حقيقة عمله عبر أربع عائلات مختلفة من الذكاء الاصطناعي وإظهاره لنمط "تعافٍ" واضح هي دليل قوي على أن هذا النهج هو وسيلة قابلة للتطبيق لبناء وكلاء ذكاء اصطناعي أكثر أماناً ومرونة. لقد نشر الباحثون جميع بياناتهم وأكوادهم، داعين أي شخص للتحقق من عملهم ومحاولة كسره، وهي طريقة علمية منفتحة للغاية للمضي قدماً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.