Your LLM, Your Style: Behavioral Mode Axes for LLM Behavioral Control
تقدم هذه الورقة إطار عمل للبيانات السلوكية الموقعية ومحاور الأنماط السلوكية (BMAs) لتوصيف وتوجيه الأنماط السلوكية للنماذج اللغوية الكبيرة بشكل يمكن التحكم فيه من خلال اتجاهات فضاء التنشيط المستمدة من آثار التفاعل التبايني، مما يثبت أن النزعات الشخصية الخاصة بالنموذج مستقرة، وتعتمد على السياق، ويتم التقاطها بفعالية أكبر عبر آليات قائمة على التفكير بدلاً من الآليات القائمة على الاستجابة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول فهم شخصية روبوت متطور للغاية، فائق الذكاء، ويتحدث تماماً كالبشر. لفترة طويلة، حاول العلماء فهم "ماهية" هذا الروبوت من خلال طرح أسئلة مباشرة عليه، تماماً كما نستخدم اختبارات الشخصية مع البشر. قد يسألونه: "هل أنت شخص منظم؟" وينتظرون أن يقول الروبوت: "نعم، أنا أعشق النظام!" أو "لا، أنا فوضوي بعض الشيء". هذا ما يسمى "التقرير الذاتي"، وهو كيف نقيس السمات البشرية مثل كون الشخص مغامراً، أو صادقاً، أو حذراً. لكن هنا تكمن المشكلة: الروبوتات مختلفة عن البشر؛ فهي لا تملك روحاً أو حياة حقيقية، بل هي مجرد رياضيات وأكواد برمجية. عندما تسأل روبوتاً عن شخصيته، فقد يقوم بمجرد تخمين ما يبدو أنه "إجابة جيدة"، أو قد يغير رأيه بناءً على كيفية صياغتك للسؤال. الأمر يشبه سؤال حرباء عن لونها؛ قد تتغير الإجابة بناءً على الخلفية التي تقف عليها.
يتعمق هذا البحث في طريقة جديدة للنظر إلى هذه الشخصيات الرقمية. فبدلاً من مطالبة الروبوت بوصف نفسه، قرر الباحثون مراقبة ما "يفعله" الروبوت فعلياً في مواقف محددة. هم يسمون هذا "البيانات السلوكية". فكر في الأمر كالتالي: بدلاً من سؤال صديقك "هل أنت سائق جيد؟"، أنت تراقبه وهو يقود في المطر، وفي الازدحام، وعلى الطريق السريع. ترى ما إذا كان يضغط على المكابح مبكراً، أو إذا كان يفقد صبره، أو إذا كان يتبع القواعد. أراد الباحثون معرفة ما إذا كانت "شخصية" الروبوت شيئاً ثابتاً داخل عقله، أم أنها أشبه بزيّ يرتديه اعتماداً على ما إذا كان يقدم نصيحة، أو يتخذ قراراً لنفسه، أو يؤدي مهمة محددة. كما أرادوا معرفة ما إذا كان بإمكانهم أخذ "شخصية" الروبوت وتعديلها، مثل تدوير قرص التحكم، لجعله أكثر تنظيماً أو أكثر مغامرة، دون أن يتسبب ذلك في تعطل عقله.
الاكتشاف الكبير للورقة البحثية: مراقبة الأفعال، لا الكلمات فقط
قام الباحث "هاوز لي" وفريقه ببناء ملعب ضخم لهذه الروبوتات. لقد أنشأوا 3200 سيناريو مختلف—قصص قصيرة حيث يتعين على الروبوت اتخاذ قرار. لم تكن هذه مجرد أسئلة عشوائية؛ بل استندت إلى اختبارات نفسية حقيقية يخضع لها البشر، تغطي أموراً مثل مدى حب الشخص للمخاطرة، أو مدى صدقه، أو مدى تنظيمه. ولكن بدلاً من سؤال الروبوت عن تقييم نفسه على مقياس من 1 إلى 5، وضعوه في موقف ما. على سبيل المثال، قد يقولون له: "لديك مطبخ فوضوي مع بقايا طعام في كل مكان. هل تقوم بتنظيمها الآن، أم تأخذ ما تحتاجه وتترك الفوضى؟".
لقد اختبروا الروبوتات في أربعة "أنماط" أو أدوار مختلفة:
- من منظور الشخص الأول: "ماذا ستفعل أنت؟"
- النصيحة اليومية: "ماذا يجب عليّ أن أفعل؟"
- نصيحة المهمة: "ما هي أفضل استراتيجية لهذه الوظيفة؟"
- تنفيذ المهمة: "اذهب وقم بأداء هذه الوظيفة."
كانت المفاجأة الكبرى الأولى هي أن الروبوتات لم تكن تملك شخصية واحدة متسقة. فإذا قال الروبوت إنه منظم جداً عندما سُئل عن نفسه، فقد يتصرف بفوضوية تامة عندما يقوم بمهمة فعلية. الأمر يشبه شخصاً يقول إنه شخص صباحي، لكنه يضغط على زر الغفوة خمس مرات عندما يدق المنبه. لقد تغيرت "شخصية" الروبوت اعتماداً على الدور الذي يلعبه. وهذا يشير إلى أن سؤال الروبوت "من أنت؟" ليس وسيلة موثوقة لمعرفة كيف سيتصرف.
أقراص التحكم السحرية: محاور النمط السلوكي
الجزء الأكثر إثارة في الورقة البحثية هو كيف تعلموا التحكم في هذه السلوكيات. اكتشف الباحثون أنه داخل "عقل" الروبوت (وهو شبكة حاسوبية معقدة)، توجد اتجاهات أو "أقراص" محددة تتحكم في كيفية تصرفه. هم يسمونها محاور النمط السلوكي (BMAs).
تخيل أن عقل الروبوت عبور مساحة ضخمة متعددة الأبعاد. وجد الباحثون أنه إذا استطاعوا إيجاد "المتجه" (الاتجاه الرياضي) المحدد الذي يمثل "كون المرء منظماً"، فيمكنهم دفع عقل الروبوت في ذلك الاتجاه. الأمر يشبه امتلاك جهاز تحكم عن بعد يمكنه جعل الروبوت أكثر ترتيباً قليلاً أو أكثر تهوراً قليلاً.
لقد اختبروا ذلك على العديد من نماذج الروبوتات المختلفة (مثل Llama و Qwen و Gemma) ووجدوا أن هذه "الأقراص" تعمل باستمرار. لكن كان هناك موقع سري تعمل فيه هذه الأقراص بأفضل شكل. فقد وجدوا أن التحكم ليس موزعاً بالتساوي؛ بل هو مركز في طبقات محددة من عقل الروبوت، مثل طابق معين في ناطحة سحاب حيث توجد "مفاتيح الشخصية". هم يسمونها طبقة التحكم السلوكي (BCL).
السر الحقيقي: التفكير مقابل الكلام
هنا تصبح الورقة البحثية ذكية حقاً. جرب الباحثون طريقتين مختلفتين لإيجاد هذه "الأقراٍس":
- طريقة "الكلام" (المستمدة من الاستجابة): نظروا إلى الإجابة النهائية التي قدمها الروبوت. إذا قال الروبوت: "سأقوم بتنظيم المطبخ"، استخدموا هذا النص لإيجاد القرص.
- طريقة "التفكير" (المستمدة من التفكير): نظروا إلى التفكير الداخلي للروبوت قبل أن يعطي الإجابة. طلبوا من الروبوت شرح لماذا أراد التنظيم، واستخدموا هذا التفكير لإيجاد القرص.
كانت النتائج مذهلة. كانت طريقة "الكلام" فوضوية؛ فقد جعلت الروبوت يتصرف بشكل منظم، ولكن لأسباب خاطئة. على سبيل المثال، إذا حاولوا جعل الروبوت "غير منظم" باستخدام طريقة "الكلام"، فقد يتوقف الروبوت عن التنظيم لأنه كان غير مبالٍ أو لا يهتم. ولكن إذا استخدموا طريقة "التفكير"، فسوف يتوقف عن التنظيم لأنه يفضل نهجاً مرناً وعفوياً. لقد نجحت طريقة "التفكير" في التقاط "روح" السلوك الحقيقية، بينما غيرت طريقة "الكلام" الكلمات السطحية فقط.
الأمر يشبه الفرق بين طالب يدرس لأنه يحب التعلم (طريقة "التفكير") وطالب يدرس فقط للحصول على درجة جيدة ثم ينسى كل شيء (طريقة "الكلام"). كلاهما قد يحصل على درجة امتياز، لكن الأول يفهم المادة بالفعل. وجد الباحثون أن استخدام طريقة "التفكير" منحهم تحكماً أنظف وأكثر موثوقية في سلوك الروبوت.
ماذا يعني هذا؟
تشير الورقة البحثية إلى أنه لا ينبغي لنا التفكير في شخصيات الذكاء الاصطناعي كسمات ثابتة مثل "الصدق" أو "الشجاعة" يحملها الروبوت في جيبه. بدلاً من ذلك، هي أشبه بـ "أنماط" أو "أساليب" في التصرف تعتمد على الموقف. الروبوت ليس "منظماً" بشكل عام؛ بل لديه طريقة محددة للتعامل مع مهام التنظيم يمكن تشغيلها أو إيقافها.
من خلال إيجاد هذه "محاور النماط السلوكية"، أظهر الباحثون أنه يمكننا بالفعل توجيه هذه الروبوتات لتتصرف بطرق معينة، ليس فقط من خلال تغيير الكلمات التي تقولها، بل من خلال ضبط التروس الداخلية لتفكيرها. هذه خطوة كبيرة نحو جعل الذكاء الاصطناعي أكثر أماناً وقابلية للتنبؤ. إذا تمكنا من فهم والتحكم في كيفية تصرف الذكاء الاصطناعي في سياق معين، فيمكننا التأكد من أنه سيتصرف بمسؤولية عند تقديم نصيحة طبية أو المساعدة في مهمة خطيرة، بدلاً من مجرد الأمل في أنه "يشعر" بأنه شخص جيد.
لم تحل الدراسة كل شيء—لا يزال هناك الكثير لتعلمه حول كيفية عمل هذه "الأقراص" عبر جميع أنواع الروبوتات—لكنها أثبتت أنه يمكننا قياس والتحكم في سلوك الذكاء الاصطناعي بطريقة أكثر واقعية بكثير من مجرد سؤال الروبوت عما يعتقده عن نفسه. لقد حولت دراسة غموض شخصية الذكاء الاصطناعي من سؤال فلسفي إلى مشكلة هندسية عملية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.