Steerable Chatbots: Exploring Personalization Control Interfaces via LLM Activation Steering
تقدم هذه الورقة البحثية "الدردشة الآلية القابلة للتوجيه" كنموذج جديد للتخصيص يتيح للمستخدمين التحكم المباشر في مخرجات النماذج اللغوية الكبيرة عبر توجيه التنشيط بدلاً من صياغة الأوامر، وتقيم ثلاثة تصميمات لواجهات الاستخدام من خلال دراسة مستخدمين لإثبات إمكاناتها في تحقيق محاذاة أفضل للتفضيلات مع تسليط الضوء على تنوع قيم المستخدمين فيما يتعلق بالتحكم والشفافية.
المؤلفون الأصليون:Jessica Y. Bo, Tianyu Xu, Ishan Chatterjee, Katrina Passarella-Ward, Achin Kulshrestha, D Shin
تخيل أنك تتحدث إلى روبوت فائق الذكاء يعرف كل شيء في العالم. عادةً، إذا أردت منه أن يتصرف بطريقة معينة — مثل أن يكون فخماً للغاية أو اقتصادياً للغاية — عليك أن تشرح ذلك باستخدام الكلمات. قد تقول: "أريد عشاءً فاخراً"، أو "ميزانيتي محدودة". ولكن في بعض الأحيان، يكون من الصعب العثين على الكلمات المناسبة، أو قد لا "يفهم" الروبوت تماماً ما تقصده، خاصة عندما تبدأ الحديث معه لأول مرة. تتحدث هذه الورقة عن طريقة جديدة للتحدث مع هذه الروبوتات، ليس فقط بالكلمات، بل باستخدام "مقبض تحكم" لشخصيتها.
العلماء وراء هذه الدراسة يعملون في مجال يسمى "التفاعل بين الإنسان والحاسوب"، وهو باختاً دراسة كيفية تعامل البشر والآلات مع بعضهم البعض. إنهم يستخدمون تقنية تسمى "توجيه التنشيط" (activation steering). فكر في النموذج اللغوي الكبير (عقل الدردشة الآلية) كأنه راديو ضخم ومعقد. عادةً، تقوم بتغيير المحطة عن طريق الكتابة، لكن "توجيه التنشيط" يشبه وجود قرص دوار يقوم برفع أو خفض "ترددات" معينة داخل عقل الروبوت مباشرة. إذا رفعت قرص "الفخامة"، سيبدأ الروبوت في التفكير في الأشياء الثمينة. وإذا رفعت قرص "الميزانية المحدودة"، سيبدأ في التفكير في توفير المال. السؤال الكبير الذي طرحه الباحثون هو: إذا أعطينا الناس العاديين هذا القرص الخاص، فكيف يجب أن يكون شكله؟ هل يجب أن يحركوه ذهاباً وإياباً؟ أم يجب ضبطه مرة واحدة ونسيانه؟ أم يجب أن يفهم الروبوت ذلك من تلقاء نفسه؟
تقدم هذه الورقة فكرة جديدة تسمى "روبوتات الدردشة القابلة للتوجيه" (Steerable Chatbots). بدلاً من مطالبتك بكتابة فقرة مثالية لتخبر الروبوت بما تحبه، قام الباحثون ببناء واجهات تسمح لك بالتحكم في شخصية الروبوت مباشرة باستخدام رقم بسيط أو شريط تمرير. لقد اختبروا ثلاث طرق مختلفة للقيء بذلك. الطريقة الأولى، وتسمى SELECT، تشبه شريط التحكم في مستوى الصوت في هاتفك؛ يمكنك سحبه للأعلى أو للأسفل أثناء الدردشة لتغيير "جو" الروبوت فوراً. الطريقة الثانية، وتسمى CALIBRATE، تشبه تجهيز نظارة طبية جديدة؛ قبل أن تبدأ في التحدث، يعرض عليك الروبوت إجابتين مختلفتين، وتختار الإجابة التي تفضلها، مما يساعده في العثور على الإعداد المثالي قبل بدء المحادثة حتى. أما الطريقة الثالثة، وتسمى LEARN، فهي تشبه صديقاً يقرأ الأفكوت؛ يستمع الروبوت لما تقوله ويخمن تفضيلاتك، ويقوم بتعديل إعداداته تلقائياً في الخلفية دون أن تلمس أي شيء.
أجرى الباحثون اختبارات حاسوبية أولاً للتأكد من أن "الأقراص" تعمل بالفعل. ووجدوا أن تدوير القرص يغير بالفعل إجابات الروبوت، مما يجعله يتحدث عن مطاعم اقتصادية عند تدويره في اتجاه معين ومطاعم فاخرة في الاتجاه الآخر. بعد ذلك، دعوا 14 شخصاً حقيقياً لتجربة هذه الروبوتات الثلاثة. كانت النتائج مثيرة للاهتمام: ساعدت جميع الطرق الثلاث لاستخدام القرص الروبوت على فهم المستخدمين بشكل أفضل مما لو طلب من الروبوت التخمين بناءً على الكلمات وحدها. ومع ذلك، لم يحب الجميع نفس طريقة التحكم. البعض أحب وجود شريط التمرير (SELECT) لأنهم شعروا بالسيطرة الكاملة. والبعض الآخر فضل أن يفهم الروبوت الأمر بنفسه (LEARN) لأنه بدا أكثر طبيعية وأقل جهداً. بينما أعجب قلة بـخطوة الإعداد (CALIBRATE) لأنها بدت دقيقة، مثل فحص النظر.
تشير الدراسة إلى أن منح الناس "مقبضاً" مباشلاً للتحكم في شخصية روبوت الدردشة هو أداة قوية، خاصة عندما تبدأ استخدامه لأول مرة ولا تملك تاريخاً طويلاً من الدردشات لتعليم الروبوت. ولكن لا يوجد تصميم واحد مثالي للجميع. فبعض الناس يريدون أن يكونوا هم قبطان السفينة، بينما يريد آخرون أن تبحر السفينة من تلقاء نفسها. وتخلص الورقة إلى أن مستقبل التحدث مع الذكاء الاصطناعي قد لا يقتصر فقط على الكتابة بشكل أفضل، بل يتعلق بمنحنا أنواعاً مختلفة من عناصر التحكم — مثل أشرطة التمرير، أو معالجات الإعداد، أو أنظمة القيادة الآلية — حتى نتمكن من اختيار مدى رغبتنا في توجيه المحادثة بأنفسنا.
ملخص تقني: روبوتات الدردشة القابلة للتوجيه عبر توجيه تنشيط النماذج اللغوية الكبيرة (LLM)
بيان المشكلة تعتمد النماذج الحالية لتخصيص استجابات النماذج اللغوية الكبيرة (LLM) بشكل كبير على صياغة المستخدم لتفضيلاته من خلال التلقين باللغة الطبيعية. ويقدم هذا النهج عائقين كبيرين: (1) مشكلة "البداية الباردة" (cold-start)، حيث يفتقر المستخدمون إلى سجل محادثات لكي يسترجع النموذج منه التفضيلات، و(2) العبء المعرفي المتمثل في هيكلة التفضيلات المعقدة في مطالبات فعالة، وهي مهارة يفتقر إليها الكثير من المستخدمين العاديين. إن الحلول التقنية الحالية مثل التوليد المعزز بالاسترجاع (RAG) أو الضبط الدقيق للنموذج (fine-tuning) تتطلب موارد حوسبية مكثفة وتتطلب بيانات مستخدم كبيرة، مما يجعلها غير مناسبة للتخصيص الفوري والدقيق. يقترح المؤلفون تحولاً من التوصيف القائم على التلقين إلى التلاعب المباشر بسلوك النموذج لمواءمة مخرجات النموذج اللغوي الكبير مع تفضيلات المستخدم الكامنة.
المنهجية يقدم البحث مفهوم "روبوتات الدردشة القابلة للتوجيه" (Steerable Chatbots)، وهو نموذج يمكن للمستخدم من خلاله التلاعب بعامل قياسي خطي للتحكم في قوة واتجاه أبعاد تفضيلات محددة ضمن مخرجات النموذج اللغوي الكبير. ويتم تحقيق ذلك من خلال توجيه التنشيط (activation steering)، وهي تقنية تقوم بحقن "متجهات توجيه" (steering vectors) محسوبة مسبقاً في المسار المتبقي (residual stream) للنموذج أثناء عملية الاستدلال.
التنفيذ التقني:
متجهات التوجيه: يحسب المؤلفون المتجهات عن طريق مقارنة التمثيلات المرغوبة وغير المرغوب فيها لسلوك معين (مثل "فاخر" مقابل "اقتصادي") باستخدام مجسات خطية طبقية (layer-wise linear probes) يتم تدريبها على عينات بيانات إيجابية وسلبية.
آلية التوجيه: أثناء الاستدلال، يتم إضافة متجه التوجيه (v) إلى التمثيلات الوسيطة (h) للنموذج اللغوي الكبير، مع ضربه في عامل قوة (d) يحدده المستخدم: hsteered←h+d⋅v.
مقاييس التقييم: يتم قياس التعبير عن التفضيلات باستخدام تشابه جيب التمام النسبي بين تضمينات مخرجات النموذج ومجموعات البيانات المرجعية (مراجعات Yelp) التي تمثل سمات تفضيل محددة (التكلفة، الأجواء، العمر، الوقت، المطبخ).
تصاميم الواجهة: يستكشف المؤلفون ثلاثة تصاميم مختلفة للواجهة يتم رسمها عبر محورين: الوكالة/القدرة على الفعل (التي يقودها المستخدم مقابل التي يقودها النظام) والسيولة (ثابتة مقابل متكيفة):
الاختيار SELECT (وكالة عالية، سيولة متوسطة): يتلاعب المستخدم مباشرة بمنزلق (من -100 إلى 100) في الوقت الفعلي لتعديل عامل التوجيه. وهذا يسمح بالتحكم الصريح والمباشر في أبعاد التفضيل.
المعايرة CALIBRATE (وكالة متوسطة، سيولة منخفضة): قبل المحادثة، يخضع المستخدم لعملية معايرة حيث يختار بشكل متكرر المخرجات المفضلة من أزواج من الاستجابات المولدة بقوى توجيه مختلفة. يستقر النظام بعد ذلك على قيمة تفضيل ثابتة للجلسة.
التعلم LEARN (وكالة منخفضة، سيولة عالية): يستنتج النظام ضمنياً تفضيلات المستخدم من مشاعر المحادثة ويقوم بتحديث عامل التوجيه في الخلفية دون مدخلات صريحة من المستخدم، مع عرض القوة المستنتجة لضمان الشفافية.
الإعداد التجريبي:
التجارب الحوسبية: تم التحقق من صحتها عبر خمسة نماذج لغوية كبيرة مفتوحة المصدر (تتراوح من 1.6 مليار إلى 9 مليارات معلمة) لضمان موثوقية التوجيه (E1) وقابليته للتركيب مع تلقين المستخدم (E2).
دراسة المستخدم: دراسة داخلية للمشاركين (n=14) تضمنت مهام تخطيط نمط الحياة في حالة البداية الباردة (تسوق الهدايا، السفر، تناول الطعام، الوصفات). تفاعل المشاركون مع واجهات التوجيه الثلاث وخط أساس يعتمد على التلقين فقط (PROMPT).
النتائج الرئيسية
القابلية الحوسبية: أظهر توجيه التنشيط ارتباطاً قوياً، شبه خطي، بين قوة التوجيه والتفضيل المُعبر عنه عبر جميع النماذج المختبرة. والأهم من ذلك، وُجد أن الطريقة متوافقة مع تلقين المستخدم؛ حيث يمكن للتلقين أن يكثف أو يقلل من تأثير التوجيه، مما يسمح بالتباين السياقي ضمن ملف تفضيل موجه.
مواءمة التفضيلات (U1):
أظهر كل من SELECT و CALIBRATE ارتباطات معنوية متوسطة (r=0.46 و r=0.59 على التوالي) بين مخرجات الروبوت وتفضيلات المستخدم الحقيقية، متفوقين بشكل ملحوظ على خط الأساس القائم على التلقين (r=0.11).
أظهر LEARN ارتباطاً أضعف (r=0.26)، مما يشير إلى أن خوارزمية التحديث القائمة على المشاعر كانت أقل قوة في التقاط نوايا المستخدم المتنوعة في إطار زمني قصير.
بشكل عام، حققت روبوتات الدردشة القابلة للتوجيه ارتباطاً متوسطاً (r=0.44) مع التفضيلات الكامنة، مما يؤكد صحة النهج في سيناريوهات البداية الباردة.
التصورات الذاتية (U2):
لم يكن هناك فرق معنوي في "احتمالية الاستخدام"، "الرضا"، أو "القدرة المدركة على التحكم" عبر الواجهات عند مقارنتها مباشرة.
ومع ذلك، تم تقييم جميع واجهات التوجيه بدرجات أعلى بكثير من خط الأساس في الاستمرارية المدركة، مما يشير إلى أن المستخدمين شعروا بأن تفضيلاتهم يتم تذكرها بشكل أفضل عبر الجلسات.
تباين القيم: كشف التحليل النوعي عن تفضيلات متباينة للمستخدمين؛ حيث قدر بعض المستخدمين التحكم الصريح في SELECT، بينما فضل آخرون تجربة LEARN التي تتسم بسلاسة وانخفاض العبء المعرفي. كما تم تقدير CALIBRATE لدقتها وطبيعتها الموفرة للوقت، لكنها تعرضت لانتقادات بسبب احتمال عدم المواءمة إذا فشلت خطوة المعايرة في التقاط التفضيلات الدقيقة.
الأهمية والادعاءات يدعي البحث تقديم نموذج جديد لتخصيص النماذج اللغوية الكبيرة (LLM) ينقل عبء صياغة التفضيلات من التلقين باللغة الطبيعية إلى التلاعب المباشر بالبنى الداخلية للنموذج. ويفترض المؤلفون أن توجيه التنشيط يوفر بديلاً فعالاً من حيث الموارد للضبط الدقيق، لأنه لا يتطلب إعادة تدريب أوزان النموذج ويعمل باستخدام متجهات خفيفة الوزن.
تعيد هذه الدراسة صياغة تخصيص النماذج اللغوية الكبيرة كمسألة تصميم تفاعلي، وتثبت أن تعريض عامل توجيه خطي يمكن أن يواءم مخرجات النموذج بفعالية مع تفضيلات المستخدم الكامنة في سيناريوهات البداية الباردة. ويؤكد المؤلفون أنه لا يوجد تصميم واحد "أمثل"؛ بل إن قيم المستخدم فيما يتعلق بـ الوكالة (التحكم مقابل الأتمتة) والسيولة (الثبات مقابل التكيف) هي التي تحدد التصميم الأكثر ملاءمة. ويخلصون إلى أن روبوتات الدردشة القابلة للتوجيه توفر آلية واعدة وفعالة حوسبياً لإنشاء مساعدين ذكاء اصطناعي مخصصين وقابلين للتوجيه المباشر، رغم إقرارهم بالقيود المتعلقة بدقة النماذج الأولية منخفضة الدقة واختزال التفضيلات المعقدة في أبعاد مفردة.