Forecasting Side Effects of Activation Steering

تخيل أن لديك عقل روبوت عملاق فائق الذكاء، يمكنه كتابة القصص، وحل المسائل الرياضية، وحتى تقديم النصائح. لقد وجد العلماء حيلة ذكية لتعديل طريقة تفكير هذا الروبوت دون الحاجة إلى إعادة بنائه من الصفر. فبدلاً من إعادة تدريب العقل بأكلي، يمكنهم ببساطة توجيه "اتجاه فكري" معين داخل عقل الروبوت. الأمر يشبه امتلاك مقبض تحكم في مستوى الصوت لسمة شخصية محددة: يمكنك رفع مستوى "المساعدة" أو خفض مستوى "الإطناب" بمجرد إضافة دفعة رياضية صغيرة إلى إشارات الروبوت الداخلية. يُسمى هذا التوجيه عبر التنشيط (activation steering)، وهو بمثابة جهاز تحكم عن بعد لشخصية الروبوت.

لكن هناك مشكلة؛ عندما ترفع أحد المقابض، قد تتغير أشياء أخرى بطرق لم تكن تتوقعها. إذا جعلت الروبوت يتحدث بإيجاز أكثر، فقد يصبح بالخطأ أقل أدباً. وإذا جعلته أكثر مساعدة، فقد يصبح شديد الحماس للاستجابة لطلبات خطيرة. تُسمى هذه التغييرات غير المرغوب فيها الآثار الجانبية (side effects). والسؤال الكبير لأي شخص يحاول استخدام هذه التكنولوجيا هو: هل يمكننا التنبؤ بهذه الآثار الجانبية قبل أن نقوم بتدوير المقبض فعلياً؟ إذا لم نتمكن من التنبؤ بذلك، فإن استخدام جهاز التحكم عن بعد هذا يشبه قيادة سيارة مع وضع عصابة على العينين—قد تصل إلى ما تريد، لكنك قد تصطدم بشيء آخر أيضاً.

هذا البحث يسأل هذا السؤال تحديداً: هل يمكننا التنبؤ بالآثار الجانبية للتوجيه عبر التنشيط قبل تطبيقه؟ يقول الباحثون نعم، يمكننا ذلك، ولكن ليس بالطريقة التي توقعها معظم الناس. لقد اكتشفوا أنه بينما تكون هذه الآثار الجانبية شائعة ومعقدة أحياناً، إلا أنها تتبع نمطاً مخفياً يمكن رسم خريطة له.

الخريطة الخفية للشخصية

لفهم ما يحدث، عامل الباحثون عقل الروبوت كمدينة ضخمة مكونة من 67 "حيّاً" مختلفاً، يمثل كل منها سلوكاً معيناً مثل "البرمجة"، أو "رفض الطلبات الضارة"، أو "كونه مضحكاً"، أو "إظهار التعاطف". أرادوا معرفة ما يحدث لكل حي عندما يقومون بـ "التوجيه" (أي الدفع/النكز) لأحد هذه الأحياء.

لقد بنوا مصفوفة التأثير المتبادل (Cross-Effect Matrix) ضخمة، وهي في الأساس خريطة توضح كيف يتفاعل كل حي عندما يتم النقر أو دفع حي آخر. تخيل لعبة أحجار الدومينو، ولكن بدلاً من إسقاط القطعة التالية فقط، فإن دفع حي واحد يرسل تموجات عبر المدينة بأكملها.

ما وجدوه كان مفاجئاً. أولاً، الآثار الجانبية موجودة في كل مكان. عندما قاموا بتوجيه سلوك واحد، تغيرت حوالي 33% إلى 50% من السلوكيات الأخرى بطريقة ملحوظة. لم يكن مجرد اهتزاز بسيط؛ بل أحياناً كان التغيير هائلاً، حيث أدى إلى إزاحة "درجة شخصية" الروبوت بمقدار نقطة كاملة على مقياس من أربع نقاط.

ثانياً، التغييرات غير متماثلة (asymmetric). هذا هو الجزء الأهم. في العالم الحقيقي، إذا دفعت باباً فإنه يفتح، وإذا دفعته في الاتجاه الآخر فإنه يغلق. لكن القواعد في عقل الروبوت أغرب بكثير. إذا دفعت "الدقة" لجعل الروبوت أكثر حذراً، فقد يجعله ذلك بالخطأ أكثر "عدم يقين". ولكن إذا دفعت "عدم اليقين" لتجعل الروبوت أقل ثقة، فقد يجعله ذلك في الواقع أقل "دقة". العلاقة ليست صورة مرآتية بسيطة؛ إنها شارع معقد باتجاه واحد.

لماذا فشلت لعبة التخمين القديمة؟

قبل هذا البحث، حاول الناس تخمين الآثار الجانبية باستخدام قاعدة بسيطة: "إذا بدا اتجاهان للتوجيه متشابهين (مثل متجهين يشيران في نفس الاتجاه)، فيجب أن يسببا تغييرات متشابهة". إنه يشبه افتراض أنه لمجرد أن أغنيتين كلاهما في مقام "الدو" (C)، فإنهما ستجعلانك تشعر بنفس الشعور.

اختبر الباحثون هذه الفكرة ووجدوا أنها فشلت فشلاً ذريعاً. لقد أظهروا أن النظر في مدى تشابه "اتجاهات الدفع" يفسر فقط حوالي 23% مما يحدث فعلياً. لم تستطع الطريقة القديمة التنبؤ بالعلاقات الغريبة ذات الاتجاه الواحد حيث يؤدي دفع (أ) إلى مساعدة (ب)، لكن دفع (ب) يضر (أ). كان تخمين "التشابه" يشبه محاولة التنبؤ بالطقس من خلال النظر إلى لون جواربك—الأمر ببساطة لا يعمل.

البلورة الجديدة: خريطة الانتشار

إذا فشلت الطريقة القديمة، فكيف تنبؤوا بالمستقبل؟ لقد بنوا أداة تنبؤ جديدة تسمى خريطة الانتشار (Propagation Map).

إليك كيف تعمل، باستخدام تشبيه بسيط: تخيل أن عقل الروبوت عبارة عن سلسلة من أنابيب المياه.

1. الدفعة (المصدر): أنت تضخ الماء في الأنبوب في نقطة معينة (طبقة الحقن).
2. التدفق (الانتشار): ينتقل الماء عبر الأنابيب، ملتفاً ومتعرجاً أثناء مروره عبر طبقات الروبوت.
3. المستشعر (الهدف): في نهاية الأنب pipe، يوجد مستشعر يكتشف ما إذا كان سلوك معين (مثل "كونه مضحكاً") موجوداً أم لا.

الطريقة القديمة كانت تنظر فقط إلى شكل الدفعة وتخمن ما سيحدث في النهاية. أما الطريقة الجديدة فهي تقوم فعلياً بنمذجة الأنابيب. لقد دربوا نظاماً لتعلم كيف تنتقل دفعة في بداية الأنبوب عبر تعرجات ومنعطفات عقل الروبوت لتصل إلى النهاية.

استخدموا هذه الخريطة للتنبؤ بالآثار الجانبية دون توجيه الروبوت فعلياً. لقد نظروا فقط إلى أفكار الروبوت الطبيعية وغير الموجهة لتعلم كيف تعمل "الأنابيب". ثم سألوا: "إذا دفعنا هذا الاتجاه المحدد، فأين سيذهب الماء، وأي المستشعرات سيصطدم بها؟"

النتائج: بلورة لها حدودها

كانت النتائج مثيرة للإعجاب. استطاعت طريقة التنبؤ الجديدة الخاصة بهم التنبؤ بشكل صحيح بما إذا كان الأثر الجانبي سيؤدي إلى تضخيم (جعل السلوك أقوى) أو تثبيط (جعل السلوك أضعف) بنسبة تتراوح بين 68% إلى 78% من التغييرات الرئيسية. وهذا أفضل بكثير من تخمينات "التشابه" القديمة، التي بالكاد تفوقت على الصدفة في هذه التنبؤات المحددة.

ومع ذلك، كان البحث صادقاً بشأن ما لا يستطيع فعله.

• يتنبأ بالاتجاه، وليس بالحجم: الأداة بارعة في إخبارك إذا كان السلوك سيصبح أقوى أو أضعف، لكنها ليست مثالية في إخبارك بمقدار التغيير بالضبط. يعتمد حجم التغيير بشكل أساسي على السلوك المستهدف نفسه، وليس على الدفعة.
• ليست سحراً: التنبؤات مبنية على أنماط موجودة في البيانات. إنها ليست "حقيقة مطلقة" لأنها لا تزال تعتمد على حكم ذكاء اصطناعي لقياس السلوكيات.
• إنها محددة: هذا العمل صالح لأنواع "التوجيه الخطي" المحددة التي اختبروها. إذا اخترع شخص ما طريقة مختلفة تماماً لتوجيه الروبوت في المستقبل، فقد تحتاج هذه الخريطة إلى إعادة رسم.

لماذا يهم هذا؟

هذا البحث يغير قواعد اللعبة لكل من يحاول التحكم في الذكاء الاصطناعي. فبدلاً من تدوير المقابض بعشوائية والأمل في الحصول على أفضل النتائج، أو الانتظار حتى يقول الروبوت شيئاً غريباً لتدرك أنك أفسدت شيئاً ما، يمكن للممارسين الآن النظر إلى الخريطة أولاً.

يمكنهم أن يسألوا: "إذا جعلت الروبوت أكثر إيجازاً، فهل سيصبح أقل أماناً؟" ويحصلون على إجابة موثوقة قبل أن يلمسوا الكود البرمجي. هذا يحول التوجيه عبر التنشيط من لعبة حظ إلى مهمة هندسية يمكن التنبؤ بها. ورغم أنه لا يحل كل المشكلات، إلا أنه يمنحنا أداة قوية لرؤية التموجات غير المرئية في عقل الروبوت قبل أن نحدث أي اضطراب.