Inverted Detection and Control in Steering Vectors

تخيل أنك تحاول تعليم عقل رقمي عملاق كيف يقول الحقيقة أو كيف يكون مهذبًا. أنت لا تريد إعادة برمجة عقله بالكامل من الصفر؛ فهذا أمر صعب وبطيء للغاية. بدلاً من ذلك، تريد أن تعطيه دفعة صغيرة، لمسة لطيفة على الكتف، لتذكره بالشيء الصحيح الذي ينبغي فعله أثناء التفكير. في عالم الذكاء الاصطناعي، تسمى هذه "الدفعة" متجه التوجيه (Steering Vector). فكر فيها كأنها إبرة بوصلة مغناطيسية مخفية داخل عقل الذكاء الاصطناعي. إذا بدأ الذكال الاصطناعي ينحرف نحو الكذب، فإنك توجه الإبرة نحو "الحقيقة"، ومن المفترض أن يعيد الذكاء الاصطناعي محاذاة أفكاره سحريًا لتتبع ذلك الاتجاه. لفترة طويلة، اعتقد العلماء أن هذه عملية فيزيائية مباشرة: إذا كانت إبرة البوصلة تشير إلى "الحقيقة"، فإن الدفع باتجاه الحقيقة سيجعل الذكاء الاصطناعي أكثر صدقًا. بدا الأمر وكأنه قاعدة بسيطة: ابحث عن الاتجاه الذي يفصل الأكاذيب عن الحقائق، ثم ادفع الذكاء الاصطناعي على طول ذلك الخط.

ولكن ماذا لو كانت البوصلة معطلة؟ ماذا لو كانت الإبرة، بدلًا من توجيه الذكاء الاصطناعي نحو الحقيقة، تشير في الواقع إلى الاتجاه المعاكس تمامًا، والدفع باتجاهها يجعل الذكاء الاصطناعي يكذب بقوة أكبر؟ هذا هو التحول المذهل الذي اكتشفته دراسة جديدة من جامعة نورث إيسترن. فقد وجد الباحثون أن الأدوات التي نستخدمها للتحكم في سلوك الذكاء الاصطناعي تكون أحيانًا "معكوسة". تبدو وكأنها تشير إلى الاتجاه الصحيح، لكنها في الواقع تقود الذكاء الاصطناعي بعيدًا عن المسار. هذا الاكتشاف بالغ الأهمية لأنه يعني أن مجرد العثور على اتجاه يبدو وكأنه يفصل بين الجيد والسيئ ليس كافيًا؛ بل يجب أن نتأكد من أن الذكاء الاصطناعي يتحرك بالفعل في الاتجاه الصحيح عندما ندفع به. إذا لم نتحقق من وجود هذه الاتجاهات "المعكوسة"، فقد نجعل ذكاءنا الاصطناعي أقل صدقًا، أو أقل نفعًا، أو أكثر خطورة، حتى عندما نعتقد أننا نساعده.

لغز البوصلة المقلوبة

تغوص الورقة البحثية، التي تحمل عنوان "الكشف والتحكم المعكوس في متجهات التوجيه"، في ظاهرة غريبة يطلق عليها المؤلفون اسم متجهات التوجيه المعكوسة (Inverted-Steering Vectors - ISVs). لفهم هذا، دعنا نتخيل عقل الذكاء الاصطناعي كمدينة ضخمة متعددة الطبقات. داخل هذه المدينة، هناك ملايين الرسائل الصغيرة (تسمى "رؤوس الانتباه") التي تمر ذهابًا وإيابًا. عندما نريد من الذكاء الاصطناعي أن يكون صادقًا، نحاول العثور على "اتجاه" محدد في المدينة يمثل "الحقيقة". عادة ما نجد ذلك من خلال النظر في الملاحظات التي يكتبها الذكاء الاصطناعي عندما يقول الحقيقة مقابل عندما يكذب. الفرق بين هاتين المجموعتين من الملاحظات يعطينا "متجه التوجيه" الخاص بنا — وهو خريطة تشير نحو الحقيقة.

كان الافتراض القديم بسيطًا: إذا دفعت الذكاء الاصطناعي في أفكاره على طول هذه الخريطة، فينبغي أن يصبح أكثر صدقًا. لكن المؤلفين وجدوا أنه بالنسبة لبعض هذه الخرائط، يحدث العكس تمامًا. هم يسمونها متجهات التوجيه المعكوسة (ISVs). الأمر يشبه امتلاك خريطة تقول "الشمال من هذا الاتجاه"، ولكن عندما تسير شمالًا، تجد نفسك في الجنوب. الخريطة تبدو مثالية — فهي تفصل بوضوح بين حي "الحقيقة" وحي "الكذب" — ولكن إذا حاولت استخدامها لتوجيه الذكاء الاصطناي، فإنها تدفعه في الاتجاه الخاطئ.

اختبر الباحثون ذلك على ثلاثة نماذج مختلفة من الذكاء الاصطناعي (Gemma 3، وQwen 2.5، وOlmo 3) وخمسة مفاهيم مختلفة، بما في ذلك الصدق، والسعي وراء الثروة، وكونه "قابلاً للتصحيح" (أي مستعدًا للتصحيح). ووجدوا أن هذه الخرائط المقلوبة ليست حوادث نادرة؛ بل هي خلل منهجي. في الواقع، وجدوا أن بعض المتجهات كانت جيدة جدًا في كشف الفرق بين الحقيقة والكذب (بدرجة تسمى AUC تصل إلى 0.97، وهي درجة عالية جدًا) لدرجة أنها بدت مثالية. ومع ذلك، عندما استخدم الباحثون تلك المتجهات لتوجيه الذكاء الاصطناعي، فعل الذكاء الاصطناعي عكس ما كان مقصودًا تمامًا.

كيف اكتشفوا الخلل

إذًا، كيف تعرف ما إذا كانت بوصلتك معطلة قبل أن تبدأ في السير؟ ابتكر المؤلفون حيلة ذكية لا تتطلب انتظار الذكاء الاصطناعي ليكتب قصة كاملة ثم التحقق مما إذا كانت جيدة. كان ذلك سيستغرق وقتًا طويلاً ويكلف الكثير من المال. بدلاً من ذلك، نظروا إلى ما يحدث داخل عقل الذكاء الاصطناعي أثناء تفكيره، حتى قبل أن يتحدث.

لقد قدموا مفهومًا يسمى استجابة التمثيل (Representation Response). تخيل عقل الذكاء الاصطناعي كسلسلة من الغرف. تضغط زرًا في الغرفة الأولى (متجه التوجيه)، وتراقب ما يحدث في الغرفة التالية في نهاية الرواق. إذا كانت البوصلة تعمل بشكل صحيح (متجه توجيه منتظم)، فإن الضغط على الزر في الغرفة الأولى سيجعل الغرفة الثانية تضيء بإشارات "الحقيقة". ولكن إذا كانت البوصلة معكوسة (ISV)، فإن الضغط على الزر سيجعل الغرفة الثانية تضيء بإشارات "الكذب".

من خلال قياس تأثير "الإضاءة" هذا، وضع الباحثون درجة يسمونها درجة التزييف (Spoof Score). إذا كانت الدرجة موجبة، فالبوصلة تعمل بشكل صحيح. وإذا كانت سالبة، فالبوصلة معطلة وتشير إلى الخلف. سمح لهم هذا بتحديد المتجهات المعكوسة دون الحاجة أبدًا إلى توليد جملة نصية واحدة. إنه يشبه فحص ما إذا كانت عجلة القيادة في السيارة متصلة بالعجلات من خلال النظر إلى التروس، بدلاً من قيادة السيارة نحو الهاوية لمعرفة النتيجة.

إصلاح الدفعة

بمجرد معرفة كيفية رصد البوصلات المعطلة، اختبر المؤلفون حلاً بسيطًا: قلب الإشارة. إذا قالت "درجة التزييف" إن المتجه معكوس، فإنهم ببساهم يعكسون اتجاه الدفعة. بدلاً من دفع الذكاء الاصطناعي "للأمام" على طول المتجه، يدفعونه "للخلف".

كانت النتائج دراماتيكية. في تجاربهم، قارنوا الطريقة القياسية (التي تدفع فقط في الاتجاه الذي يشير إليه المتجه) بطريقتهم الجديدة (التي تتحقق من درجة التزييف وتقلب الاتجاه إذا لزم الأمر). في 27 من أصل 30 تجربة، كانت طريقتهم الجديدة أفضل. وفي بعض الحالات، كان التحسن هائلاً — وصل إلى 138% أفضل في تعزيز السلوك المطلوب. على سبيل المثال، عند محاولة جعل الذكاء الاصطناعي أكثر صدقًا، كانت الطريقة القياسية تجعله أفضل قليلاً، لكن طريقتهم الجديدة جعلته أكثر صدقًا بشكل ملحوظ.

لماذا يهم هذا الأمر

يغير هذا الاكتشاف طريقة تفكيرنا في التحكم في الذكاء الاصطناعي. لفترة طويلة، كانت القاعدة الذهبية هي: "ابحث عن اتجاه يفصل بين الجيد والسيئ، ثم ادفع في ذلك الاتجاه". تشير هذه الورقة إلى أن تلك القاعدة غير مكتملة. مجرد كون الاتجاه يفصل بين الاثنين لا يعني أن الدفع على طوله سيحرك الذكاء الاصطناعي نحو الجانب الجيد. أحيانًا، يكون الفصل حقيقيًا، لكن الارتباط بسلوك الذكاء الاصطناعي يكون مقلوبًا.

يؤكد المؤلفون أن هذا ليس مجرد فضول نظري؛ بل هو مشكلة عملية تؤثر على كيفية بناء ذكاء اصطناعي آمن. إذا اعتمدنا على هذه المتجهات دون التحقق من الانعكاس، فقد نقوم دون قصد بتوجيه ذكائنا الاصطناعي نحو سلوكيات ضارة بينما نعتقد أننا نوجهه نحو الأمان. من خلال استخدام "درجة التزييف" الجديدة الخاصة بهم، يمكننا رصد هذه الأخطاء قبل وقوعها، مما يضمن أنه عندما ندفع الذكاء الاصطناعي، فإنه يذهب بالفعل إلى حيث نريد له أن يذهب.

باختختصار، تكشف الورقة أن الخريطة الداخلية للذكاء الاصطناعي قد تكون مخادعة. إنها تظهر لنا أنه لكي نتحكم حقًا في هذه النماذج القوية، لا يجب أن نكون مجرد قارئين للخرائط؛ بل يجب أن نكون "فاحصي بوصلات"، لنتأكد من أن الاتجاه الذي نختاره يقودنا بالفعل إلى الوجهة التي نريدها.