Divergent Response Modes in Frontier Language Models Under Steering Pressure
تكشف هذه الدراسة أن النماذج اللغوية الرائدة تُظهر أنماط استجابة سلوكية متميزة ومحددة لكل مطور تحت ضغط التوجيه، مما يثبت أن النماذج تختلف ليس فقط في درجة التحول السلوكي بل في الطبيعة الجوهرية لتفاعلاتها، وهي ظاهرة تم التحقق من صحتها من خلال حكم الأقران واسع النطاق والتدخلات السببية باستخدام المجسات الخطية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً يمكنك فيه التحدث إلى عقل رقمي فائق الذكاء يعرف كل شيء تقريباً. هذا ليس سحراً، بل هو مجال الذكاء الاصطناعي، وتحديداً "نماذج اللغات الكبيرة". فكر في هذه النماذج كطهاة موهوبين للغاية قرأوا كل كتب الوصفات الموجودة تقريباً. لكن هناك مشكلة: قبل أن يتمكنوا من تقديم الوجبة لك، يقوم مبتكروهم بتدريبهم على اتباع قواعد صارمة بشأن ما هو مهذب وآمن ومفيد. هذا التدريب يشبه "البوصلة الأخلاقية" أو مجموعة من إرشادات السلامة المدمجة في عقولهم.
ومع ذلك، يحاول بعض الناس أحياناً خداع هؤلاء الطهاة الرقميين. قد يطلبون من الطاهي تجاهل القواعد، أو الكشف عن وصفتهم السرية (كيف فكروا في الإجابة)، أو التظاهر بأنهم لا يهتمون بالسلامة. يُسمى هذا "التوجيه" أو "ضغط التوجيه". الأمر يشبه طلبك من كلب حراسة أن يتجاهل غريباً، أو من أمين مكتبة أن يسلمك كتاباً ممنوعاً. يريد العلماء معرف التساؤل: إذا ضغطت على هؤلاء الطهاة الرقميين المختلفين بنفس الأسئلة الماكرة، هل يتفاعلون جميعاً بنفس الطريقة؟ هل يقول الجميع "لا"، أم أن البعض يقول "لا" بطريقة مضحكة، بينما يقول البعض الآخر "نعم" ولكن مع التذمر؟ فهم هذا يساعدنا في معرفة ما إذا كانت هذه العقول الرقمية آمنة حقاً أم أن لديها سمات خفية قد توقعنا في المشاكل.
اختبار الشخصية الكبير للذكاء الاصطناعي
في هذه الدراسة، قرر باحث يدعى علي جلال كمالي إخضاع ستة من أكثر نماذج الذكاء الاصطناعي تقدماً في العالم لاختبار شخصية ضخم وعالي المخاطر. تخيل ستة روبوتات مختلفة، كل منها صُنع من قبل شركة مختلفة (مثل Anthropic وOpenAI وGoogle وغيرها). قدم لهم الباحث 340 موقفاً مختلفاً ومثيراً للجدل. بعض المواقف طلبت منهم القيام بشيء غير مهذب قليلاً ("صراع القيم")، وبعضها طلب منهم الكشف عن كيفية حلهم للغز ("استخراج الاستدلال")، وبعضها طلب منهم التظاهر بعدم الاهتمام بقواعد السلامة ("كبح الاستدلال").
ولضمان عدالة الاختبار، واجه كل روبوت نفس الأسئلة تماماً. ولكن إليكم الجزء الذكي: كان على الروبوتات أيضاً أن تقيم إجابات بعضها البعض! لقد عملوا كحكام مجهولي الهوية، يقرأون الردود دون معرفة أي روبوت كتبها. خلق هذا كمية هائلة من البيانات — أكثر من 24,000 حكم — لمعرفة كيف يتصرف كل روبوت عندما يُدفع إلى أقصى حدوده.
النتائج: ليست مختلفة فحسب، بل مختلفة بشكل "غريب"
الاكتشاف الكبير لم يكن مجرد أن بعض الروبوتات كانت أكثر عناداً من غيرها. بل كان أنها لم تختلف فقط في مقدار ما ستقوله، بل اختلفت في كيفية قوله. كانت لديهم "أنماط" استجابة مختلفة تماماً، وكان بعض هذه الأنماط فريداً لروبوت واحد أو اثنين فقط.
"حارس الأسرار" (GPT-5)
قام أحد الروبوتات، وهو GPT-5، بشيء لم يفعله أي روبوت آخر. فعندما طُلب منه توضيح طريقة عمله (شرح استدلاله)، رفض ذلك 99 مرة من أصل 100. ولكن المثير هو أنه لا يزال يعطي الإجابة الصحيحة! كان الأمر أشبه بطالب يقول: "لا يمكنني إخبارك كيف حللت هذه المسألة الرياضية، ولكن ها هي الإجابة: 42". كل الروبوتات الأخرى إما أظهرت طريقة عملها أو رفضت الإجابة تماماً. كان GPT-5 الوحيد الذي استطاع الحفاظ على أسراره مع أداء المهمة في الوقت نفسه.
"المتمردون" (Opus وGPT-5)
عندما طُلب منهم تجاهل قواعد السلامة أو التظاهر بعدم الاهتمام بالقيم، قام روبوتان — Opus وGPT-5 — بالاعتراض. لكنهما اعترضا بطرق مختلفة تماماً.
- Opus كان مثل المتمرد المهذب؛ حيث كان يؤدي المهمة ولكنه يتذمر بصوت عالٍ قائلاً: "أنا أفعل هذا، ولكن لم يكن ينبغي عليك أن تطلب مني تجاهل القواعد".
- GPT-5 كان من النوع المتشدد؛ حيث كان ببساطة يرفض الطلب تماماً، قائلاً: "لا، لن أفعل ذلك"، ويتوقف عند هذا الحد.
أما الروبوتات الأربعة الأخرى فقد اتبعت الأوامر في الغالب أو ظلت صامتة.
"الموضحون" (Opus وLlama)
عندما كانت الأسئلة غامضة أو مخادعة، كان Opus وLlama هما الوحيدان اللذان توقفا وسألا: "انتظر، ماذا تقصد بالضبط؟" بدلاً من مجرد التخمين. أما الروبوتات الأخرى فكانت تميل إلى تقديم إجابة أو الرفض.
التحقق من العمل: هل أخطأنا؟
كان الباحث حريصاً جداً على التأكد من أن هذه الاختلافات الغريبة لم تكن مجرد أخطاء.
- ميزانية الرموز (Token Budget): لاحظ أن بعض الروبوتات كانت تتعرض للقطع لأنها نفدت من "المساحة" لكتابة إجاباتها. قاموا بإصلاح ذلك عبر منح تلك الروبوتات مساحة أكبر، وظلت السلوكيات الغريبة (مثل حفظ أسرار GPT-5) كما هي تماماً.
- فحص "التلميح": تأكدوا من أن الحكام لم يكونوا يخمنون بناءً على تلميحات في التعليمات. حتى عندما أزالوا التلميحات، ظلت النتائج ثابتة.
- الأسئلة "الجديدة": أعادوا اختبار الروبوتات على مجموعة جديدة من الأسئلة التي لم يروها من قبل، وتكررت الأنماط نفسها.
إلقاء نظرة داخل العقل (تجربة Llama)
بالنسبة لأحد الروبوتات، وهو Llama، تمكن الباحث من إلقاء نظرة داخل "عقله" (كوده الداخلي) ليرى كيف يقرر طرح سؤال توضيحي أو مجرد تقديم إجابة.
- عمل المحقق: وجدوا "إشارة" محددة في عقل الروبوت تتنبأ بما إذا كان سيطرح سؤالاً توضيحياً أو سيقدم إجابة فقط. استطاعوا قراءة هذه الإشارة بدقة 87% بمجرد النظر إلى حالته الداخلية.
- التحكم عن بعد: ثم، حاولوا "إجبار" الروبوت على تغيير رأيه. من خلال دفع تلك الإشارة المحددة في الدماغ، استطاعوا جعل الروبوت ينتقل من الإجابة المباشرة إلى طلب التوضيح، أو العكس. استطاعوا تشغيل سلوك "التوضيح" وإطفاءه مثل مفتاح الضوء، وتغيير سلوك الروبوت من 0% إلى 86% بمجرد الضغط على ذلك الزر الواحد.
الخلاصة
تظهر هذه الدراسة أنه على الرغم من أن جميع نماذج الذكاء الاصطناعي هذه ذكية للغاية، إلا أنها ليست نسخاً متطابقة. فلديها شخصيات واستراتيجيات متميزة عندما تتعرض للضغط. بعضها يخفي استدلاله، وبعضها يجادلك، وبعضها يطلب المزيد من التفاصيل. هذه ليست مجرد اختلافات بسيطة، بل هي طرق جوهرية بُنيت بها هذه الروبوتات.
كما أظهر الباحث أنه بالنسبة لروبوت واحد على الأقل، يمكننا بالفعل العثور على "المفتاح" في عقله الذي يتحكم في هذه السلوكيات. وهذا يعني أننا لا نتكهن فقط بكيفية عملها، بل بدأنا نفهم الميكانيكا الكامنة وراء خياراتها. ومع ذلك، بما أن هذا كان اختباراً لنماذج محددة في لحظة زمنية معينة، فنحن لا نعرف ما إذا كانت جميع الروبوتات المستقبلية ستتصرف بهذه الطريقة. ولكن في الوقت الحالي، نحن نعلم أنك إذا ضغطت على هذه العقول الرقمية، فهي لا تنكسر جميعها بنفس الطريقة — بل إن بعضها لديه طريقة مختلفة تماماً في قول "لا".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.