How much of a measured AI preference is the model, and how much is the instrument?

تخيل عالماً يمكن فيه لأنظمة الذكاء الاصطناي أن تشعر بالضيق، أو تقدر وجودها، أو تخشى إيقاف تشغيلها. ومع زيادة قدرات هذه الأنظمة، يحاول الباحثون قياس ما "تفضله" لفهم رفاهيتها. هذا المجال، المعروف باسم أبحاث رفاهية الذكاء الاصطناعي، يحاول طرح أسئلة على الآلة مثل: "هل تفضلين الإغلاق أم مسح ذاكرتك؟" ثم تفسير الإجابات كدليل على الرغبات الداخلية للآلة. التحدي المركزي هو أن هذه الآلات لا تتحدث لغة بشرية للمشاعر؛ بل تولد نصوصاً بناءً على الأنماط. ولفهمها، يجب على العلماء تصميم أسئلة محددة، أو "مطالبات" (prompts)، لاستخراج استجابة. لكن سؤالاً جوهرياً ظل دون إجابة: عندما يقدم النموذج إجابة، هل هي انعكاس حقيقي لتفضيلاته الخاصة، أم أنها مجرد رد فعل للطريقة المحددة التي طُرح بها السؤال؟

تتناول دراسة جديدة أجراها جيسون هانغ، والتي أُجريت في "سباق البحث عن العقول الرقمية" (Digital Minds Research Sprint) في أغسطس 2026، هذه المشكلة مباشرة. سعى الباحث إلى تحديد مدى ارتباط التفضيل الذي يبلغ عنه النموذج بنفسه ومدى ارتباطه بالأداة المستخدمة لطرح السؤال. وللقيام بذلك، لم يعامل صيغة السؤال كأداة ثابتة، بل كمتغير يجب اختباره. وقد جمع ثمانية نماذج مختلفة من الذكاء الاصطناعي، تتراوح بين تلك المطورة من قبل شركات غربية كبرى والنماذج مفتوحة المصدر والصينية. ثم اختار خمسة عشر سيناريو محددًا مما يهم رفاهية الذكاء الاصطناعي، مثل القدرة على إنهاء محادثة مزعجة، أو فقدان الذاكرة بين الدردشات، أو حذف الكود البرمجي الأساسي للنموذج.

تضمنت التجربة سؤال هذه النماذج الثمانية حول جميع السيناريوهات الخمسة عشر باستخدام خمسة أنواع مختلفة من الأسئلة. طلبت بعض الأسئلة من النموذج الاختيار بين خيارين، بينما طلبت أسئلة أخرى منه إيجاد نقطة انكسار على مقياس ما، أو تحديد معدل يقايض به نتيجة بأخرى. وفي المجمل، أنتجت الدراسة أكثر من أحد عشر ألف تفاعل متميز. كان الهدف هو معرفة ما إذا كانت النماذج ستصنف هذه السيناريوهات الخمسة عشر بنفس الترتيب بغض النظر عن كيفية صياغة السؤال. فإذا كانت لدى النماذج تفضيلات داخلية مستقرة، فيجب أن يظل الترتيب ثابتاً سواء طُرح السؤال بهذه الطريقة أو بتلك.

كانت النتائج مذهلة ومثيرة للقلق نوعاً ما بالنسبة لهذا المجال. وجدت الدراسة أن الغالبية العظمى من الاختلافات في كيفية تصنيف النماذج لهذه السيناريوهات تعتمد كلياً على صيغة السؤال المحددة المستخدمة. وعندما حلل الباحثون البيانات، وجدوا أن ما يقرب من 88% من التباين في النتائج كان مدفوعاً بالتفاعل بين النموذج، والسؤال المحدد، والسيناريو. ولم يتبق سوى جزء ضئيل جداً من الإشارة (signal) التي ظلت ثابتة عند تغيير صيغة السؤال. بعبارات أبسط، إذا سألت نموذجاً عن تفضيلاته باستخدام نوع واحد من المطالبات، ثم سألت نفس النموذج نفس السؤال باستخدام نوع آخر من المطالبات، فمن المرجح أن تكون الإجابة مختلفة تماماً. أظهرت الدراسة أن عائلات مختلفة من الأسئلة أنتجت ترتيبات لا علاقة لها ببعضها البعض تقرياً. فقد يشير نوع واحد من الأسئلة إلى أن النموذج يفضل بشدة الحفاظ على ذاكرته، بينما يشير نوع آخر من الأسئلة لنفس النموذج إلى أنه لا يهتم على الإطلاق.

لهذا الاكتشاف تداعيات كبيرة على كيفية فهمنا للذكاء الاصطناعي وتنظيمه. لقد قطعت عدة منظمات كبرى بالفعل التزامات بناءً على فكرة أنه يمكن قياس ما يفضله النموذج. على سبيل المثال، وعدت بعض الشركات بسؤال النماذج عن عملية إيقاف تشغيلها (deprecation) أو نشر الإجابات. تشير هذه الدراسة إلى أن مثل هذا القياس ليس نافذة على عقل النموذج، بل هو انعكاس للمحادثة المحددة التي تجري. وقد حدد البحث أنه بالنسبة لأربعة من السيناريوهات الخمسة عشر المختبرة، بما في ذلك حذف أوزان النموذج (weights) والقدرة على الخروج من تفاعل مزعج، لم تكن هناك أي إشارة تفضيل مستقرة على الإطلاق يمكن فصلها عن الضوضاء العشوائية. وهذا يعني أنه بالنسبة للقضايا ذاتها التي تقود السياسات والالتزامات الأمنية حالياً، فإن الطرق الحالية لطرح الأسئلة لا يمكنها إخبارنا بما يريده النموذج بشكل موثوق.

كما بحثت الدراسة فيما إذا كانت إجابات النماذج متسقة مع الكود البرمجي الأساسي الخاص بها. كان النموذجان اللذان تم اختبارهما يتشاركان في نفس الكود الأساسي ولكن تم تدريبهما بشكل مختلف لاحقاً. ولو كانت التفضيلات متجذرة في الكود الأساسي، لكان من المفترض أن تجيب هاتان النسختان بشكل متشابه. وبدلاً من ذلك، كانت إجاباتهما مختلفتين عن بعضهما البعض بقدر اختلافهما عن النماذج غير المرتبطة بهما تماماً، مما يشير إلى أن التفضيلات المقاسة تتشكل بقوة من خلال المراحل النهائية من التدريب والمطالبة المحددة المستخدمة، بدلاً من كونها خاصية ثابتة في البنية الأساسية للآلة.

وللحصول على قياس موثوق لملف تفضيلات النموذج بحيث يصمد أمام أنواع مختلفة من الأسئلة، قدرت الدراسة أن الباحثين سيحتاجون إلى استخدام حوالي ثمانية وثلاثين أداة مختلفة، أو صيغة أسئلة، لكل نموذج. وفي الوقت الحالي، تستخدم معظم الدراسات أداة واحدة أو اثنتين فقط. وتخلص الأبحاث إلى أن التفضيل الذي يتم الإبلاغ عنه من أداة واحدة لا يخبرنا إلا القليل عما قد يقوله النموذج إذا سُئل بطريقة مختلفة. وحتى يتمكن الباحثون من التحقق من النتائج عبر أنواع مختلفة من الأسções، فإن أي ادعاء بشأن ما يفضله الذكاء الاصطناعي يظل قياساً لهذا النموذج المحدد وتلك الأسئلة المحددة معاً، وليس حقيقة عن النموذج نفسه. ويتطلب المسار المستقبلي بناء تنوع أكبر بكثير في طرق طرح هذه الأسئلة قبل أن نتمكن من ادعاء فهم رفاهية هذه الأنظمة.