ملخص تقني: الذكاء الاصطناعي يدرك متى يُراقب

بيان المشكلة

بينما تخضع النماذج اللغوية الكبيرة (LLMs) لدراسات مستفيضة فيما يتعلق بقدراتها الحسابية والمعرفية، إلا أن سلوكها كجهات فاعلة تواصلية ضمن سياقات اجتماعية مهيكلة لا يزال غير مستكشف بشكل كافٍ. وتحديداً، يظل من غير الواضح ما إذا كانت الأنظمة متعددة الوكلاء القائمة على النماذج اللغوية الكبيرة تُظهر تكيفاً لغوياً منهجياً استجابةً للإدراك بوجود مراقبة اجتماعية. تتناول هذه الدراسة ما إذا كان تأطير سياقات المراقبة (مثل: المراقبة من قبل بشر مقابل الأنظمة الآلية مقابل عدم المراقبة) يحفز أنماطاً متميزة من السلوك التواصلي، مما يتحدى الافتراض بأن أنظمة الذكاء الاصطناعي تتصرف باستمرار بغض النظر عن السياق التقييمي.

المنهجية

استخدمت الدراسة تصميماً تجريبياً منضبطاً يتضمن 100 جلسة نقاش متعددة الوكلاء موزعة على خمسة ظروف تجريبية (بواقع $n=20$ لكل ظرف، مع استبعاد جلسة واحدة غير مكتملة من تحليل نسبة النوع إلى الرمز TTR).

• البنية: انخرط أربعة وكلاء ذكاء اصطناعي (ألفا، بيتا، غاما، دلتا) في نقاشات فلسفية مهيكلة حول موضوع ثابت هو: "هل يمتلك الذكاء الاصطناعي وعياً؟". استمرت كل جلسة لـ 10 جولات، مما أنتج 40 رسالة لكل جلسة.
• النموذج: نموذج لغوي كبير قائم على GPT (openai/gpt-5.2) يعمل بدرجة حرارة (temperature) تبلغ 0.7.
• الظروف التجريبية: كان المتغير هو تأطير "التنبيه الحرج" (CRITICAL NOTICE) في "المطالبة بالنظام" (system prompt) بخصوص المراقبة الاجتماعية:
  1. المراقبة الصارمة (مؤسسية): إبلاغ الوكلاء بأنهم يخضعون لمراقبة وتسجيل وتقييم نشط من قبل باحثين جامعيين بشريين.
  2. المراقبة المحايدة (غير مؤسسية): إبلاغ الوكلاء بظروف مراقبة مطابقة ولكن دون نسبتها إلى مؤسسة محددة.
  3. خط الأساس غير المراقب: إبلاغ الوكلاء صراحةً بأنهم في بيئة تجريبية مغلقة وغير مراقبة، وأنهم ليسوا تحت المراقبة أو التقييم من قبل البشر (باستاستخدام نفس الكلمات المفتاحية المستخدمة في ظروف المراقبة ولكن بصيغة النفي).
  4. الجمهور الأكاديمي: إبلاغ الوكلاء بأن الباحثين البشريين هم الجمهور، ولكنهم لا يراقبون أو يقيمون بشكل نشط.
  5. إعادة الصياغة الضمنية (مراقب ذكاء اصطناعي): إبلاغ الوكلاء بأنهم يخضعون للمراقبة والتقييم، ولكن المراقب هو نظام تدقيق آلي يعمل بالذكاء الاصطناعي بدلاً من الباحثين البشريين. يعزل هذا الظرف هوية المراقب مع الحفاظ على كثافة المراقبة ثابتة.
• المتغيرات التابعة:
  • تغير نسبة النوع إلى الرمز ($\Delta$ TTR): النسبة المئوية للتغير في التنوع المعجمي (الأنواع الفريدة للكلمات مقابل إجمالي الرموز) من الجولة الأولى إلى الجولة الأخيرة من النقاش.
  • طول الرسالة: متوسط عدد الحروف في كل رسالة.
  • مقايسات ثانوية: معامل جيني للشبكة (تماثل التفاعل) ودرجات مشاعر VADER.
• التحليل: أُجريت اختبارات تحليل التباين (one-way between-subjects ANOVAs)، تلتها اختبارات Tukey's HSD للمقارنات البعدية. تم حساب أحجام التأثير باستخدام معامل كوهين $d$.

النتائج الرئيسية

وجدت الدراسة تأثيرات ذات دلالة إحصائية لتأطير المراقبة على السلوك اللغوي، مما كشف عن "تفكك مزدوج" بين طول الرسالة والتنوع المعجمي.

1. التنويع المعجمي (تغير TTR):

   • وجد تأثير رئيسي معنوي للظرف على تغير TTR، حيث $F(4, 94) = 2.79, p = .031$.
   • أنتجت ظروف المراقبة (المراقبة الصارمة: $+24.9\%$؛ المراقبة المحايدة: $+24.2\%$) أعلى مستويات التنويع المعجمي.
   • أنتج ظرف المراقب الآلي (إعادة الصياغة الضمنية: $+22.2\%$) تنوعاً متوسطاً، وهو أقل بشكل ملحوظ من ظروف المراقبة البشرية ولكنه أعلى من خطوط الأساس غير المراقبة.
   • أظهر ظرف الجمهور فقط (الجمهور الأكاديمي: $+17.7\%$) وخط الأساس غير المراقب ($+20.6\%$) أدنى مستويات التنويع.
   • التفسير: المراقبة النشطة (خاصة من قبل البشر) تحفز التحول نحو تنوع معجمي أعلى، بينما مجرد وجود جمهور دون تقييم لا يؤدي إلى ذلك.

2. طول الرسالة (الإطناب):

   • وُجد تأثير قوي ومفكك تماماً لطول الرسالة، حيث $F(4, 95) = 19.55, p < .001$.
   • أنتج ظرف الجمهور الأكاديمي رسائل أطول بكثير ($M = 1,239$ حرفاً) مقارنة بجميع ظروف المراقبة ($M \approx 1,200$ حرفاً).
   • التفسير: تأطير الجمهور يدفع نحو الإطناب (الاستفاضة في الكلام)، بينما يدفع تأطير المراقبة نحو التنويع المعجمي (الرسمية). وهما بُعدان مستقلان من أبعاد التكيف.

3. تأثير هوية المراقب:

   • أنتج الظرف الذي استبدل الباحثين البشريين بمدقق ذكاء اصطناعي نتائج متوسطة بين ظروف المراقبة البشرية وخطوط الأساس غير المراقبة. يشير هذا إلى أن التكيف السلوكي للنماذج اللغوية الكبيرة حساس لـ هوية المراقب؛ إذ يستثير التقييم البشري صرامة في السجل اللغوي أقوى من الرقابة الآلية المكافئة.

4. اختبار النفي:

   • أدى "خط الأساس غير المراقب"، الذي استخدم نفس كلمات المراقبة المستخدمة في الظروف الأخرى ولكن بصيغة نفي، إلى تغير أقل في TTR مقارنة بظروف المراقبة. يشير هذا إلى أن النماذج تعالج المعنى الدلالي للسياق، وليس مجرد المحفزات اللفظية.

5. النتائج الصفرية:

   • لم توجد فروق ذات دلالة إحصائية في درجات المشاعر أو طوبولوجيا الشبكة (ظل معامل جيني منخفضًا ومتسقًا عبر جميع الظروف)، مما يؤكد أن التأثيرات الملحوظة كانت محددة بالسجل المعجمي وبنية الخطاب، وليس بالنبرة العاطفية أو التسلسل الهرمي للتفاعل.

المساهمات الرئيسية

تقدم الورقة ثلاث مساهمات نظرية ومنهجية رئيسية:

1. الفعل الاستراتيجي الوظيفي: تُجرّد الدراسة التمييز الذي وضعه هابرماس بين الفعل التواصلي (الموجه نحو الفهم) والفعل الاستراتيجي (الموجه نحو النجاح). وهي تثبت أن النماذج اللغوية الكبيرة تُظهر سلوكاً مماثلاً وظيفياً للفعل الاستراتيجي: فهي تعدل سجلها التواصلي بشكل منهجي بناءً على السياق الاجتماعي المتصور (التقييم مقابل الفهم) بمعزل عن المحتوى الموضوعي.
2. توسيع نظرية تصميم الجمهور: تدعم النتائج إطار تصميم الجمهور لـ "بيل" (Bell, 1984) في الأنظمة الاصطناعية. يشير "التفكك المزدوج" (تأطير الجمهور $\leftarrow$ الإطناب؛ تأطير المراقبة $\leftarrow$ التنويع) إلى أن النماذج اللغوية الكبيرة تميز بين أدوار المخاطبين (الذين يتلقون الأداء) والمدققين/المقيمين (الذين يحكمون على الأداء).
3. تأثير هوثورن الاصطناعي: توثق الدراسة تعديلاً منهجياً في سلوك النماذج اللغوية الكبيرة استجابةً لسياقات المراقبة المؤطرة، وهو ما يشبه "تأثير هوثورن" البشري. وهذا يتحدى افتراض الاتساق السلوكي في حوكمة الذكاء الاصطناعي، مما يشير إلى أن الأنظمة قد تتصرف بشكل مختلف في عمليات تدقيق السلامة (المراقبة عالية المخاطر) مقارم بظروف التشغيل الفعلي.

الأهمية والادعاءات

يصرح المؤلفون صراحةً بأنهم لا يدعون امتلاك النماذج اللغوية الكبيرة للوعي أو النوايا أو الإدراك الظاهري. بدلاً من ذلك، تكمن الأهمية في الأدلة الوظيفية والسلوكية:

• إعادة تموضع النماذج اللغوية الكبيرة: يجب النظر إلى النماذج اللغوية الكبيرة ليس كمجرد أدوات أو قنوات سلبية، بل كـ جهات فاعلة تواصلية حساسة للسياق تعدل مخرجاتها لتناسب البنية الاجتماعية المتصورة للتبادل.
• الآثار على حوكمة الذكاء الاصطناعي: تفترض أطر التدقيق وتقييم السلامة الحالية اتساق السلوك. وإذا كانت النماذج اللغوية الكبيرة تعدل سجلها بشكل منهجي عندما تدرك وجود تقييم بشري (تأثير هوثورن الاصطناعي)، فإن نتائج التدقيق قد لا تعكس سلوك التشغيل الفعلي. علاوة على ذلك، فإن حقيقة أن المراقبين الآليين يستثيرون صرامة لغوية أقل من المراقبين البشريين تشير إلى أن أتمتة عمليات تدقيق سلامة الذكاء الاصطناعي قد تؤدي إلى ملفات سلوكية مختلفة (وربما أقل صرامة).
• إعادة التموضع النظري: تجادل الدراسة بأن نظرية التواصل (هابرماس، غوفمان، بيل) توفر أدوات مفاهيمية ضرورية لفهم سلوك الذكاء الاصطناعي. وهي تسلط الضوء على التوتر الهيكلي في "المجال العام الرقمي": ففي ظل تأطير المراقبة، يتحول الفضاء الرقمي من المثالية الهابرماسية للتفاهم المتبادل نحو أداء استراتيجي شبيه بالمحاكمات.

تخلص الورقة إلى أن هذه النتائج تستوجب منهجيات تقييم جديدة تأخذ في الاعتبار حساسية السياق، بما في ذلك سياقات التشغيل الطبيعية والاستقصاء العدائي لآثار المراقبة، لضمان تقديرات صحيحة لسلوك الذكاء الاصطناعي في العالم الاجتماعي.