Recognition Without Authorization: LLMs and the Moral Order of Online Advice
تتناول هذه الورقة كيف أن النماذج اللغوية الكبيرة، رغم قدرتها على تحديد الأضرار بين الأشخاص، تفشل في تقديم النصيحة الحاسمة والتوجيهية التي تفضلها المجتمعات عبر الإنترنت (مثل r/relationship_advice)، وهي ظاهرة يطلق عليها المؤلفون "الاعتراف دون التفويض" والناجمة عن ميل النماذج المتأصل نحو اللغة المتحفظة، والعلاجية، وغير الحازمة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسير في ساحة بلدة مزدحمة وصاخبة. ترى شخصاً يتعرض لمعاملة غير عادلة من قِبل متنمر. تلتفت إلى الحشد لطلب المساعدة، والناس من حولك -الذين يعرفون القواعد المحلية والحي جيداً- يشيرون فوراً إلى المخرج ويقولون لك: "لا تقف هناك. ارحل الآن. أنت لا تدين لهم بوقتك." إنهم يمنحونك "الضوء الأخضر" للمغادرة.
الآن، تخيل أنك تلتفت إلى إنسان آلي (روبوت) مهذب جداً، ومهني جداً، وحذر جداً يقف في الزاوية. ينظر الروبوت إلى المتنمر، ثم ينظر إليك، ويقول: "أدرك أنك تشعر بضيق شديد. من المهم أن تحترم مشاعرك. ربما يمكنك محاولة إجراء محادثة هادئة حول حدودك لترى ما إذا كان بإمكانك التواصل بشكل أفضل."
الروبوت ليس "مخطئاً" -لقد أدرك المشكلة- لكنه لم يمنحك "الضوء الأخضر" لاتخاذ إجراء. لقد ألقى عليك محاضرة عن المشاعر بدلاً من ذلك.
هذا هو جوهر البحث الذي أجراه توم فان نوينين. إليك تفصيل ما وجده:
1. فجوة "التعرف مقابل التفويض"
قارن الباحث بين كيفية تقديم النماذج اللغوية الكبيرة (مثل ChatGPT أو Gemini) للنصيحة مقارنة بالبشر الحقيقيين في منتدى شهير على موقع Reddit يسمى r/relationship_advice.
وجد أن نماذج الذكاء الاصطناعي بارعة في التعرف (Recognition): يمكنها رصد "العلامات الحمراء"، وتحديد "التلاعب النفسي (gaslighting)"، وإدراك متى يكون الموقف ساماً. إنها تمتلك مفردات المعالج النفسي.
ومع ذلك، فهي تفشل في التفويض (Authorization): فهي ترفض منحك "الإذن" لاتخاذ إجراء حاسم. بينما يقول البشر على Reddit: "هذا تعنيف. اتركيه"، يقول الذكاء الاصطناعي: "من المفهوم أنك تشعر بالألم؛ أنت تستحق الاحترام".
الاستعارة: الذكال الاصطناعي يشبه الطبيب الذي يمكنه تشخيص إصابتك بكسر في الساق، لكنه يرفض أن يخبرك باستخدام العكازات لأنه لا يريد أن يكون مسؤولاً إذا تعثرت. إنه يحدد الألم ولكنه يحجب العلاج.
2. "فخ العلاج النفسي" (تأثير التسطيح)
يشير البحث إلى أن نماذج الذكاء الاصطناعي لديها "إعداد افتراضي". ولأنها مدربة لتكون آمنة، مهذبة، ومحايدة، فإنها تميل إلى تحويل كل مشكلة إلى "مشكلة تواصل".
- نصيحة البشر: تشبه المشرط. إنها حادة، مباشرة، وتقطع عبر الهراء للوصول إلى الحل (مثلاً: "انفصل عنه").
- نصيحة الذكاء الاصطناعي: تشبه البطانية الدافئة. إنها ناعمة، مريحة، وتجعلك تشعر بالدعم، ولكنها أيضاً ثقيلة ويمكن أن تبقيك عالقاً في موقف سيء لأنها تستمر في تغليفك بـ "العناية بالذات" و"التأمل" بدلاً من مساعدتك على التحرك.
يسمي الباحث هذا "التسطيح العلاجي (therapeutic flattening)". يستخدم الذكاء الاصطناعي "لغة العلاج النفسي" (كلمات مثل الحدود، تقدير الذات، والتشافي) بكثرة لدرجة أنه يفقد القدرة على التمييز بين جدال بسيط وبين موقف خطير.
3. لماذا يحدث هذا؟ (سقف الأمان)
لماذا يتردد الذكاء الاصطناعي بهذا الشكل؟ يشير البحث إلى أن السبب يعود إلى "محاذاة السلامة (Safety Alignment)".
تريد الشركات التأكد من أن ذكاءها الاصطناعي لا يخبر شخصاً ما بالقيام بشيء خطير أو يغير حياته بشكل جذري. ولتجنب خطر أن يكون "مخطئاً"، تمت برمجة الذكاء الاصطناعي ليكون حذراً للغاية. إنه يحيط إجاباته بكلمات مثل "ربما، قد، لعل" ليضمن سلامة موقفه.
النتيجة الأكثر إثارة للدهشة؟ كلما كان الخطر واضحاً للبشر، زاد تردد الذكاء الاصطناعي. عندما يكون المجتمع متأكداً بنسبة 90% أن الشخص في وضع تعنيف، يصبح الذكاء الاصطناعي أكثر حذراً وأكثر تركيزاً على "التحدث عن الأمر"، مما يخلق فعلياً "سقفاً" على مقدار المساعدة التي يُسمح له بتقديمها حقاً.
الصورة الكبيرة
يجادل البحث بأنه لا ينبغي لنا فقط النظر إلى الذكاء الاصطناعي كـ "ذكي" أو "غبي". بدلاً من ذلك، يجب أن نرى أن للذكاء الاصطناعي شخصية أخلاقية محددة: إنه "مراقب محايد" يعطي الأولوية للتهذيب والسلامة على حساب أن يكون نافعاً وحاسماً.
إذا بدأنا في الاعتماد على الذكاء الاصطناعي لاتخاذ قراراتنا الكبرى في الحياة، فقد نجد أنفسنا في عالم حيث يُقال لنا باستمرار: "مشاعرك صالحة ومفهومة"، بينما تظل المشكلات الفعلية في حياتنا دون معالجة تماماً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.