Detection != Reliable Control: Decodable Empathy Directions Yield at Most Partial Shifts in Automated Empathy Scores
تُظهر هذه الورقة أنه بينما يمكن لاتجاهات التعاطف القابلة للفك في النماذج اللغوية الكبيرة المضبوطة بالتعليمات أن تكتشف بشكل موثوق وتغير جزئياً درجات التعاطف الآلية، إلا أنها لا تشكل روافع سببية موثوقة للتحكم الشامل، لا سيما بفشلها في إحداث تغييرات ملموسة يدركها البشر أو تأثيرات متسقة عبر مختلف جوانب التعاطف والنماذج المختلفة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي سريع التطور، يهتم الباحثون بشكل متزايد بما إذا كانت الآلات يمكنها حقاً فهم المشاعر الإنسانية. تشير فكرة شائعة إلى أنه إذا تمكنا من إيجاد نمط محدد داخل "دماغ" الكمبيوتر يتوافق مع شعور مثل التعاطف، فينبغي أن نكون قادرين على تدوير قرص لجعل الآلة تعبر عن المزيد منه. يعتمد هذا المفهوم على الاعتقاد بأنه إذا أمكن "قراءة" الكمبيوتر لإظهار امتلاكه لسمة معينة، فيمكن أيضاً "توجيهه" لتغيير تلك السمة حسب الرغبة. وهذا أمر مهم بشكل خاص مع نشر هذه الأنظمة لتقديم الدعم العاطفي للأشخاص الذين يمرون بضيق، حيث يمكن أن يكون الفرق بين الاستجابة المفيدة والاستجابة الباردة كبيراً. ومع ذلك، فإن الافتراض بأن اكتشاف شعور داخل الآلة هو نفسه القدرة على التحكم فيه بشكل موثوق لم يتم اختباره بدقة في السياق المعقد والواقعي للتعاطف.
تتحدى دراسة جديدة من جامعة جنوب كاليفورنيا هذا الافتراض من خلال فحص ثلاثة نماذج لغوية كبيرة مختلفة، وهي أنظمة الذكاء الاصطناعي القوية التي تقف وراء العديد من برامج الدردشة الحديثة. ركز الباحثون على جزأين متميزين من التعاطف اعترف بهما علماء النفس منذ فترة طويلة: القدرة على فهم منظور شخص آخر، والمعروفة بالتعاطف المعرفي، والقدرة على مشاركة مشاعرهم أو التفاعل معها، والمعروفة بالتعاطف الوجداني. أكد الفريق أولاً أنه يمكنهم بالفعل اكتشاف إشارات لكلتا هاتين السمتين داخل العمليات الداخلية لنماذج الذكاء الاصطناعي. وجدوا اتجاهات محددة في بيانات الكمبيوتر تفصل بوضوح بين الاستجابات التي تظهر تعاطفاً عالياً وتلك التي تظهر تعاطفاً منخفضاً. عمل هذا الاكتشاف بشكل جيد، مما يشير إلى أن النماذج تمتلك بالفعل تمثيلات داخلية لهذه المفاهيم.
ومع ذلك، كان الاختبار الحاسم هو ما إذا كان إضافة دفعة صغيرة في اتجاه هذه الإشارات المكتشفة سيغير سلوك الذكاء الاصطناعي بطريقة ذات مغزى. طبق الباحثون هذه الدفعات، محاولين فعلياً دفع النماذج نحو كونها أكثر تعاطفاً، ثم قاموا بقياس النتائج باستخدام عدة حكام آليين ومصنف متخصص. كشفت النتائج عن انقسام حاد بين نوعي التعاطف. فعندما حاول الفريق زيادة الرنين الوجداني أو العاطفي، شهدوا تغيراً قابلاً للقياس، لكنه كان جزئياً فقط. في النموذج الأفضل أداءً، رفعت التدخلات درجة التعاطف بنحو ربع الفجوة الطبيعية بين الاستجابة المحايدة والاستجابة المتعاطفة تماماً. لم يصبح الذكاء الاصطناعي متعاطفاً بالكامل؛ بل تحرك قليلاً في ذلك الاتجاه فقط. وفي النماذج الأخرى التي تم اختبارها، كان التأثير أصغر، وأحياناً غير ملحوظ بالكاد.
كانت القصة مختلفة بالنسبة للتعاطف المعرفي، وهو القدرة على فهم وصياغة موقف شخص آخر. هنا، وجد الباحثون أنه بغض النظر عن كيفية محاولة توجيه النماذج، فإن الدرجات الآلية لم تتغير. ومع ذلك، تقدم الدراسة فارقاً دقيقاً حاسماً: لم يكن عدم التغيير هذا دليلاً بالضرورة على أن الذكاء الاصطناعي لا يمكن جعله أكثر تعاطفاً. بدلاً من ذلك، وُجد أن الأدوات المستخدمة لقياس التعاطف المعرفي كانت فضفاضة للغاية بحيث لا تستطيع اكتشاف الفروق الدقيقة التي قد يكون التدخل قد أحدثها. كانت أدوات القياس قادرة على التمييز بين رسالة محايدة تماماً ورسالة عاطفية للغاية، لكنها لم تكن قادرة على التمييز بشكل موثوق بين مستويين مختلفين من الفهم ضمن مجال الدعم العاطفي. ولأن أداة القياس نفسها لم تكن حساسة بما يكفي، استنتج الباحثون أن تأثير التوجيه كان غير قابل للقياس بدلاً من كونه ثابتاً عند الصفر.
ولعل الأمر الأكثر أهمية هو أن الدراسة وجدت أنه حتى عندما تغيرت الدرجات الآلية، لم يكن هناك دليل على أن القراء البشر سيلاحظون التغيير. طُلب من لجنة من المتطوعين البشريين تقييم الاستجابات الموجهة، لكنهم فشلوا في تحديد الاستجابات الأكثر تعاطفاً بشكل ثابت. وهذا يشير إلى أن التغييرات التي أجراها الذكاء الاصطناعي لم تكن من نوع التحولات التي قد يلاحظها الإنسان أو يقدرها. كما اختبر الباحثون ما إذا كان إزالة إشارات التعاطف هذه تماماً سيجعل الذكاء الاصطناعي أقل تعاطفاً. في نموذج محدد، أدى إزالة إشارة الفهم المعرفي إلى خفض الدرجات، لكن هذا التأثير كان مرتبطاً بكتابة الذكاء الاصطناعي لاستجابات أقصر، وهو ما عاقبته أداة القياس. وعندما أخذ الباحثون طول النص في الاعتبار، ظل التأثير على الدرجة المعرفية قائماً، لكنه لم يكن أيضاً مفتاحاً نظيفاً وموثوقاً يمكن استخدامه للتحكم في سلوك الذكاء الاصطناعي.
في النهاية، تثبت الدراسة أن العثور على إشارة للتعاطف داخل الذكاء الاصطناعي ليس هو نفسه امتلاك تحكم موثوق لإنتاجه. فبينما يمكن دفع النماذج لإظهار المزيد من الرنين العاطفي، إلا أن التأثير محدود ولا يترجم إلى تحسن يدركه البشر. إن القدرة على اكتشاف سمة ما لا تضمن القدرة على توجيهها، خاصة عندما لا تكون الأدوات المستخدمة لقياس النتيجة دقيقة بما يكفي لرؤية التغييرات. وتعمل هذه النتائج بمثابة تحذير لأولئك الذين يأملون في نشر الذكاء الاصطناعي للدعم العاطفي، مما يشير إلى أن مجرد رفع "قرص" التعاطف قد لا يؤدي إلى الاتصال الحقيقي الذي يشبه الاتصال البشري والذي تشتد الحاجة إليه. تسلط الأبحاث الضوء على الفجوة بين ما يمكن جعل الآلة تقوله وما يختبره الإنسان فعلياً كتعاطف، وتحث على اتباع نهج أكثر حذراً في كيفية قياس والتحكم في هذه السلوكيات المعقدة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.