Generating Place-Based Compromises Between Two Points of View
تقدم هذه الورقة طريقة لتوليد تسويات محايدة تعاطفياً بين وجهات النظر المتعارضة حول أماكن مشتركة باستخدام التشابه التعاطفي الخارجي كتعليقات راجعة تكرارية للتفوق على الاستدلال القياسي، ومن ثم استغلال مجموعة البيانات الناتجة لتدريب نماذج أصغر أكثر كفاءة عبر مواءمة التفضيلات البشرية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل جارين يتجادلان حول كيفية استخدام حديقتهما الخلفية المشتركة. أحدهما يريد حديقة هادئة للقراءة، والآخر يريد ملعباً صاخباً لأطفاله. إن "الحل الوسط" ليس مجرد تقسيم المنتصف (مثل حديقة هادئة ولكن بها ملعب؟)؛ بل هو إيجاد حل يشعر فيه كلا الجارين بأنه تم سماعهما، وبأنهما حصلا على شيء جيد، بدلاً من الشعور بالخسارة فقط.
يستكشف هذا البحث ما إذا كان الذكاء الاصطناعي (AI) يمكنه العمل كوسيط ماهر لإيجاد هذه الحلول التي تحقق "الربح للطرفين"، وتحديداً في النزاعات المتعلقة بالأماكن العامة مثل المتنزهات أو الشوارع.
إليك قصة بحثهم، مقسمة إلى خطوات بسيطة:
1. المشكلة: الذكاء الاصطناعي ذكي، لكنه يفتقر لـ "ذكاء الشارع"
وجد الباحثون أنه بينما يتمتع الذكاء الاصطناعي (وتحديداً النماذج اللغوية الكبيرة) بعبقرية في الرياضيات وكتابة المقالات، فإنه غالباً ما يعاني من ضعف في الذكاء الاجتماعي. إنه يشبه بروفيسوراً عبقرياً لم يضطر أبداً للتفاوض حول عشاء عائلي. عندما يُطلب منه التوسط في نزاع، يميل الذكاء الاصطناعي إلى اختيار جانب واحد، أو تجاه مشاعر أحد الأطراف، أو تقديم إجابة عامة لا ترضي أحداً.
2. التجربة: تعليم الذكاء الاصطناعي كيف "يشعر" بكلا الجانبين
أراد الفريق تعليم الذكاء الاصطناعي توليد حلول وسط تتسم بـ "الحياد التعاطفي". وهذا يعني ألا ينحاز الذكاء الاصطناعي للشخص الذي يشعر بالأمان على حساب الشخص الذي يشعر بعدم الأمان، أو الشخص الذي يشعر بالترحيب على حساب الشخص الذي يشعر بالإقصاء.
لقد اختبروا أربع طرق مختلفة لـ "توجيه" (Prompting) الذكاء الاصطناعي للقيام بذلك:
- نهج "فقط افعلها": مجرد طلب تقديم حل وسط من الذكاء الاصطناعي. (النتيجة: غالباً ما تجاهل الذكاء الاصطناعي أحد الجانبين).
- نهج "فكر خطوة بخطوة": طلب من الذكاء الاصطناعي سرد الاقتراحات من كلا الجانبين وإيجاد أوجه التشابه أولاً. (النتيجة: أفضل قليلاً، لكنها لا تزال مائلة لجانب واحد).
- نهج "التقييم الذاتي": طلب من الذكاء الاصطناعي تقييم عمله بنفسه. (النتيجة: اعتقد الذكاء الاصطناعي أنه قام بعمل جيد، لكن البشر لم يتفقوا معه).
- نهج "المرآة والتغذية الراجعة" (الفائز): كان هذا هو السر وراء النجاح.
- يقوم الذكاء الاصطناعي بتوليد حل وسط.
- تقوم أداة ذكاء اصطناعي أخرى خاصة (مقياس التعاطف) بقياس مدى فهم الحل لـ "الشخص أ" ومدى فهمه لـ "الشخص ب".
- إذا أظهر المقياس أن الذكاء الاصطناعي يميل بشدة نحو أحد الجانبين، يتم إعادته إلى نقطة البداية مع ملاحظة: "لقد فهمت الشخص (أ) أكثر من اللازم، حاول فهم الشخص (ب) بشكل أكبر".
- يحاول الذكاء الاصطناعي مرة أخرى، مستخدماً حلقة التغذية الراجعة هذه حتى تصبح "درجات التعاطف" متوازنة تماماً.
التشبيه: تخيل طباخاً يحاول إعداد طبق مذاقه جيد بالتساوي لشخص يحب الطعام الحار وشخص يكرهه.
- الطباخ في "التقييم الذاتي" يتذوق الطعام ويقول: "إنه مثالي!" (لكنه منحاز).
- الطباخ في "المرآة والتغذية الراجعة" يرسل الطبق إلى متذوقين اثنين. أحدهما يقول: "حار جداً!" والآخر يقول: "باهت جداً!". يقوم الطباخ بتعديل الوصفة، ويرسلها مرة أخرى، ويكرر العملية حتى يقول كلا المتذوقين: "هذا بالضبط ما أريده".
3. الاختبار البشري: هل ينجح الأمر حقاً؟
لإثبات نجاح ذلك، استعانوا بـ 50 شخصاً حقيقياً للعب دور الجيران. عرضوا عليهم الحجج والحلول الوسط المقترحة من الذكاء الاصطناعي.
- النتيجة: فضل الناس بشكل ساحق الحلول المولدة بواسطة منهجية "المرآة والتغذية الراجعة". لقد شعروا أن هذه الحلول كانت أكثر عدلاً ومقبولية من الحلول التي أنتجتها الطرق الأخرى.
4. القفزة الكبيرة: تعليم نماذج الذكاء الاصطناعي الأصغر
منهجية "المرآة والتغذية الراجعة" تعمل بشكل رائع، لكنها بطيئة ومكلفة لأنها تتطلب ذكاءً اصطناعياً ضخماً وقوياً (مثل Claude 3 Opus) للقيام بعملية التقييم في كل مرة. أراد الباحثون معرفة: هل يمكننا تعليم نموذج ذكاء اصطناعي أصغر وأرخص ومفتوح المصدر القيام بذلك بمفرده دون الحاجة إلى الذكاء الاصطناعي الكبير للتقييم في كل مرة؟
استخدموا تقنية تسمى "المواءمة" (Alignment).
- التشبيه: بدلاً من إظهار كتاب مدرسي للطالب (الذكاء الاصطناعي الصغير) وقول "احفظه"، أظهروا له "إجابة جيدة" و"إجابة سيئة" وسألوا: "أيهما أفضل؟".
- من خلال تدريب الذكاء الاصطناعي الصغير على التمييز بين الحل الوسط المتوازن الجيد والحل غير المتوازن السيئ، تعلم الذكاء الاصطناعي الصغير "شعور" ما يبدو عليه الحل الوسط العادل.
- النتيجة: تعلم الذكاء الاصطناعي الصغير (مثل Llama أو Mistral) توليد حلول وسط عالية الجودة ومحايدة تكاد تكون بنفس جودة الذكاء الاصطناعي الكبير والمكلف، ولكن دون الحاجة لتشغيل "مقياس التعاطف" المكلف في الخلفية في كل مرة.
ملخص النتائج
- الذكاء الاصطناعي يحتاج للمساعدة ليكون محايداً: مجرد طلب الحل الوسط من الذكاء الاصطناعي ليس كافياً؛ بل يحتاج إلى نظام للتحقق مما إذا كان عادلاً لكلا الجانبين.
- حلقات التغذية الراجعة فعالة: استخدام أداة خارجية لقياس "توازن التعاطف" وتغذية ذلك للذكاء الاصطناعي يخلق نتائج أفضل بكثير من مجرد مطالبته بالتفكير بعمق أكبر.
- النماذج الصغيرة يمكنها التعلم: بمجرد تدريب نموذج ذكاء اصطناعي صغير على هذه الأمثلة (الجيدة مقابل السيئة)، يمكنه توليد حلول وسط عادلة بمفرده، مما يجعل هذه التكنولوجيا أسرع وأكثر سهولة في الوصول إليها.
ما لا يدعيه البحث:
- لا يدعي أن هذا الذكاء الاصطناعي يجب أن يحل محل الوسطاء البشر في المحاكم الحقيقية أو جلسات العلاج النفسي.
- لا يدعي أن هذا يعمل لجميع أنواع الجدالات (مثل النقاشات السياسية أو الأخلاقية)؛ فقد اقتصرت الدراسة بدقة على الخلافات حول الأماكن (السلامة والترحيب في المساحات العامة).
- لا يدعي أن هذا الذكاء الاصطناعي "واعٍ" أو يشعر بالتعاطف حقاً؛ بل هو يحاكي "توازن" التعاطف رياضياً فقط.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.