Learning the Value Systems of Societies with Preference-based Multi-objective Reinforcement Learning
تقترح هذه الورقة إطار عمل للتعلم التعزيزي متعدد الأهداف قائم على التفضيلات، يقوم بتجميع الوكلاء لتعلم نماذج محاذاة القيم المشتقة اجتماعياً وأنظمة قيم متميزة بشكل مشترك، مما يتيح توليد سياسات مثالية من نوع "باريتو" تتكيف مع تفضيلات المستخدمين المتنوعة داخل المجتمع.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
"الذكاء الاصطناعي الدبلوماسي": كيف تتعلم الآلات فهم القيم المختلفة لمجتمع ما
تخيل أنك تقوم ببناء مساعد رقمي جديد فائق الذكاء لمدينة بأكملها. المشكلة هي: سكان هذه المدينة ليسوا جميعاً متشابهين.
في إحدى المجموعات، يوجد "عشاق الأمان": وهم يريدون من الذكاء الاصطناعي أن يفعل كل شيء بحذر شديد، حتى لو استغرق ذلك وقتاً أطول. وفي مجموعة أخرى، يوجد "مهووسو الكفاءة": وهم لا يمانعون وجود بعض المخاطرة طالما تم تحقيق الهدف بسرعة. وهناك أيضاً "حماة البيئة"، الذين تعتبر الاستدامة بالنسبة لهم هي الأمر الأكثر أهمية.
إذا اعتمد الذكاء الاصطناعي الآن نمطاً واحداً فقط، فإنه سيستمر في إزعاج شخص ما؛ فهو إما سيكون بطيئاً جداً بالنسبة لـ "مهووسي الكفاءة" أو متهوراً جداً بالنسبة لـ "عشاق الأمان".
المشكلة: "معضلة النمط الواحد للجميع"
غالباً ما تحاول أنظمة الذكاء الاصطناعي السابقة إيجاد "قيمة متوسطة". هذا يشبه طبخ حساء واحد فقط لجميع الضيوف في مطعم، بحيث يكون مذاقه "متوسطاً": ليس مالحاً جداً ولا حلواً جداً، ولكنه في النهاية ليس لذيذاً حقاً لأي أحد. من الناحية التقنية، يُسمى هذا "خطأ في التوصيف" (mis-specification).
حل الباحثين: "نموذج التكتلات"
لقد طور الباحثون (هولجادو-سانشيز وفريقه) نهجاً جديداً. فبدلاً من محاولة وضع جميع الناس في قدر واحد، يعمل ذكاؤهم الاصطناعي مثل دبلوماسي ماهر أو عالم اجتماع.
يسير الذكاء الاصطناعي وفق ثلاث خطوات:
- خريطة القيم (التأسيس): أولاً، يتعلم الذكاء الاصطناعي المعنى الحقيقي للمصطلحات. ماذا يعني "الأمان" في موقف حقيقي؟ إنه يتعلم "لغة القيم".
- تكوين المجموعات (التكتل): يراقب الذكاء الاصطناعي الناس. ويلاحظ: "آه، 30% من هؤلاء الناس يفكرون بطريقة متشابهة، و20% الآخرون كذلك". يقوم بتكوين مجموعات غير مرئية (تكتلات). هو لا يقول: "أنا أعرف كل فرد"، بل يقول: "أنا أدرك التصاميم الحياتية المختلفة في هذا المجتمع".
- السلوكيات المصممة خصيصاً (السياسة): لكل مجموعة من هذه المجموعات، يطور الذكاء الاصطناعي "استراتيجيته" الخاصة. إذا عرف الذكاء الاصطناعي أنه يعمل حالياً لصالح "مجموعة الأمان"، فإنه ينتقل تلقائياً إلى وضع الحذر.
كيف يتعلم الذكاء الاصطناعي هذا؟ ("لعبة السؤال والجواب")
لا يتعلم الذكاء الاصطناضي من خلال الحفظ الصم، بل من خلال المقارنات. فهو يعرض على الناس مسارين مختلفين (على سبيل المثال، طريقين مختلفين لسيارة ذاتية القيادة) ويسأل: "أي مسار تجده أفضل؟"
الناس لا يجيبون فقط بـ "المسار (أ) أفضل"، بل يقولون أيضاً: "المسار (أ) أفضل لأنه أكثر أماناً". بهذه الطريقة، لا يفهم الذكاء الاصطناعي "ماذا" فحسب، بل يفهم أيضاً "لماذا". هذا يشبه طفلاً لا يتعلم فقط أن النار حارقة، بل يفهم أيضاً "لماذا" يجب ألا يلمسها.
لماذا هذا مهم؟
في المستقبل، ستتخذ أنظمة الذكاء الاصطناعي قرارات في مدننا، وفي سياراتنا، وفي مستشفياتنا. ولكي نتمكن من الثقة في هذه الآلات، يجب ألا تعمل بجمود وفق خوارزمية ثابتة، بل يجب أن تحترم تنوع مجتمعاتنا.
لقد أثبت الباحثون من خلال هذا النظام أن الذكاء الاصطناعي يمكنه تعلم التعرف على "سحب القيم" المختلفة لمجتمع ما، وإيجاد السلوك المناسب والعادل لكل سحابة.
باخت-صار: الذكاء الاصطناعي لا يتعلم فقط كيفية حل المهام، بل يتعلم قراءة "الخريطة الأخلاقية" للناس.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.