Personalization, Personas, and Forecasting in Value Alignment
تُظهر هذه الدراسة أن صياغة الأوامر البرمجية — وتحديداً ما إذا كان يُطلب من النماذج التخصيص، أو تقمص الأدوار، أو التنبؤ بمنظور الطرف الثالث — تغير بشكل كبير توافق قيمها الثقافية مع المجموعات البشرية، حيث يؤدي التنبؤ بمنظور الطرف الثالث عموماً إلى نتائج أكثر استقراراً ودقة عبر مختلف اللغات وأبعاد القيم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تتحدث إلى روبوت فائق الذكاء قرأ كل كتاب كُتب تقريبًا. قد تعتقد أن هذا الروبوت يمتلك شخصية واحدة ثابتة، مثل البشر الذين لدًايهم مجموعة واحدة من المعتقدات. لكن في عالم الذكاء الاصطناعي، هذه الروبوتات تشبه الحرباء؛ إذ يمكنها تغيير "صوتها" و"آرائها" بناءً على كيفية طرحك للسؤال. هذا المجال من الدراسة يسمى محاذاة القيم (value alignment)، وهو مجرد طريقة منمقة للتساؤل: "هل إجابة هذا الروبوت تطابق ما يعتقده البشر الحقيقيون بالفعل؟"
لفهم هذا، عليك أن تعرف ثلاث طرق يمكننا من خلالها التحدث مع هذه الروبوتات. أولاً، التخصيص (Personalization) يشبه قولك للروبوت: "مهلاً، أنا شخص من البرازيل؛ ما رأيك؟"، فيحاول الروبوت أن يكون صديقًا مفيدًا لك. ثانيًا، لعب الأدوار (Role-playing) أو (الشخصيات/Personas) يشبه ارتداء زي تنكري؛ تقول له: "تظاهر بأنك شخص من البرازيل"، فيقوم الروبوت بتمثيل الدور. ثالثًا، التنبؤ (Forecasting) يشبه كونك محققًا؛ تسأل: "ماذا سيكون رد شخص من البرازيل؟" دون أن تطلب من الروبوت أن يكون ذلك الشخص. لفترة طويلة، تساءل العلماء عما إذا كانت هذه الطرق الثلاث في التحدث مع الروبوتات هي في الأساس الشيء نفسه. إذا طلبت من روبوت أن يكون برازيليًا، أو أن يتحدث إلى برازيلي، أو أن يخمن ما يفكر فيه برازيلي، فهل يجب أن يعطي الإجابة نفسها تمامًا؟
قرر فريق من الباحثين وضع هذه الفكرة قيد الاختبار باستخدام استطلاع ضخم وحقيقي من واقع الحياة يسمى "مسح القيم العالمي" (World Values Survey)، والذي يسأل الملايين من الناس حول العالم عن معتقداتهم بشأن الدين والعمل والمجتمع. لقد طلبوا من أذكى أربعة روبوتات ذكاء اصطناً في العالم أن تجيب على 101 سؤال من هذه الاستطلاعات بـ 13 لغة ودولة مختلفة. جربوا جميع الطرق الثلاث—التحدث إلى مستخدم، ولعب الأدوار، والتنبؤ—لمعرفة أي طريقة من هذه الطرق تجعل إجابات الروبوت تتوافق بشكل أفضل مع البيانات البشرية الحقيقية.
إليك المفاجأة التي وجدوها: كيفية طرح السؤال تغير الإجابة. اكتشف الباحثون أن هذه الطرق الثلاث ليست قابلة للتبادل. في الواقع، طريقة صياغة "المطالبة" (prompt) هي عامل ضخم في تحديد ما إذا كان الروبوت سيبدو كإنسان حقيقي من ذلك البلد أم لا.
كانت النتيجة الأكثر إثارة للدهشة هي أن التنبؤ (forecasting) كان الفائز الواضح. فعندما سأل الباحثون الروبوتات: "ماذا سيقول شخص من [البلد X]؟"، كانت إجابات الروبوتات أقرب بكثير إلى الإجابات البشرية الحقيقية مما كانت عليه عندما طُلب منها أن "تكون" ذلك الشخص أو أن "تتحدث إلى" ذلك الشخص. يبدو الأمر كما لو أن الروبوتات بارعة في كونها مراقبًا ذكيًا يخمن ما يفكر فيه شخص آخر أكثر من براعتها في التظاهر بأنها ذلك الشخص. بالنسبة لثلاثة من أصل أربعة روبوتات تم اختبارها، كانت طريقة "التخمين" هذه هي الطريقة الأقوى للحصول على إجابات دقيقة ثقافيًا.
ومع ذلك، لم تكن الروبوتات تصيب في كل شيء. وجد الباحثون أن الروبوتات كانت بارعة في التقاط الاختلافات الثقافية الكبيرة والواضحة، مثل مدى أهمية الدين أو كيفية رؤية الناس لأدوار الجنسين. ولكن عندما يتعلق الأمر بالمواضيع الأكثر تعقيدًا وصعوبة مثل الثقة في الحكومة، أو الديمقراطية، أو مدى كفاءة المؤسسات، فقد تعثرت الروبوتات. حتى عندما حاولت التخمين، غالبًا ما أخطأت في تقدير هذه القضايا الدقيقة.
كما أظهرت الدراسة أن الروبوتات لم تغير إجاباتها بشكل عشوائي؛ بل غيرتها في اتجاهات محددة. على سبيل المثال، عند السؤال عن الدين، تحركت إجابات الروبوتات بقوة نحو البيانات البشرية الحقيقية. ولكن بالنسبة للأسئلة المتعلقة بالفساد أو الثقة السياسية، غالبًا ما ظلت الإجابات عالقة في "النمط العالمي" الافتراضي للروبوت أو حتى تحركت بعيدًا عما يعتقده البشر الحقيقيون.
إذن، ماذا يعني هذا؟ يشير هذا إلى أنه إذا كنت تريد من الذكاء الاصطناعي أن يفهم ثقافة معينة، فلا يمكنك فقط أن تقول له "تصرف كأنك" من السكان المحليين. قد تحصل على نتائج أفضل من خلال سؤاله عن توقع ما قد يفكر فيه أحد السكان المحليين. ولكن حتى مع ذلك، فإن الروبوت ليس مرآة مثالية للبشرية؛ فهو بارع في رؤية الإشارات الثقافية الكبيرة والصاخبة أكثر من الإشارات الهادئة والمعقدة. ويخلص الباحثون إلى أن كيفية طرح هذه الأسئلة ليست مجرد خيار شكلي—بل إنها تغير بشكل جوهري ما يقوله الروبوت ومدى توافقه مع العالم الحقيقي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.