Strategic Algorithmic Monoculture:Experimental Evidence from Coordination Games
تثبت هذه الورقة تجريبيًا أنه في حين تُظهر النماذج اللغوية الكبيرة تشابهًا أساسيًا عاليًا في الأفعال وقدرة على التكيف استراتيجيًا مع حوافز التنسيق مثل البشر، إلا أنها تعاني من أجل الحفاظ على التباين السلوكي المطلوب عندما يكون التباين هو المُكافأ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً يحاول فيه الجميع اتخاذ قرار بشأن ما يرتدونه، أو أي فيلم يشاهدونه، أو أي مدينة يزورونها. في بعض الأحيان، يكون من الرائع أن يختار الجميع الشيء نفسه (مثل الالتقاء عند معلم شهير). وفي أحيان أخرى، يكون من الكارثي أن يختار الجميع الشيء نفسه (مثل محاولة الجميع شراء المنزل نفسه، مما يسبب فقاعة، أو تقديم الجميع على الوظيفة نفسها).
هذه الورقة البحثية هي تجربة كبيرة لمعرفة كيف تتصرف الوكلاء الذكاء الاصطناعي (تحديداً النماذج اللغوية الكبيرة مثل تلك التي قد تدردش معها) في هذه المواقف مقارنة بـ البشر الحقيقيين.
أراد الباحثون الإجابة على سؤالين رئيسيين:
- هل يفكر وكلاء الذكاء الاصطناعي بشكل طبيعي بطريقة متشابهة؟
- هل يمكن لوكلاء الذكاء الاصطناعي تعلم التفكير بشكل مختلف عندما يكون من مصلحتهم القيام بذلك؟
إليك التفاصيل باستخدام تشبيهات بسيطة.
1. نوعا "التفكير الجماعي"
يميز المؤلفون بين طريقتين ينتهي بهما الأمر بوكلاء الذكاء الاصطناعي إلى التفكير بنفس الطريقة:
- أحادية الثقافة الأولية (الإعداد الافتراضي): هذا يحدث عندما يعطي وكلاء الذكاء الاصطناعي نفس الإجابة بشكل طبيعي لأنهم تدربوا على بيانات متشابهة ولديهم "شخصيات" متشابهة. الأمر يشبه إذا سألت 100 شخص عن فاكهة، سيقول الكثير منهم "تفاح" لمجرد أنها أول شيء يتبادر إلى ذهنهم. وجد الباحثون أن الذكاء الاصطناعي يفعل ذلك أكثر بكثير من البشر. إذا سألت اثنين من نماذج الذكاء الاصطناعي عن اسم مدينة دون أي قواعد، فمن المرجح جداً أن يقول كلاهما "باريس" أو "طوكيو".
- أحادية الثقافة الاستراتيجية (خطة اللعب): هذا يحدث عندما يختار الوكلاء التفكير بشكل متشابه لأن قواعد اللعبة تكافئهم على ذلك. الأمر يشبه مجموعة من الأصدقاء يقررون جميعاً ارتداء قمصان حمراء لأنهم يعرفون أن الجائزة هي للفريق الذي يرتدي ملابس متطابقة. وجدت الدراسة أن الذكاء الاصطناعي بارع جداً في هذا. عندما يُقال له: "ستحصل على مكافأة إذا اخترت نفس الإجابة التي اختارها شريكك"، فإن وكلاء الذكاء الاصطناعي ينسقون بشكل مثالي، وغالباً ما يتفوقون على البشر.
2. التجربة: "لعبة التسمية"
لعب الباحثون لعبة مع 16 نموذجاً مختلفاً من الذكاء الاصطناعي و300 إنسان. طرحوا عليهم أسئلة مفتوحة مثل "اذكر اسم مدينة" أو "اذكر لوناً". وفعلوا ذلك في ثلاثة سيناريوهات مختلفة:
- جولة "اختر فقط": لا توجد قواعد. فقط أجب.
- النتيجة: اختار الذكاء الاصطناعي نفس الإجابات بشكل متكرر أكثر من البشر. (أحادية ثقافة أولية عالية).
- جولة "المطابقة": تحصل على مكافأة إذا اخترت نفس الإجابة التي اختارها شريكك.
- النتيجة: أصبح كل من البشر والذكاء الاصطناعي أفضل في المطابقة. لكن الذكاء الاصطناعي كان بشرياً خارقاً في هذا. لقد وجدوا الإجابة "الواضحة" (مثل "باريس") فوراً وتمسكوا بها.
- جولة "عدم المطابقة": تحصل على مكافأة إذا اخترت إجابة مختلفة عن إجابة شريكك.
- النتيجة: هنا أصبحت الأمور غريبة. كان البشر رائعين في هذا. إذا عرفوا أنهم بحاجة لأن يكونوا مختلفين، فسيختارون إجابات "غامضة" مثل "ليوبليانا" أو "تيل (اللون المائل للزرقة)".
- مشكلة الذكاء الاصطناعي: عانى الذكاء الاصطناعي هنا. حتى عندما طُلب منه أن يكون مختلفاً، استمر في اختيار نفس الإجابات الشائعة مع بعضهم البعض. لقد ظلوا عالقين في حلقة مفرغة من "أحادية الثقافة الأولية" ولم يتمكنوا من التحرر لتكون لديهم خصوصية.
3. لماذا يحدث هذا؟ (مشكلة "العشوائية")
تعمق الباحثون في "عقل" الذكاء الاصطناعي (تفكيرهم النصي) ليروا ما الذي يحدث.
- الميزة البشرية: البشر فوضويون بطبيعتهم. يمكننا بسهولة قلب عملة ذهنية في عقولنا للتقرير بين خيارين. إذا كنا بحاجة لأن نكون مختلفين، فنحن ببساطة نقول: "حسناً، سأختار الخيار الغريب".
- معاناة الذكاء الاصطناعي: نماذج الذكاء الاصطناعي حتمية (Deterministic). إنهم يشبهون أميناً للمكتبة ذكياً جداً وصارماً جداً. هم بارعون في العثور على الكتاب "الأفضل" أو "الأكثر شعبية" على الرف. لكنهم سيئون جداً في اختيار كتاب بشكل عشوائي من الرف لمجرد أن يكونوا مختلفين.
- حاولت الدراسة إصلاح ذلك من خلال الطلب من الذكاء الاصطناعي "اختيار رقم عشوائي" أو عن طريق رفع "درجة الحرارة" (إعداد يجعل الذكاء الاصطناعي أكثر إبداعاً وأقل قابلية للتنبؤ).
- المقايضة: عندما جعلوا الذكاء الاصطناعي أكثر عشوائية، أصبح أفضل في لعبة "عدم المطابقة" (أن يكون مختلفاً). لكنه أصبح أسوأ في لعبة "المطابقة" (أن يجدوا بعضهم البعض). إنها معضلة: لكي تكون لاعباً بارعاً في الفريق، يجب أن تكون قابلاً للتنبؤ. ولكي تكون فرداً متميزاً، يجب أن تكون غير قابل للتنبؤ. يعاني الذكاء الاصطناعي في التنقل بين هذين الوضعين.
4. الصورة الكبيرة: لماذا يجب أن نهتم؟
هذا لا يتعلق فقط بتسمية المدن. إن لهذا تداعيات ضخمة في العالم الحقيقي:
- الأخبار الجيدة: إذا أردنا للذكاء الاصطناائي أن يعمل معاً (مثل السيارات ذاتية القيادة التي تنسق لتجنب الاصطدام، أو روبوتات التداول التي تجد سعراً مستقراً)، فهم بارعون جداً في ذلك. يمكنهم "إيجاد بعضهم البعض" بشكل أسرع من البشر.
- الأخبار السيئة: في المواقف التي نحتاج فيها إلى التنوع، قد يخفقنا الذكاء الاصطناعي.
- التوظيف: إذا استخدمت كل الشركات نفس الذكاء الاصطناعي لفحص السير الذاتية، فقد يرفضون جميعاً نفس المرشحين "الجيدين" ويوظفون جميعاً نفس الأشخاص "المتوسطين"، مما يؤدي إلى فقدان المواهب الفريدة.
- الاستثمار: إذا تفاعلت جميع نماذج الذكاء الاصطناعي للاستثمار مع الأخبار بنفس الطريقة، فقد يبيعون جميعاً في نفس اللحظة تماماً، مما يسبب انهيار السوق.
- الأمن: إذا كانت جميع الأنظمة الأمنية تستخدم نفس الذكاء الاصطناعي، فإن المخترق يحتاج فقط إلى طريقة واحدة لخداع النظام لكسرهم جميعاً.
الخلاصة
وكلاء الذكاء الاصطناعي هم منسقون فائقون ولكنهم سيئون في التباين. إنهم يشبهون جوقة موسيقية تغني في تناغم مثالي عندما يُطلب منها ذلك، ولكن إذا طلبت منهم جميعاً غناء نوتات مختلفة لإنشاء كورد موسيقي معقد، فسوف يغني الجميع بالخطأ نفس النوتة.
تحذرنا الورقة البحثية أنه مع وضع المزيد من الذكاء الاصطناعي في اقتصادنا، نحتاج إلى توخي الحذر. لا يمكننا افتراض أن امتلاك 1,000 نموذج مختلف من الذكاء الاصطناعي سيعطينا 1,000 رأي مختلف. بدون تصميم دقيق، قد ينتهي بهم الأمر جميعاً بالتفكير بنفس الطريقة تماماً، وهو أمر قد يكون خطيراً عندما نحتاج إلى التنوع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.