The Evolutionary Dynamics of AI, Politicization, Contestation, and Trust in Science Funding
تستخدم هذه الورقة نموذج نظرية الألعاب التطورية لتوضيح أن التصور بوجود تدخل سياسي في تمويل العلوم يمكن أن يؤدي إلى مقاومة متتالية بين العلماء، مما يؤدي إلى نتائج مؤسسية متباينة حيث تخضع القدرة التشغيلية والشرعية العامة لظروف منفصلة، وغالباً ما تكون مفككة، تتأثر بشدة بقبول الجمهور لأنظمة المراجعة المدعومة بالذكاء الاصطناعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل لعبة "عرض وتوضيح" (Show and Tell) ضخمة وعالية المخاطر، هي التي تُحرك محرك عالمنا الحديث. في هذه اللعبة، يأتي علماء عباقرة بأفكار جامحة لأدوية جديدة، وطاقة أنظف، وحواسيب أسرع. ولكي يحصلوا على الأموال لبناء هذه الأفكة، عليهم إقناع لجنة من الخبراء بأن خططهم جيدة. تسمى هذه العملية بـ "مراجعة الأقران" (peer review)، وهي الحارس الذي يقرر أي المشاريع ستحصل على التمويل وأيها ستعود إلى ديارها خالية الوفاض. ولكي يعمل هذا النظام، يجب أن يحدث أمران: أولاً، يجب أن يقوم الخبراء بالفعل بعملية القراءة للمقترحات (القدرة الاستيعابية)، وثانياً، يجب أن نؤمن نحن — الجمهور — بأن العملية عادلة وليست مُتلاعباً بها من قبل السياسيين (الشرعية). إذا اعتقد الجمهور أن اللعبة غير عادلة، فسيتوقفون عن الثقة في النتائج، ويمكن للنظام بأكمله أن ينهار، حتى لو كان العلماء لا يزالون يؤدون عملهم.
الآن، تخيل أن الحكومة قررت تسريع الأمور عبر استقدام قاضٍ آلي فائق السرعة (الذكاء الاصطناعي) للمساعدة في قراءة المقترحات، خاصة إذا بدأ الخبراء البشر بالشكوى من أن النظام غير عادل. هنا يأتي دور دراسة جديدة لـ "أنيماش راي". قام المؤلف ببناء محاكاة حاسوبية معقدة — صندوق رمال رقمي — ليرى ما يحدث عندما يبدأ العلماء والجمهور ووكالة التمويل جميعاً في التفاعل مع بعضهم البعض في بيئة فوضوية وسياسية. تشير الدراسة إلى أن مجرد استبدال البشر بالروبوتات لا يحل المشكلة؛ بل في الواقع، قد يخلق نسخة "زومبي" من وكالة التمويل التي تستمر في إنتاج القرارات ولكنها فقدت كل روحها وثقة الجمهور.
صندوق الرمل الرقمي: لعبة استراتيجية
في هذه المحاكاة، يعامل المؤلف عالم التمويل كشد وجذب ثلاثي الأطراف يشمل العلماء، والجمهور، ووكالة التمويل.
العلماء لديهم بعض التحركات. يمكنهم اللعب بنزاهة، ومراجعة أعمال زملائهم، وتقديم مقترحاتهم الخاصة. لكن إذا شعروا أن النظام منحاز أو غير عادل، فيمكنهم بدء احتجاج. قد يرفضون مراجعة عمل أي شخص، أو قد يحاولون "إغراق" النظام بتقديم عدد هائل من المقترحات فقط لتعطيل المسارات. الأمر يشبه مجموعة من الأطفال في لعبة يقررون إما اللعب وفق القواعد أو، في نوبة غضب، رمي ألف كرة على الحكم في وقت واحد.
الجمهور يراقب عن كثب. يريدون معرفة ما إذا كانت اللعبة عادلة. إذا رأوا الوكالة تعتمد كثيراً على القاضي الآلي (الذكاء الاصطناعي) دون تقديم تفسير جيد، أو إذا رأوا العلماء يتشاجرون، فقد يتوقفون عن الثقة في المنظومة برمتها. يمكنهم قبول النظام الجديد، أو رفضه، أو حتى محاولة التقاضي لإيقافه.
وكالة التمويل هي الحكم الذي يحاول إبقاء اللعبة مستمرة. لديها ميزانية محدودة وتراكم متزايد من المقترحات. عندما يبدأ العلماء في الاحتجاج، تحاول الوكالة إصلاح الأمر عبر القيام بشيئين: دفع المزيد من المال للمراجعين البشر لإبقائهم راضين، وزيادة وتيرة عمل القاضي الآلي لمعالجة التراكمات بشكل أسرع.
المفاجأة الكبرى: وكالة "الزومبي"
كشفت المحاكاة عن نتائج مذهلة وغير متوقعة. أهم نتيجة هي أن القدرة التشغيلية (عدد المقترحات التي تتم معالجتها) والشرعية المؤسسية (مدى ثقة الجمهور في النظام) هما شيئان منفصلان يمكن أن يفشلا بشكل مستقل.
تشير الدراسة إلى أن الوكالة يمكنها بنجماء استخدام الذكاء الاصطناعي لتصفية تراكم هائل من المقترحات، مما يحافظ على تدفق الأموال وعمل الروبوتات بكامل سرعتها. ومع ذلك، في الوقت نفسه تماماً، يمكن للجمهور أن يفقد الإيمان بالنظام تماماً، معتبراً القرارات غير شرعية. يطلق المؤلف على هذا الحالة اسم "حالة الزومبي": المؤسسة تقنياً حية وتتحرك، لكن سلطتها ميتة. إنه يشبه مطعماً يقدم الطعام بسرعة فائقة لأن الروبوت هو من يطبخ، لكن الزبائن يكرهون الطعام والطباخ، لذا يتوقفون عن المجيء، رغم أن المطبخ يعمل بنسبة 100%.
"إغراق المقترحات" وفخ الميزانية
أحد السيناريوهات الأكثر وضوحاً التي تستكشفها الورقة هو ما يحدث عندما يغضب العلماء. بدلاً من مجرد رفض العمل، قد يقررون "إغراق" النظام بآلاف المقترحات الإضافية. تظهر المحاكاة أن هذه الاستراتيجية فعالة للغاية في كسر النظام. حتى لو كان الروبوت الذكي فائق السرعة، فإنه لا يستطيع المواكبة إذا استمر العلماء في إلقاء المزيد والمزيد من المقترحات عليه.
وهنا تكمن المفارقة: تحاول الوكالة إصلاح ذلك عبر دفع المزيد من المال للمراجعين البشر لاستعادتهم. لكن الدراسة تشير إلى أن هذا قد يأتي بنتائج عكسية. إذا رأى الجمهور الوكالة وهي توزع مدفوعات "طوارئ" ضخمة للعلماء أثناء الأزمة، فقد يعتبرون ذلك رشوة. هذا التصور يمكن أن يدمر ما تبقى من الثقة، مما يجعل الوضع أسوأ. علاوة على ذلك، فإن دفع المزيد للبشر يستنزف الميزانية، مما يعني وجود أموال أقل لدفع ثمن روبوتات الذكاء الاصطناعي، مما يخلق حلقة مفرغة حيث لا تستطيع الوكالة تحمل تكلفة حل المشكلة التي تحاول حلها.
دور الصدفة والتوقيت
توضح الورقة أيضاً أن النتيجة ليست دائماً متوقعة. في المحاكاة، يمكن لظروف البداية المتطابقة أن تؤدي إلى نهايات مختلفة تماماً لمجرد اختلافات عشوائية صغيرة في كيفية رد فعل الناس في البداية. أحياناً، يمكن لزيادة طفيفة في الثقة في البداية أن تنقذ النظام؛ وفي أحيان أخرى، يمكن لشرارة صغيرة من عدم الثقة أن تسبب انهياراً تاماً. تشير الدراسة إلى أنه بمجرد دخول النظام في "حالة الزومبي" أو حالة الانهيار التام، يكون من الصعب جداً استعادته.
ما لا تقوله الدراسة
من المهم ملاحظة ما لا تدعيه هذه الورقة. هي لا تقول إن الذكاء الاصطناعي سيء أو أنه لا ينبغي لنا استخدامه أبداً. تُظهر المحاكاة في الواقع أن الذكاء الاصطناعي يمكنه معالجة المقترحات بفعالية. المشكلة ليست في التكنولوجيا نفسها؛ بل في الثقة المحيطة بها. كما أن الدراسة لا تقول إن العلماء سيئون بطبيعتهم أو أنهم سيقومون بالتأكيد بإغراق النظام؛ بل تقترح أنه إذا ساءت البيئة السياسية بما يكفي، فإن الحافز لإغراق النظام يصبح خياراً عقلانياً بالنسبة لهم.
الخلاصة
ببساطة، تشير هذه الدراسة إلى أنه لا يمكنك شراء طريقك للخروج من أزمة الثقة باستخدام روبوتات أسرع أو شيكات أكبر. إذا اعتقد الجمهور أن اللعبة مغشوشة، فلن ينجح أي قدر من كفاءة الذكاء الاصطناعي في إصلاح الأمر. قد تبقي الوكالة الأنوار مشتعلة والمقترحات تتحرك، ولكن إذا فقد الناس الذين يراقبون الإيمان بها، فسيصبح المشروع برمته هيكلاً أجوفاً. المفتاح المستخلص هو أن إصلاح جزء "الثقة" في المعادلة لا يقل أهمية عن إصلاح جزء "السرعة"، وهما مشكلتان مختلفتان تحتاجان إلى حلين مختلفين. إذا لم ننتبه للمشاعر الإنسانية وتصور العدالة، فإننا نخاطر ببناء نظام تمويل علمي يعمل بشكل مثالي على الورق ولكنه يفشل في العالم الحقيقي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.