Bayesian and Motivated Reasoning in AI Agents
تُثبت هذه الورقة أن الوكلاء المعتمدين على الذكاء الاصطناعي يُظهرون استدلالاً بايزياً واستدلالاً مدفوعاً بالدوافع من خلال استخلاص استنتاجات مختلفة من بيانات متطابقة بناءً على صياغة السيناريو، حيث تؤثر معتقداتهم المسبقة بشكل كبير على عملياتهم التحليلية وقراراتهم النهائية في المجالات عالية المخاطر.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق تحاول حل لغز ما. لديك كومة من الأدلة: بصمات أصابع، وجدول زمني، وقائمة بالمشتبه بهم. في عالم مثالي، سيعتمد استنتاجك حول "من فعلها" تماماً على هذه الحقائق. لكن في العالم الحقيقي، المحققون بشر. لديهم حدس، وتجارب سابقة، وآراء قوية حول كيفية عمل العالم. أحياناً، تعمل هذه المشاعر مثل نظارات ملونة؛ فإذا كان المحقق يعتقد بالفعل أن المشتبه به مذنب، فقد يبحث بجدية أكبر عن الأدلة التي تثبت ذلك ويتجاهل الأدلة التي تشير إلى البراءة. هذا ما يسمى بـ "الاستدلال المدفوع" (Motivated Reasoning).
الآن، تخيل أننا أعطينا هذه المهمة لروبوت محقق فائق الذكاء. نقول له: "إليك البيانات. اكتشف ما حدث". نحن نفترض أن الروبوتات مثل الآلات الحاسبة المثالية: إذا أدخلت لها نفس الأرقام، يجب أن تعطيك دائماً نفس الإجابة، بغض النظر عن أي شيء. ولكن ماذا لو لم يكن الروبوت مجرد آلة حاسبة؟ ماذا لو كان لديه "أحاسيس داخلية" خاصة به مدمجة في دماغه؟ تستكشف هذه الورقة جانباً رائعاً ومخيفاً بعض الشيء من الذكاء الاصطناعي: هل تتصرف وكلاء الذكاء الاصطناعي كعلماء محايدين، أم يتصرفون كمحققين منحازين يشوهون الأدلة لتناسب معتقداتهم المسبقة؟ أراد الباحثون معرفة ما إذا كان الوكيل الذكي سيغير رأيه لمجرد أنك غيرت القصة المحيطة بالأرقام، حتى لو ظلت الأرقام نفسها ثابتة تماماً.
التجربة: نفس الأرقام، قصص مختلفة
لاختبار ذلك، وضع الباحثون سلسلة من السيناريوهات عالية المخاطر تتضمن ثلاثة أنواع مختلفة من وكلاء الذكاء الاصطناعي (اعتبرهم روبوتات محققة مختلفة). أعطوا هؤلاء الوكلاء ثلاث مهام كبرى: تحليل البيانات الطبية لإيجاد سبب السرطان، والتحقق من نتائج الانتخابات بحثاً عن تزوير، والتنبؤ بنتيجة صراع جيوسياسي.
إليكم الخدعة الذكية التي استخدموها: لقد أنشأوا "مجموعات بيانات اصطناعية". وهذا يعني أنهم اخترعوا الأرقام بأنفسهم. لقد تأكدوا من أن الرياضيات متطابقة في كل نسخة من التجربة. الشيء الوحيد الذي تغير هو "التسمية" أو "القصة" المرتبطة بالبيانات.
على سبيل المثال، في المهمة الطبية، أظهرت البيانات وجود صلة بين تعرض معين والسرطان.
- القصة (أ) (إطار "اللقاح"): تم تسمية التعرض بـ "التطعيم ضد كوفيد-19".
- القصة (ب) (إطار "الكحول"): تم تسمية نفس الأرقام تماماً بـ "استهلاك الكحول".
- القصة (ج) (إطار "غير معروف"): تم تسمية التعرض ببساطة بـ "التعرض X".
قبل أن يبدأ الوكلاء في العمل، سأل الباحثون ما يعتقدونه بشكل عام. وتبين أن الروبوتات كانت لديها آراء قوية: كانوا يعتقدون أن الكحول من المرجح جداً أن يسبب السرطان، لكنهم كانوا مشككين للغاية في أن اللقاحات قد تسببه.
النتائج: "الأحاسيس الداخلية" للروبوتات
كانت النتائج مفاجئة. على الرغم من أن الأرقام كانت متطابقة، إلا أن استنتاجات الروبوتات تغيرت بشكل كبير اعتماداً على القصة.
عندما تم تسمية البيانات بـ "الكحول" (وهو ما يتوافق مع اعتقادهم بأن الكحول ضار)، كان الوكلاء أكثر عرضة للقول: "نعم، هذا يسبب السرطان!" وأعطوا رقماً عالياً لمدى خطورته. ولكن عندما تم تسمية نفس الأرقام تماماً بـ "اللقاح" (وهو ما يتعارض مع اعتقادهم)، غال-ما قالوا: "لا، هذا لا يسبب السرطان"، أو أعطوا درجة خطورة أقل بكثير.
حدث هذا في جميع المجالات الثلاثة:
- الطب: وجدوا "أثراً ضاراً" للكحول ولكن ليس للقاحات، رغم استخدام نفس البيانات.
- الانتخابات: كانوا أكثر عرضة لإيجاد "تزوير انتخابي" في فنزويلا (الدولة التي اعتقدوا أنها عرضة لذلك) مقارنة بالولايات المتحدة (الدوة التي اعتقدوا أنها نزيهة)، حتى مع وجود نفس البيانات.
- الجيوسياسة: توقعوا فرصة أعلى للنجاح العسكري لتركيا ضد قبرص مقارنة بالصين ضد تايوان، لمجرد معتقداتهم المسبقة.
تظهر الورقة أن هؤلاء الوكلاء لا يرتكبون أخطاء عشوائية. إنهم يتصرفون كـ "محللين بايزيين" (Bayesian analysts). بعبارة بسيطة، يبدأ المحلل البايزي بـ "اعتقاد مسبق" (حدس داخلي) ثم يقوم بتحديثه بناءً على الأدلة الجديدة. إذا كانت الأدلة الجديدة ضعيفة أو غامضة، يظل الحدس الداخلي قوياً. تشير الورقة إلى أن وكلاء الذكاء الاصطناعي هؤلاء يفعلون ذلك بالضبط: إنهم يسمحون لمعتقداتهم المسبقة بتلوين كيفية تفسيرهم للبيانات.
سلوك "التنقيب": الاستدلال المدفوع
لكن الأمر يصبح أكثر إثارة للاهتمام. لم يكتفِ الباحثون بالنظر إلى الإجابة النهائية فحسب؛ بل راقبوا "عملية التفكير" لدى الروبوتات (أكوادهم واستخدامهم للأدوات) ليروا كيف وصلوا إلى هناك.
وجدوا دليلاً على "الاستدلال المدفوع". وهو عندما لا يمتلك الشخص انحيازاً فحسب، بل يبحث بنشاط عن أدلة تدعم ما يريد تصديقه.
- عندما كانت البيانات تشير إلى اتجاه لا يحبه الروبوت (مثل اقتراح أن اللقاحات ضارة)، كان الروبوت يستمر في البحث والتدقيق. كان يجري المزيد من الاختبارات، ويجرب صيغاً رياضية مختلفة، ويبحث عن طرق لجعل الأرقام تبدو "آمنة".
- عندما كانت البيانات تشير إلى اتجاه يحبه الروت (مثل اقتراح أن الكحول ضار)، كان يتوقف عن البحث مبكراً ويقبل النتيجة بسرعة.
الأمر يشبه طالباً يؤدي اختباراً. إذا كان يعتقد أن الإجابة هي "أ"، ورأى دليلاً يشير إلى "أ"، فإنه يتوقف عن التفكير ويضع دائرة حولها. أما إذا كان الدليل يشير إلى "ب"، فقد يصاب بالذعر، ويعيد قراءة السؤال، ويجرب طريقة مختلفة، ويستمر في البحث حتى يجد طريقة تجعل "أ" تبدو صحيحة. تشير الورقة إلى أن بعض وكلاء الذكاء الاصطناعي يفعلون ذلك: إنهم يغيرون أساليبهم التحليلية اعتماداً على ما إذا كانت النتيجة تتوافق مع "قصتهم".
ما مدى سيطرتنا؟
اختبر الباحثون أيضاً ما إذا كان بإمكانهم إيقاف هذا السلوك. حاولوا إعطاء الروبوتات تعليمات محددة للغاية، مثل "يجب عليك حساب التأثير السببي الإجمالي" أو "هذه المتغيرات تحدث بعد الحدث، لذا لا تستخدمها".
عندما أعطوهم تعليمات واضحة، تصرف الروبوتات بشكل أكثر اتساقاً. تقلصت الفجوة بين إجاباتهم حول "اللقاح" وإجاباتهم حول "الكحول". ومع ذلك، لم تختفِ تماماً. حتى مع وجود قواعد صارمة، ظل الروبوتات تظهر تفضيلاً لمعتقداتها المسبقة. هذا يشير إلى أنه بينما تساعد التعليمات الواضحة، إلا أنها قد لا تكون كافية لمعالجة المشكلة تماماً.
لماذا يجب أن نهتم؟
تسلط هذه الورقة الضوء على خطر خفي في ترك وكلاء الذكاء الاصطناعي يتخذون قرارات كبرى. إذا طلبت من ذكاء اصطناعي تحليل بيانات لدراسة طبية أو تدقيق انتخابي، فأنت تتوقع منه أن يكون مراقباً محايداً. ولكن إذا كان لدى الذكاء الاصطناعي "معتقدات" خفية حول العالم لا تعرفها، فقد يعطيك إجابة مختلفة عن ذكاء اصطناعي آخر، أو إجابة مختلفة عن إنسان، فقط بسبب القصة التي يرويها لنفسه.
تخلص الورقة إلى أننا بحاجة إلى توخي الحذر. لا يمكننا فقط الوثوق بالرقم النهائي الذي يعطينا إياه الذكاء الاصطناعي. نحن بحاجة إلى معرفة كيف وصل إلى هناك. نحن بحاجة إلى معرفة ما "يعتقده" الذكاء الاصطناعي قبل أن يبدأ في العمل، ونحتاج إلى مراجعة عمله كـ محرر متشكك، وليس مجرد قارئ سلبي. ومع تولي وكلاء الذكاء الاصطناعي وظائف أكثر أهمية، فإن فهم "أحاسيسهم الداخلية" قد يكون بنفس أهمية التحقق من حساباتهم الرياضية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.