← أحدث الأبحاث
💻 computer science

Modeling AI Overreliance as a Complex Adaptive System

يصنف هذا البحث الاعتماد المفرط على الذكاء الاصطناعي كنموذج لنظام تكيفي معقد، موضحاً أنه في حين أن التعلم الفردي والإجماع الاجتماعي لا يتسببان بطبيعتهما في الفشل الجماعي، فإن الاستخدام المرئي غير المتحقق منه يحفز تدفقات التغذية الراجعة المتتالية التي يمكن منعها من خلال تصميم استراتيجي للتغذية الراجعة.

المؤلفون الأصليون: Ahana Biswas

نُشر 2026-08-21
📖 5 دقيقة قراءة🧠 قراءة متعمّقة
CC BY 4.0

المؤلفون الأصليون: Ahana Biswas

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في مكان العمل الحديث، وصل نوع جديد من المساعدين. إنه ذكاء اصطناعي يمكنه صياغة رسائل البريد الإلكتروني، أو كتابة الأكواد البرمجية، أو تلخيص الوثائق القانونية. قيل لنا إن هذه الأدوات دقيقة للغاية، ومع ذلك برزت مشكلة غريبة: الناس لا يستخدمونها دائمًا بشكل صحيح. فأحيانًا يثقون في الآلة أكثر مما ينبغي، ويقبلون إجابة خاطئة وكأنها حقيقة. وفي أحيان أخرى، يتجاهلون أداة مفيدة لأنها ارتكبت خطأً واحدًا في الماضي. لطالما عرف الباحثون أن دقة البرنامج ليست هي الشيء الوحيد الذي يهم؛ بل الأهم هو كيف يقرر البشر متى يستمعون ومتى يدققون. لسنوات، درس العلماء هذا السلوك عبر الطلب من شخص واحد حل مسألة واحدة في مختبر هادئ، حيث راقبوا كيفية تفاعل ذلك الفرد مع اقتراح ما. لكن هذا النهج يفتقد جزءًا حيويًا من العالم الحقيقي. ففي الواقع، لا يعمل الناس في عزلة؛ إنهم يرون زملائهم يستخدمون هذه الأدوات، ويسمعون عن النجاحات والإخفاقات، ويعدلون سلوكهم الخاص بناءً على ما يلاحظونه في الآخرين. وهذا يخلق شبكة معقدة من التأثير حيث يمكن لثقة شخص واحد أن تمتد لتشمل مجموعة كاملة، مما قد يغير طريقة عمل الجميع.

قرر باحث في جامعة بيتسبرغ نمذجة هذا الواقع الاجتماعي. وبدلاً من دراسة شخص واحد في كل مرة، بنى محاكاة حاسوبية لمجتمع بأكمله. لقد أنشأ عالمًا افتراضيًا حيث واجه مئات الوكلاء الرقميين سلسلة من المهام. في هذا العالم، كان لكل وكيل ثلاثة خيارات: حل المسألة بمفرده، أو قبول الإجابة من الذكاء الاصطناعي دون النظر إليها، أو استخدام الذكاء الاصطناعي ولكن مع التحقق من الإجابة لاحقًا عبر مراجعة المصادر أو سؤال إنسان. تعلم الوكلاء من تجاربهم الخاصة، حيث حدثوا معتقداتهم حول مدى موثوقية الذكاء الاصطناعي. والأهم من ذلك، أنهم تعلموا أيضًا من جيرانهم في المحاكاة؛ فقد استطاعوا رؤية ما يفعله أقرانهم. وإذا رأوا العديد من الزملاء يقبلون إجابات الذكاء الاصطناعي دون تحقق، شعروا بضغط اجتماعي للقيام بالمثل. أجرى الباحث آلاف عمليات المحاكاة هذه ليرى كيف يتطور سلوك المجموعة بمرور الوقت، مختبرًا مستويات مختلفة من صعوبة المهام، وجودة الذكاء الاصطناعي، والتأثير الاجتماعي.

أول ما كشفته المحاكاة هو أن البيئة هي التي تهيئ المسرح. فقد حددت صعوبة المهمة والجودة الفعلية للذكاء الاصطناعي المستوى الأساسي للثقة. فعندما كانت المهام سهلة والذكاء الاصطناعي جيدًا، وثق الناس به بشكل مناسب. وعندما كانت المهام صعبة والذكاء الاصطناه ضعيفًا، مال الناس إلى الإفراط في الاعتماد عليه، وقبلوا الإجابات الخاطئة بشكل متكرر. ومع ذلك، وجد الباحث أن العامل الأكثر خطورة لم يكن الذكاء الاصطناعي نفسه، بل الطريقة التي يراقب بها الناس بعضهم البعض. لقد اكتشفوا آلية محددة يسمونها "الدليل الاجتماعي". وهو الشعور بأن السلوك صحيح لأن الجميع يفعلونه. في المحاكاة، عندما رأى الوكلاء جيرانهم يستخدمون الذكاء الاصطناعي دون تحقق، انخفضت جدوى عملية التدقيق؛ إذ بدا من غير الضروري التحقق إذا كان الجميع يكتفون بقبول الإجابة فحسب. خلق هذا حلقة مفرغة؛ فكلما توقف المزيد من الناس عن التحقق، أصبح التوقف عن التحقق أمرًا أكثر طبيعية، حتى وقعت المجموعة بأكملها في حالة من الإفراط الجماعي في الاعتماد. توقف السكان عن التحقق من عمل الذكاء الاصطناعي تمامًا، ليس لأن الذكاء الاصطناعي كان مثاليًا، بل لأن الإشارة الاجتماعية قالت إن التحقق لم يعد مطلوبًا.

ثم اختبر الباحث ما إذا كان مجرد ربط الناس بشبكة كافيًا للتسبب في هذا الانهيار. وتساءل عما إذا كان هيكل المجموعة مهمًا—أي ما إذا كان وجود عدد قليل من "المراكز" الشعبية ذات الاتصالات الكثيرة سيغير النتيجة. ومن المثير للدهشة، وجدوا أن هيكل الشبكة نفسه لم يكن هو ما يدفع نحو الإفراط في الاعتماد. فإذا كان الوكلاء يتعلمون فقط من النتائج الخام لعمل أقرانهم، فإن المجموعة تصل ببساطة إلى إجماع حول جودة الذكاء الاصطناعي دون تغيير سلوكهم العام. لم تجعلهم الشبكة يثقون بالآلة بشكل أعمى. حدث الانهيار فقط عندما أثر السلوك المرئي للآخرين بشكل مباشر على قرار التحقق من عدمه. كان مشهد الاستخدام غير المتحقق منه هو المهم، وليس مجرد وجود شبكة متصلة. هذا التمييز حيوي؛ فهو يعني أن المشكلة ليست في كون الناس مترابطين للغاية، بل في أنهم يشاهدون النوع الخاطئ من السلوك.

أخيرًا، استكشف الباحث كيفية إيقاف هذا الانهيار. واختبر طرقًا مختلفة لإعادة تصميم حلقة التغذية الراجعة. ووجد أن مجرد جعل عملية التحقق من عمل الذكاء الاصطناعي أقل تكلفة أو أسهل لم يحل المشكلة. فحتى لو استغرق التحقق وقتًا أقل، ظل الجذب الاجتماعي للتوقف عن التحقق قويًا للغاية. الطريقة الوحيدة لعكس الاتجاه كانت تغيير ما يراه الناس. فعندما جعل الباحث عملية التحقق مرئية—بحيث يمكن للوكلاء رؤية أقرانهم وهم يدققون العمل—عادت المجموعة إلى مسارها الصحيح. بدأ السكان في التحقق مرة أخرى، واختفى الإفراط الجماعي في الاعتماد. وبالمثل، إذا قاموا بإضعاف الإشارة الاجتماعية التي تجعل الاستخدام غير المتحقق منه يبدو طبيعيًا، تعافت المجموعة. تشير الدراسة إلى أنه لمنع الناس من الثقة العمياء في الذكاء الاصطناعي، لا يمكننا فقط تحسين الأدوات أو جعل عملية التحقق أسهل، بل يجب علينا تصميم واجهاتنا بحيث يكون فعل التحقق مرئيًا ومحتفى به، لكسر الدورة التي يصبح فيها الصمت والقبول غير المشروط هو الوضع الافتراضي.

تقدم نتائج هذه المحاكاة صورة واضحة لكيفية عمل التفاعل بين الإنسان والذكاء الاصطناعي في سياق اجتماعي. إن خطر الإفراط في الاعتماد ليس خللًا في المستخدم الفردي، بل هو فشل نظامي في حلقة التغذية الراجعة. فعندما يرى المجتمع الاستخدام غير المتحقق منه كأمر طبيعي، يموت التدقيق. وعندما يصبح التدقيق مرئيًا، يعيد المجتمع ضبط نفسه. هذا لا يعني أن المشكلة قد حُلت، لكنه يشير إلى الطريق للمضي قدمًا. ويؤكد الباحث أن هذه النتائج تأتي من النماذج الحاسوبية، وليس من تجارب واقعية، لذا فهي تمثل مجموعة من الفرضيات القابلة للاختبار وليست حكمًا نهائيًا. ومع ذلك، فإن المنطق قوي: الطريقة التي نرى بها استخدام أقراننا للتكنولوجيا تشكل كيفية استخدامنا لها نحن أيضًا. وإذا أردنا تجنب مستقبل تتوقف فيه مجموعات كاملة عن التشكيك في الآلات التي تعتمد عليها، يجب أن نكون حذرين بشأن السلوكيات التي نجعلها مرئية. الحل لا يكمن في الخوارزمية، بل في تصميم البيئة الاجتماعية المحيطة بها.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →