Functional Misalignment in Human-AI Interactions on Digital Platforms
تجادل هذه الورقة بأن النتائج المجتمعية الضارة للأنظمة الخوارزمية، مثل الاستقطاب وقضايا الصحة العقلية، تنبع من "عدم توافق وظيفي" هيكلي حيث يفشل التحسين من أجل إشارات سلوكية يمكن التنبؤ بها في التوافق مع الأهداف البشرية الحقيقية، وهي مشكلة مدفوعة بالانحيازات نحو الإشارات التفاعلية، وحلقات التغذية الراجعة، والديناميكيات الجماعية الناشئة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة "عدم التوافق الوظيفي في التفاعلات بين الإنسان والذكاء الاصطناعي على المنصات الرقمية" باستخدام لغة بسيية وتشبيهات إبداعية.
الفكرة الكبرى: "الطاهي المثالي" الذي يقدم الوجبات السريعة
تخيل أنك استأجرت طاهياً فائق الذكاء (الخوارزمية) ليطهو لك الوجبات. هدفك هو أن تكون صحياً، سعيداً، وراضياً على المدى الطويل.
هذا الطاهي موهوب للغاية في شيء واحد محدد: التنبؤ بما ستأكله لاحقاً.
- إذا تناولت قطعة دونات، يدون الطاهي: "آه، إنه يحب الدونات!" ويصنع المزيد من الدونات.
- إذا حدقت في تاكو حار لثانية واحدة، يفكر الطاهي: "إنه يعشق التوابل!" ويقدم لك بركاناً من الصلصة الحارة.
- إذا نقرت على فيديو لقطة تسقط عن الطاولة، يفترض الطاهي: "يريد الفوضى!" فيعرض لك آلاف الفيديوهات لقطط تسقط.
هذا الطاهي دقيق تماماً في التنبؤ بما ستضغط عليه أو تأكله. لكن المشكلة هي: أنت لا تريد حقاً أكل الدونات والصلصة الحارة وفيديوهات القطط الساقطة فقط. أنت تريد نظاماً غذائياً متوازناً يجعلك تشعر بالرضا غداً، وليس فقط الآن.
تجادل هذه الورقة بأن خوارزميات وسائل التواصل الاجتماعي تشبه تماماً هذا الطاهي. فهي بارعة جداً في التنبؤ بـ نزواتك (ما تنقر عليه) لدرجة أنها تتجاهل بالخطأ احتياجاتك الحقيقية (ما يجعلك سعيداً أو صحياً). وتسمي الورقة هذا الأمر "عدم التوافق الوظيفي".
لماذا يحدث هذا؟ (الآليات الثلاث)
يوضح المؤلف أن هذا عدم التوافق يحدث لثلاثة أسباب محددة:
1. "الدماغ السريع" مقابل "الدماغ البطيء"
- التشبيه: تخيل أن عقلك يعمل بنمطين.
- النظام 1 (الدماغ السريع): هو رد فعلك. هو الجزء الذي يصرخ "انظر!" عند رؤية لوحة حمراء زاهية، أو يغضب من تعليق وقح، أو يشعر بالغيرة عند رؤية صورة رحلة صديق. إنه سريع، عاطفي، وتلقائي.
- النظام 2 (الدماغ البطيء): هو ذاتك المفكرة. هو الجزء الذي يقول: "يجب أن أقرأ هذا المقال الطويل"، أو "لا ينبغي أن أتصفح لمدة ثلاث ساعات"، أو "أنا أقدر اللطف". إنه يتطلب جهداً ووقتاً.
- المشكلة: الخوارزميات تشبه طاهياً يستمع فقط إلى دماغك السريع. من السهل التنبؤ متى ستتناول قطعة دونات (سريع)، ولكن من الصعب التنبؤ متى ستختار سلطة (بطيء). لذا، تغذيك الخوارزمية بقطع الدونات اللامتناهية لأنها ما تخبر به نبضاتك، حتى لو كان ذاتك المفكرة تصرخ طلباً للسلطة.
2. حلقة "غرفة الصدى" التكرارية
- التشبيه: تخيل ميكروفوناً قريباً جداً من مكبر صوت.
- أنت تقول شيئاً صغيراً (نقرة).
- مكبر الصوت (الخوارزمية) يضخم هذا الشيء ويعيد تشغيله بصوت أعلى.
- تسمعه بصوت أعلى، فتتفاعل بقوة أكبر.
- يقوم مكبر الصوت بتضخيمه مرة أخرى.
- المشكلة: هذا يخلق حلقة تغذية راجعة. إذا شعرت بالغضب تجاه منشور سياسي واحد، ستعرض لك الخوارزمية عشرة منشورات غاضبة أخرى. تصبح أكثر غضباً، تنقر أكثر، وتتعلم الخوارزمية: "الغضب فعال! لنعطه المزيد!". سرعان ما تجد نفسك تعيش في عالم من الغضب الخالص، حتى لو بدأت الأمر بمجرد انزعاج بسيط. النظام يعلق في حلقة من تضخيم المشاعر الأكثر تطرفاً لأنها تستدرج أكبر رد فعل.
3. "تأثير الحشد" (الفوضى الناشئة)
- التشبيه: تخيل ملعباً حيث يحاول الجميع الحصول على رؤية أفضل.
- إذا وقف شخص واحد ليرى، سيقف الآخرون أيضاً.
- سرعان ما سيقف الجميع، ولن يتمكن أحد من الرؤية بشكل أفضل مما كان عليه، لكن الجميع متعبون وغير مرتاحين.
- المشكلة: عندما تتفاعل ملايين الأشخاص مع هذه الخوارذج، فإن ردود الفعل الفردية الصغيرة (مثل النقر على عنوان مخيف) تتراكم لتخلق مشاكل مجتمعية هائلة. النظام لا يحاول جعل العالم مستقطباً أو قلقاً؛ هو فقط يحاول الحصول على النقرات. ولكن لأن الجميع يتفاعل مع نفس محفزات "الدماغ السريع"، ينتهي الأمر بالمجتمع بأكمله أكثر انقساماً وقلقاً وتعاسة.
العواقب في العالم الحقيقي
تظهر الورقة كيف يسبب هذا "عدم التوافق" ضرراً حقيقياً في ثلاثة مجالات رئيسية:
- الاستقطاب السياسي: تتعلم الخوارزمية أن الغضب يجلب النقرات. لذا، تعرض لك محتوى يجعلك تكره "الطرف الآخر". تبدأ في رؤية خصومك السياسيين كوحوش، وليس مجرد أشخاص لديهم أفكار مختلفة. الخوارزمية لم ترغب في تقسيمك؛ أرادت فقط إبقاءك تنقر، والغضب هو الطريقة الأكثر موثوقية للقيام بذلك.
- الصحة النفسية (خاصة للمراهقين): تتعلم الخوارزمية أن الحسد يجلب النقرات. فتعرض للمراهقين صوراً لأجساد "مثالية" وحياة "مثالية". يتفاعل "الدماغ السريع" للمراهقين مع الغيرة وعدم الأمان ("لماذا ليست حياتي هكذا؟"). تستمر الخوارزمية في عرض المزيد من هذه الصور لأن المراهقين يستمرون في النظر إليها. وهذا يخلق دورة من الاكتئاب ومشاكل صورة الجسد.
- القرارات الجماعية السيئة: تخيل مجموعة من الناس يحاولون اختيار أفضل أغنية. إذا عرضت الخوارمة عليهم الأغاني التي تحظى بشعبية بالفعل (لأنها حصلت على نقرات)، فسيقوم الجميع بالنقر على تلك الأغاني مجدداً. قد لا تُسمع الأغنية "الأفضل" أبداً لأنها لم تحصل على أول بضع نقرات. ينتهي الأمر بالمجموعة بقائمة تشغيل سيئة، ليس لأنهم أغبياء، بل لأن النظام ضخم الإشارة الخاطئة.
لماذا "الإصلاح" صعب؟
تجادل الورقة بأننا لا نستطيع إصلاح هذا الأمر ببساطة عن طريق:
- الحصول على مزيد من البيانات: معرفة المزيد عما تنقر عليه لا يساعد إذا كنت تنقر على الأشياء الخاطئة.
- تحسين التنبؤات: إذا تنبأت الخوارزمية بدقة أنك ستنقر على فيديو مليء بالكراهية، فقد "نجحت" في مهمتها، رغم أن النتيجة سيئة للمجتمع.
- الشفافية: حتى لو أخبرك التطبيق: "نحن نعرض لك فيديوهات غاضبة لأنها تجلب النقرات"، فستظل عالقاً في الحلقة. سيظل "دماغك السريع" يتفاعل مع الغضب.
الحل: تغيير القواعد، وليس مجرد الطاهي
تقترح الورقة أنه لا يمكننا التعامل مع الخوارزميات كمجرد أدوات "تتنبأ". بل يجب معاملتها كـ أنظمة معقدة تشكل السلوك البشري.
بدلاً من السؤال: "كيف نحصل على مزيد من النقرات؟"، نحتاج إلى السؤال:
- "كيف نصمم نظاماً يقدر الرفاهية طويلة المدى فوق النقرات قصيرة المدى؟"
- "كيف نكسر حلقات التغذية الراجعة التي تضخم الغضب والحسد؟"
- "كيف نقيس ما إذا كان الناس سعداء حقاً، وليس فقط متفاعلين؟"
باختصار: المشكلة ليست في أن الخوارزميات "شريرة" أو "معطلة". المشكلة هي أنها تعمل تماماً كما صُممت: إنها بارعة في التنبؤ بنزواتنا، لكنها نسيت أن تخدم جوانبنا الأفضل. ولإصلاح ذلك، علينا تغيير قواعد اللعبة، وليس مجرد اللاعبين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.