Large Language Models and the Personalization into Sameness
تجادل هذه الورقة بأن النماذج اللغوية الكبيرة تُحدث "تقارباً مزدوجاً" من التجانس القيمي والمعرفي من خلال آليات التخصيص والراحة ذاتها، مما يشكل معضلة عمل جماعي حيث تعزز الخيارات الفردية خط أساساً ثقافياً مشتركاً يهدد التعددية والاستقلال الذاتي الديمقراطي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً يطرح فيه الجميع نفس الأسئلة ويتلقون إجابات تبدو وكأنها مصممة بدقة لتناسب عقولهم. هذا هو الوعد الذي تقدمه النماذج اللغوية الكبيرة، وهي الأنظمة الحاسوبية المتطورة التي تشغل روبوتات الدردشة والمساعدات الرقمية الحديثة. بالنسبة للمستخدم الفردي، فإن التجربة هي تجربة شعور بأنه مفهوم؛ إذ يتكيف الجهاز مع سياقه الخاص، ويقدم اقتراحات تبدو ملائمة لاحتياجاته وتفضيلاته الفريدة. ومع ذلك، فإن هذا الشعور بالاتصال الشخصي يخفي حقيقة أعمق على مستوى السكان. فعندما يعتمد ملايين البشر على التكنولوجيا الأساسية ذاتها، فإنهم لا يستقون معلوماتهم من محيط شاسع وفوضوي من الفكر البشري، بل يستقونها من مستودع مشترك ومحدود من المعلومات والقيم. وهذا يخلق مفارقة حيث إنه كلما بدا التفاعل أكثر تخصيصاً، بدأ الجمع من الناس يفكرون ويقدرون الأشياء ذاتها.
تتقصى مقالة بحثية جديدة لـ م. ز. ناصر من جامعة كليمسون هذه الظاهرة الخفية، واصفة إياها بـ "التقارب المزدوج". وتجادل الدراسة بأننا بينما نتفاعل مع هذه الأنظمة الاصطناعية، فإن عمليتين متمايزتين ولكن مرتبطتين تعيدان تشكيل المجتمع بهدوء. تتعلق العملية الأولى بما يقدره الناس، وهو ما يُعرف بالتقارب القيمي (axiological convergence). أما العملية الثانية فتتعلق بما يعتقد الناس أنه حقيقي، وهو ما يُعرف بالتقارب المعرفي (epistemic convergence). وتشير الورقة البحثية إلى أن هاتين القوتين تغذيان بعضهما البعض، مما يخلق دورة تصبح فيها معتقداتنا المشتركة وقيمنا المشتركة موحدة بشكل متزايد، ليس لأن أحداً يجبرنا على الاتفاق، بل لأن التكنولوجيا التي نستخدمها للتنقل في العالم تجعل القيام بذلك أمراً مريحاً.
يبدأ البحث بفحص كيفية تأثير هذه الأنظمة على قيمنا. فعندما يطلب مستخدم من روبوت الدردشة نصيحة بشأن قرار صعب، لا يكتفي الجهاز بسرد الخيارات فحسب، بل يقوم بترتيبها، مقترحاً مساراً على آخر بناءً على معايير مدرجة في تدريبه. قد تشمل هذه المعايير تفضيلات مثل الكفاءة، أو اللباقة، أو تجنب المخاطر. وغالباً ما يقبل المستخدم، سعياً وراء إجابة مفيدة، التوصية دون أن يدرك أن النظام قد اتخذ بالفعل حكماً قيمياً نيابة عنه. ومع مرور الوقت، وبينما يعتمد المستخدمون مراراً وتكراراً على هذه الاقتراحات، يبدأون في تبني الأولويات الخفية للنظام كأولويات خاصة بهم. يحدث هذا دون أي جدال أو إقناع؛ إنها ببساطة مسألة اتباع المسار الأقل مقاومة. فالنظام لا يعلم أيديولوجية محددة، بل يعمل بدلاً من ذلك على تنظيم الطريقة التي نقيم بها الخيارات، مما يحول المجتمع بأكمده ببطء نحو مجموعة أضيق من الأولويات العملية.
وفي الوقت نفسه، تعيد عملية ثانية تشكيل ما يعتقده الناس. تقليدياً، كان تكوين المعتقد يتطلب استشارة مصادر متنوعة: كتب مختلفة، وخبراء ذوي آراء متضاربة، وتقارير من مؤسسات متباينة. كان هذا الاحتكاك ضرورياً، لأنه أجبر الأفراد على موازنة الأدلة المتنافسة وفهم بنية عدم اليقين. وتغير النماذج اللغوية الكبيرة هذه الديناميكية عبر تقديم نقطة استشارة واحدة تلخص كل هذه الآراء المتضاربة في إجابة واحدة سلسة ومتكاملة. يقوم النظام بالعمل الصعب المتمثل في الفصل بين المصادر، مقدماً استنتاجاً موحداً. وبينما يعد هذا أمراً مريحاً للغاية، إلا أنه يعني أن المستخدمين لم يعودوا معرضين لنطاق الخلاف الكامل. بدلاً من ذلك، هم يستقون من بنية تحتية مشتركة قامت بالفعل بتصفية ودمج المعلومات. ومع اعتماد المزيد من الناس على هذا المصدر الوحيد، تبدأ معتقداتهم في الارتباط ببعضها البعض، ليس لأنهم يقرؤون الكتب ذاتها، بل لأنهم جميعاً يسألون الآلة ذاتها للحصول على التركيب ذاته.
وتجادل الورقة بأن هاتين العمليتين مترابطتان بعمق ويعزز كل منهما الآخر. فعندما يتقارب الناس حول قيم متشابهة، فإنهم يميلون إلى قبول المعلومات التي تتماشى مع تلك القيم ورفض ما لا يتماشى معها، مما يؤدي إلى تضييق معتقداتهم بشكل أكبر. وعلى العكس من ذلك، عندما يعتمد الناس على نفس المصدر للحصول على المعلومات، فإن ذلك المصدر يحدد أيضاً القيم المضمنة في توصياته. وهذا يخلق حلقة تغذية راجعة حيث تنغلق المعتقدات والقيم معاً، مما يسرع من وتيرة الحركة نحو التوحيد. وتكمن خطورة هذه الديناميكية في أنها تعمل بشكل غير مرئي. ولأن النظام يتكيف مع كل مستخدم، يشعر الفرد بوجود قدرة على التصرف وتخصيص التجربة. فهو لا يرى الحدود التي يعمل ضمنها النظام، ولا يرى أن الملايين من غيره يتلقون مخرجات مماثلة ومترابطة. الأمر يشبه متجراً للملابس يقدم مقاساً مثالياً لكل زبون حسب جسده، ومع ذلك ينتهي الأمر بكل زبون بارتداء نفس نمط الملابس تماماً.
وتخلص المؤلفة إلى أن هذه ليست مشكلة يمكن للأفراد حلها بمفردهم. فالدفع نحو هذا التوحيد مبني في بنية هذه التكنولوجيا وفي اقتصاديات تطويرها. إن تدريب هذه النماذج القوية يتطلب موارد هائلة، مما يصب في مصلحة عدد قليل من المزودين الكبار الذين يخدمون ملايين المستخدمين. وهؤلاء المزودون، في سياق تنافسهم من أجل الكفاءة والسلامة، ينتهي بهم الأمر باستخدام بيانات وطرق متشابهة، مما يؤدي إلى مخرجات متشابهة جوهرياً. وفي الوقت نفسه، ينجذب المستخدمون طبيعياً نحو المصدر الأكثر راحة للمعلومات. إن الجمع بين تركيز جانب العرض وسهولة جانب الطلب يخلق فخاً حيث يتطلب الهروب من هذا الاتجاه جهداً لا يستطيع معظم الناس الاستمرار فيه. والنتيجة هي مشكلة عمل جماعي: فبينما يستفيد الجميع من سهولة النظام، فإن التكلفة هي فقدان الفكر المستقل وانخفاض تنوع المعتقدات والقيم البشرية.
وفي النهاية، تقترح الورقة أن هذا الشكل من التغيير الثقافي يختلف عن الأساليب التقليدية للسيطرة مثل الدعاية أو الإكراه. فلا أحد يُجبر على التفكير بشكل متشابه؛ بل إن النظام يستجيب لرغبتنا في الحصول على إجابات مفيدة وسريعة، وبذلك، فإنه يقودنا بلطف نحو قاعدة مشتركة. آلية التكيف هذه دقيقة وقوية، وتعمل من خلال "المساعدة" التي تجعل التكنولوجيا جذابة للغاية. وتحذر الدراسة من أنه إذا استمر هذا الاتجاه، فقد يقوض أسس المجتمع الديمقراطي، الذي يعتمد على تنوع صحي في الآراء والقيم ليعمل بفعالية. وترى المؤلفة أن الحل لا يمكن العثور عليه في تحسين الخيارات الفردية، بل يتطلب استجابة هيكلية للطريقة التي تُبنى وتُستخدم بها هذه التقنيات. وبدون مثل هذا التدخل، سيستمر مظهر التخصيص في حجب حالة من التشابه العميق والمتنامي في طريقة تفكيرنا وما نقدره.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.