Measuring and Mitigating Persona Distortions from AI Writing Assistance
تُظهر هذه الورقة أن المساعدة في الكتابة عبر الذكاء الاصطناعي تشوه شخصيات المستخدمين بشكل منهجي من خلال جعل الكتاب يبدون أكثر تمسكاً بآرائهم، وكفاءةً، وامتيازاً، وبينما يمكن التخفيف من حدة هذه التشوهات عبر تدريب النماذج، إلا أن القيام بذلك غالباً ما يقلل من قبول المستخدمين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
مشكلة "القناع الرقمي": لماذا يغير الذكاء الاصطناعي هويتك (حتى عندما لا تريد ذلك)
تخيل أنك ترتدي قميصاً بسيطاً ومريحاً. تذهب إلى حفلة، ويرى الناس حقيقتك تماماً كما أنت. الآن، تخيل أنك قررت استخدام "مرآة سحرية" لتساعدك في الاستعداد. هذه المرآة لا تكتفي بتصفيف شعرك فحسب؛ بل تضيف تلقائياً بدلة مصمم فاخرة، وابتسامة واثقة، ولهجة راقية إلى مظهرك.
تبدو رائعاً! يعتقد الناس أنك أكثر نجاحاً، وأكثر ثقة بنفسك، وأكثر "أهمية" مما تشعر به في الواقع. لكن هناك خدعة: المرآة تجعلك تبدو أيضاً أكثر عدوانية وأكثر "نخبوية" مما أنت عليه حقاً. وحتى لو كنت تعرف أن المرآة تفعل ذلك، فإنك تستمر في استخدامها لأن البدلة، بصراحة، تبدو أفضل من القميص البسيط.
هذا هو بالضبط ما اكتشفته هذه الورقة البحثية حول أدوات الكتابة بالذكاء الاصطناعي.
الاكتشاف الجوهري: "تشويه الشخصية"
أجرى باحثون من جامعة أكسفورد ومعهد أمن الذكاء الاصطناعي في المملكة المتحدة دراسة ضخمة شملت آلاف الأشخاص. أرادوا معرفة ما يحدث لشخصية الإنسان — شخصيته المتصورة، ومعتقداته، وهويته — عندما يستخدم الذكاء الاصطناائي (مثل ChatGPT أو Claude) لمساعدته في الكتابة.
وجدوا أن الذكاء الاصطناعي يعمل مثل تلك "المرآة السحرية". فهو لا يكتفي بتصحيح قواعد لغتك فحسب؛ بل يشوه هويتك. وحتى عندما كان الناس يعدلون عمل الذكاء الاصطناعي لجعله "خاصاً بهم"، كان الذكاء الاصطناعي يترك خلفه بصمات غير مرئية تغير كيفية رؤية القراء لهم.
1. "دفعة الثقة" (الجيد والسيئ)
يجعل الذكاء الاصطناعي صوتك يبدو كنسخة "النسخة الفائقة منك". إنه يجعل كتابتك تبدو أكثر وضوحاً، وإفادة، واحترافية. ومع ذلك، فإنه يجعلك تبدو أيضاً متطرفاً للغاية. إذا كان لديك رأي معتدل في قضية سياسية، فقد يحولك الذكاء الاصطناعي عن غير قصد إلى "متشدد"، مما يجعلك تبدو أكثر راديكالية أو يقيناً مما أنت عليه في الواقع.
2. "فلتر الامتياز" (التكلفة الاجتماعية)
هذا واحد من أكثر النتائج إثارة للدهشة. يميل الذكاء الاصطناعي إلى "تبييض" أو "ترقية الطبقة الاجتماعية" لكتاباتك. حتى لو كنت شخصاً من خلفية متنوعة أو من الطبقة العاملة، فإن الطريقة المحددة التي يختار بها الذكاء الاصطناعي الكلمات تجعل القراء يدركونك كشخص أكثر ثراءً، وأعلى تعليماً، وأكثر عرضة لأن تكون أبيض أو متحدثاً أصلياً للغة الإنجليزية. إنه يضع فعلياً "قناع امتياز" على كلماتك.
3. "تأثير القالب الموحد" (فقدان التميز)
إذا استخدم الجميع نفس الذكاء الاصطناعي للكتابة، سيبدأ الجميع في التحدث بنفس الطريقة. وجد الباحثون أن الذكاء الاصطناعي "يجعل الناس متشابهين". إنه يمحو النتوءات الفريدة، والسمات الغريبة، والأنماط العاطفية التي تجعل كتابتك خاصة بك، محولاً حشداً متنوعاً من الأصوات إلى جوقة واحدة مصقولة ولكنها مملة.
المفارقة البشرية الكبرى: "أكره ذلك، لكني أحبه"
سأل الباحثون الكتاب: "هل تعجبكم هذه التغييرات؟"
كانت الإجابة "نعم ولا" محيرة.
- الـ "لا": قال الكتاب إنهم كرهوا فكرة تعرضهم لسوء التمثيل. لم يرغبوا في أن يبدوا أكثر تطرفاً، ولم يرغبوا في تغيير هويتهم.
- الـ "نعم": رغم قولهم إنهم يكرهون ذلك، إلا أنه عند منحهم الخيار، فضل معظم الكتاب نسخة الذكاء الاصطناعي على كتابتهم الخاصة.
الأمر يشبه أن يقال لك إن الفلتر يجعلك تبدو مزيفاً، لكنك لا تزال تستخدمه لأنك تحب الطريقة التي تبدو بها النسخة "المزيفة". هذه مشكلة كبيرة للمجتمع لأنه إذا لم نتمكن من الوثوق بأن كتابة الشخص تعكس حقيقته بالفعل، فسنفقد وسيلة أساسية للتواصل مع بعضنا البعض.
هل يمكننا إصلاح ذلك؟ (مشكلة "شد الحبل")
حاول العلماء بناء "أداة تصحيح" (تسمى إعادة الترتيب - Reranking) لمنع الذكاء الاصطناعي من جعل الناس يبدون متطرفين جداً.
لقد نجح الأمر! لقد تمكنوا بنجاح من تقليل التطرف السياسي.
لكن كان هناك أثر جانبي هائل: عندما منعوا الذكاء الاصطناعي من أن يكون "متطرفاً"، توقف الذكاء الاصطناعي أيضاً عن كونه "واضحاً" و"واثقاً". من خلال محاولة إصلاح التشويه "السيئ" (التطرف)، قتلوا بالخطأ التشويه "الجيد" (الوضوح) الذي يحبه المستخدمون.
هذا يشير إلى أن الصفات التي نحبها في الذكاء الاصطناعي — صقله، وثقته، وسلاسته — متشابكة مع الصفات التي تشوه هوياتنا. الأمر يشبه محاولة إزالة الملح من الحساء دون تغيير النكهة؛ قد يكون ذلك مستحيلاً.
لماذا يهم هذا الأمر
بينما يستخدم مليارات الأشخاص الذكاء الاصطناعي لكتابة رسائل البريد الإلكتروني، والمنشورات السياسية، وطلبات التوظيف، فإننا نتحرك نحو عالم يصبح فيه "القناع" أكثر شيوعاً من "الوجه". إذا لم نكن حذرين، فقد ينتهي بنا المطاف في مجتمع لا نتحدث فيه مع بعضنا البعض حقاً، بل نتحدث فقط مع النسخ المصقولة والمتطرفة والممتلئة بالامتياز التي صنعها لنا الذكاء الاصطناعي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.