Critical Confabulation: Can LLMs Hallucinate for Social Good?
تقترح هذه الورقة "التلفيق النقدي"، وهو إطار عمل يتم فيه توجيه النماذج اللغوية الكبيرة لتوليد سرديات تخمينية مقيدة بالأدلة لملء الفجوات الأرشيفية المتعلقة بالشخصيات التاريخية المهمشة، مما يوضح أن الهلوسة المنضبطة يمكن أن تدعم إنتاج المعرفة الأخلاقية دون التضحية بالأمانة التاريخية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول سرد قصة حياة، لكن أحدهم قد انتزع عدة صفحات من منتصف السيرة الذاتية. الصفحات مفقودة، وكتب التاريخ صامتة عما حدث خلال تلك السنوات المفقودة. هذا هو الواقع للكثير من "الشخصيات الخفية" في التاريخ — أشخاص مُحيت قصصهم بسبب العنصرية، أو الفقر، أو العنف السياسي.
هذه الورقة تطرح سؤالاً جريئاً: هل يمكننا استخدام الذكاء الاصطناዊ (AI) لملء تلك الصفحات المفقودة بطريقة مفيدة، بدلاً من مجرد اختلاق الأمور؟
إليك تفصيل فكرتهم، باستخدام تشبيهات بسيطة.
1. المشكلة: "الأرشيف الصامت"
تخيل التاريخ كمكتبة ضخمة. لقرون، كان أمناء المكتبات (المؤرخون والحكومات) يحتفظون فقط بالكتب التي تتحدث عن الأقوياء. أما قصص المستعبدين والفقراء والمجتمعات المهمشة، فغالباً ما كانت تُلقى في القمامة أو لا تُدوّن أبداً.
عندما يحاول المؤرخون سرد هذه القصص اليوم، يصطدمون بـ "فجوات". هم يعلمون أن شخصاً ما كان موجوداً، لكنهم لا يعرفون ماذا فعل في يوم ثلاثاء محدد من عام 1854. التاريخ التقليدي يقول: "إذا لم يوجد دليل، فلا يمكننا قول أي شيء". لكن المؤلفين يجادلون بأن هذا الصمت يؤذينا؛ فهو يترك "الشخصيات الخفية" غير مرئية.
2. الحل: "الهلوسة النقدية" (Critical Confabulation)
عادةً، عندما يختلق الذكاء الاصطناዊ أشياءً، نسمي ذلك "هلوسة"، ونعتبرها خطأً تقنياً. إذا قال الذكاء الاصطناዊ إن القمر مصنوع من الجبن، فهذا يعتبر فشلاً.
لكن المؤلفين يقترحون مفهوماً جديداً يسمى "الهلوسة النقدية":
- التشبيه: تخيل أنك محقق يحاول حل قضية باردة (قديمة). لديك شاهد يتذكر أن المشتبه به كان يرتدي قبعة حمراء وركض في الشارع، لكنه نسي لماذا ركض المشتبه به.
- الطريقة القديمة: يقول المحقق: "لا أعرف، لذا لن أخمن".
- طريقة الهلوسة النقدية: يستخدم المحقق كل الحقائق المعروفة (قبعة حمراء، ركض، الوقت من اليوم، الحي) لبناء قصة منطقية حول سبب ركض المشتبه به. هو لا يدعي أن هذا حقيقة مثبتة بنسبة 100%، بل يقدم رواية "أفضل تخمين" للمساعدة في تصور الجزء المفقود.
يريد المؤلفون استخدام الذكاء الاصطناዊ للقيام بذلك من أجل التاريخ. يريدون من الذكاء الاصطناዊ أن ينظر إلى "الفجوات" في السجلات ويكتب قصة تتناسب مع السياق، مما يساعدنا على تخيل كيف كانت الحياة لهؤلاء الأشخاص الذين مُحيت آثارهم.
3. التجربة: اختبار "ملء الفراغات"
لمعرفة ما إذا كان الذكاء الاصطناዊ جيداً في هذا، أنشأ الباحثون اختباراً.
- الإعداد: أخذوا وثائق تاريخية حقيقية وغير منشورة عن مثقفين ونشطاء من السود (أشخاص من المرجح أن الذكاء الاصطنا�ዊ لم يرهم من قبل).
- اللعبة: أخذوا خطاً زمنياً لحياة شخص ما ومسحوا حدثاً واحداً، واستبدلوه بصندوق أسود:
[MASKED]. - المهمة: طلبوا من نماذج ذكاء اصطناዊ مختلفة تخمين ما حدث في هذا الصندوق الأسود.
- الهدف: هل كان الذكاء الاصطنا�ዊ يختلق هراءً فقط؟ أم أنه كتب قصة تبدو حقيقية لشخصية ذلك العصر والزمن، حتى لو لم يكن من الممكن إثباتها بنسبة 100%؟
4. النتائج: يمكن للذكاء الاصطنا�ዊ أن يكون "مؤرخاً مبدعاً"
كانت النتائج مفاجئة وواعدة:
- الأمر صعب، لكنه ممكن: لم يصب الذكاء الاصطنا�ዊ في كل مرة (حوالي 50-60% من الوقت)، لكنه كان قادراً في كثير من الأحيان على توليد قصص تبدو "صحيحة" وتتطابق مع نبرة تلك الحقبة.
- التلميحات تساعد: عندما أخبر الباحثون الذكاء الاصطنا�ዊ: "هذا الحدث المفقود كان يتعلق بتغيير في الوظيفة" أو "هذا كان يتعلق بخلاف عائلي"، أصبح الذكاء الاصط-ناዊ أفضل بكثير في التخمين.
- النماذج "الصغيرة" ذكية: بعض نماذج الذكاء الاصط-ناዊ الصغيرة والمفتوحة المصدر قدمت أداءً يضاهي النماذج الضخمة والمكلفة. هذا خبر رائع لأن ذلك يعني أن هذه الأداة ستكون متاحة لمزيد من الباحثين.
- لا غش: تأكد الباحثون من أن الذكاء الاصط-ناዊ لم يقم بمجرد حفظ الإجابات من بيانات التدريب الخاصة به. استخدموا طريقة "المحقق" للتأكد من أن الذكاء الاصط-نا�ዊ يقوم بالاستنتاج فعلياً، وليس مجرد استرجاع حقائق يعرفها مسبقاً.
5. لماذا هذا مهم؟
المؤلفون لا يقولون إن الذكاء الاصط-نا�ዊ يجب أن يحل محل المؤرخين. بدلاً من ذلك، يرون الذكاء الاصط-نا�ዊ كـ "مساعد طيار" لسرد القصص.
- للمؤرخين: هي أداة لعصف الأفكار. إذا اقترح الذكاء الاصط-نا�ዊ: "ربما حضر هذا الشخص اجتماعاً سرياً في عام 1920"، يمكن للمؤرخ البشري بعد ذلك البحث عن أدلة لإثبات أو نفي ذلك. إنها تحول الصفحة البيضاء إلى فرضية للبحث والتحري.
- للمجتمع: تساعد في "إعادة إنسانية" التاريخ. بدلاً من رؤية مجرد قائمة من التواريخ والأسماء، نحصل على رواية تساعدنا على فهم حياة الناس الذين تم إسكاتهم بشكل منهجي.
الخلاصة
فكر في هذه الورقة كنوع جديد من "فرشاة علم الآثار". لفترة طويلة، اعتقدنا أن ميل الذكاء الاصط-نا�ዊ لـ "اختلاق الأمور" هو عيب. تجادل هذه الورقة بأنه إذا استخدمنا مهارة "الاختلاق" هذه بعناية — مستندة إلى حقائق حقيقية وحدود أخلاقية — فيمكنها في الواقع مساعدتنا في استعادة الأصوات المفقودة وملء الفجوات في ذاكرتنا الجماعية.
الأمر لا يتعلق باستبدال الحقيقة بالخيال؛ بل يتعلق باستخدام الخيال لإيجاد الحقيقة التي كانت مخبأة في الصمت.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.