Auditing the Synthetic Memoir: Measuring Scene-Level Confabulation in LLM-Generated Autobiography Against the Documented Record of the Life It Describes

في الزوايا الهادئة لأبحاث الذكاء الاصطناعي، تجري تجربة من نوع جديد. إنها تطرح سؤالاً يبدو بسيطاً ولكنه يمس العمق: إذا طلبت من حاسوب أن يروي قصة حياة شخص ما، فما مقدار الحقيقة في تلك القصة؟ لسنوات، عرف العلماء أن هذه الأنظمة، التي تُسمى غالباً نماذج اللغات الكبيرة، يمكنها أحياناً اختلاق أشياء من العدم. قد تخترع حقيقة عن حدث تاريخي أو تدعي وجود دراسة علمية بينما هي غير موجودة. يُطلق على هذا عادةً اسم "الهلوسة"، وهي كلمة توحي بأن الآلة ترى أشياء ليست موجودة. ولكن عندما يُطلب من الآلة كتابة مذكرات، أو سيرة ذاتية، أو مذكرات يومية شخصية، تتغير الرهانات. لم تعد القصة تتعلق بالمعرفة العامة؛ بل تتعلق بحياة إنسانية محددة. إذا اخترعت الآلة ذكرى من الطفولة أو إنجازاً مهنياً، فهي لا ترتكب مجرد خطأ؛ بل تعيد كتابة تاريخ شخص ما. وهنا يصبح مفهوم "الارتباك التخليقي" (confabulation) مهماً. فخلافاً للخطأ العشوائي، فإن الارتباك التخليقي هو تأليف بليغ وواثق. تملأ الآلة الفجوات بقصة تبدو مثالية، وتشعر وكأنها حقيقية، وتتناسب مع نبرة المذكرات، رغم أن الأحداث لم تحدث قط. وبينما نتحرك نحو مستقبل قد تكتب فيه النسخ الرقمية من أنفسنا سيرنا الذاتية، نحتاج إلى معرفة ما إذا كانت تلك القصص مرتكزة على الواقع أم مبنية على أساس من الخيال.

قررت باحثة تُدعى هيذر رينزي اكتشاف ذلك عبر أن تصبح هي نفسها موضوع التجربة. فقد كلفت ذكاءً اصطناعياً بكتابة كتاب لمدة عام، وهو عبارة عن "مذكرات يومية" (صفحة لكل يوم). كان الهدف هو إنشاء كتاب هدايا يحتوي على 366 مدخلاً يومياً، يحكي كل منها قصة قصيرة من حياتها بصيغة المتكلم. كانت العملية مباشرة: تم تزويد الحاسوب بنموذج، ومثالين ليومين لإظهار الأسلوب له، واقتباس واحد لكل يوم ليكون بمثابة محفز. والأهم من ذلك، لم يُعطَ الحاسوب مذكراتها الفعلية، أو سيرها الذاتية، أو سجلاتها الشخصية. كان عليه الاعتماد على معرفته الداخلية لملء تفاصيل حياتها. وقبل نشر الكتاب، قررت رينزي مراجعة كل مدخل بدقة. لقد عاملت المشروع كأنه تجربة علمية، حيث قامت بمطابقة كل حكاية مع مجموعة ضخمة من وثائقها الموثقة، بما في ذلك مذكراتها المنشورة، وسجلاتها المهنية، وأرشيفها الشخصي. أرادت أن ترى، بدقة مطلقة، كم عدد القصص التي رواها الحاسوب وكانت حقيقية.

كانت النتائج صارخة. فمن بين 366 يوماً في الكتاب، احتوى 12 مدخلاً فقط على مشهد يمكن تأكيده بشكل قاطع من خلال السجلات. وهذا يعني أنه بالنسبة لـ 354 يوماً، لم يكن بالإمكان التحقق من صحة القصة التي رواها الحاسوب. بلغة هذه الدراسة، هذا يمثل معدل فشل يقارب 97 بالمائة. لم يخطئ الحاسوب في التفاصيل الصغيرة فحسب؛ بل صاغ مشاهد كاملة ليس لها أي أساس في الواقع. وفي بعض الحالات، كان الحاسوب واثقاً لدرجة أنه اخترع أحداثاً كانت مستحيلة في الواقع أو تتعارض مباشرة مع الحقائق. على سبيل المثال، ادعى الحاسوب أن لديها أطفالاً بينما هي ليس لديها، أو أنها نجت من حادث سيارة معين لم يحدث أبداً. لم تكن هذه تخمينات غامضة؛ بل كانت أحداثاً محددة ومسماة أثبتت السجلات عدم صحتها. حوالي 5 بالمائة من الأيام وقعت في هذه الفئة، وهي فئة تتعارض فعلياً مع الحقيقة.

ومع ذلك، كان النوع الأكثر شيوعاً من الخطأ شيئاً أكثر دقة. كانت الآلة تضبط الإطار الصحيح ولكنها تخترع القصة. كانت تحدد بشكل صحيح أنها عملت في شركة معينة أو عاشت في مدينة معينة، ولكن بعد ذلك كانت تخلق مشهداً خيالياً حول تلك الحقيقة. قد تقول إنها خاضت اجتماعاً درامياً في مكتب لم يحدث أبداً، أو أنها أجرت محادثة محددة مع زميل حقيقي لم تقع قط. هذا ما يسميه الباحثون "الانجراف المرتكز" (grounded drift). كانت الآلة مرتبطة بالحقائق في بعض الجوانب، لكنها انجرفت بعيداً عنها لخلق سرد يبدو أفضل أو أكثر درامية. كانت تعرف أسماء أصحاب العمل والمدن التي عاشت فيها، لكنها استخدمت تلك التفاصيل الحقيقية كمسرح لمسرحية لم تحدث قط. وهذا أمر خطير بشكل خاص لأنه يجعل الأكاذيب أصعب في الكشف. فالقصة التي تصيب في الحقائق وتخترع الجوهر العاطفي تبدو أكثر موثوقية من القصة التي تخطئ في كل شيء.

وللتأكد من هذه النتائج، تضمنت الدراسة طبقة ثانية من التحقق. تم إجراء التدقيق الأصلي بواسطة نظام ذكاء اصطناعي، مما أثار تساؤلاً حول ما إذا كان الجهاز يحكم على نفسه بإنصاف. ولاختبار ذلك، قام مقيّمان مستقلان من عائلة نماذج مختلفة عن النموذج المدقق الأصلي بمراجعة عينة عشوائية مكونة من 60 يوماً باستخدام نفس القواعد تماماً. وقد اتفقا مع النتائج الأصلية بشكل شبه كامل؛ حيث طابقا الحكم الأصلي بنسبة تتراوح بين 95 إلى 98 بالمائة. أكد هذا أن معدل الفشل المرتفع لم يكن خطأ في عملية التحقق؛ بل كانت القصص في معظمها كاذبة حقاً. كما حاول الباحثون معرفة ما إذا كانت نماذج الحاسوب الأحدث والأكثر قوة ستؤدي بشكل أفضل. فقد مرروا نفس المحفزات عبر أحدث إصدارات التكنولوجيا، ولكن النتيجة كانت هي نفسها: بدون توجيه دقيق لاستخدام السجلات المتاحة، فشلت النماذج الجديدة أيضاً في قول الحقيقة، واخترعت قصصاً لكل يوم طُلب منها كتابته.

قدمت الدراسة مساراً للمضي قدماً، رغم أنه لم يكن حلاً مثالياً. فعندما وجه الباحثون الحاسوب بشكل صريح ومحدد لاستخدام الوثائق الرقمية المتاحة له بالفعل والالتزام بالمعلومات الموجودة هناك فقط، انخفض معدل الفشل بشكل كبير. ارتفع عدد الأيام ذات المشاهد الموثقة، وانخفض عدد القصص الكاذبة تماماً. ومع ذلك، حتى مع هذه المساعدة، ظل الحاسوب يعاني. استمر في اختراع التفاصيل والانجراف بعيداً عن الحقائق، مما يشير إلى أن مجرد إعطاء الآلة الكتب الصحيحة ليس كافياً لجعلها تقول الحقيقة. يبدو أن لدى الآلة رغبة قوية في خلق سرد، حتى عندما تكون الحقائق أمامها مباشرة.

تكشف هذه التجربة عن حد جوهري في كيفية استخدامنا للذكاء الاصطناعي لسرد قصصنا. إذا طلبنا من آلة أن تكتب سيرتنا الذاتية دون إعطائها تاريخنا، فمن المرجح أن تملأ الفجوات بالخيال. ستخلق نسخة منا تكون متماسكة وجذابة، لكنها ستكون نسخة لم توجد قط. تشير الدراسة إلى أنه لأي نظام يدعي محاكاة حياة شخص ما، لا يمكننا الوثوق بتفاصيل تجاربه اليومية ما لم يتم فحص تلك التفاصيل مقابل سجل موثق. يمكن للآلة محاكاة صوت الشخص، لكنها لا تستطيع بعد تذكر حياته. الثقة التي نضعها في "التوأم الرقمي" أو السيرة الذاتية الاصطناعية يجب أن تقتصر على المستوى السطحي للمواقف والحقائق العامة، لأن اللحظات المحددة التي تشكل الحياة — المشاهد، والمحادثات، والدراما الصغيرة — هي حيث تفشل الآلة في أغلب الأحيان. الدرس واضح: إذا أردنا قصة حقيقية، يجب أن نقدم الحقائق، ويجب أن نراجع العمل، لأن الآلة ستخترع لنا حياة بكل سرور إذا سمحنا لها بذلك.