Collapse or creativity - Hallucinations in recursive synthetic data generation
تُظهر هذه الدراسة أن التدريب التكراري للذكاء الاصطناي التوليدي على بيانات سريرية اصطناعية يؤدي إلى انهيار تنبؤي سريع خلال خمسة أجيال بسبب فقدان التنوع والدقة التقاطعية بدلاً من عدم المعقولية على مستوى السجل، بينما تسلط الضوء على أن مقاييس الهلوسة الحالية غالباً ما تكون مضللة وتدعو إلى تحسين إثبات المصدر وتقييم الجودة للحفاظ على تنوع البيانات الواقعية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي المعاصر، تتعلم الآلات بشكل متزايد من المحتوى الذي تنشئه هي نفسها. هذه الدورة، المعروفة باسم التدريب التكراري، تحدث عندما يقوم النموذج بتوليد بيانات جديدة، ثم يتم تغذية هذه البيانات الجديدة في النظام لتدريب النسخة التالية من النموذج. وبينما قد يبدو هذا وسيلة لتوسيع المعرفة إلى ما لا نهاية، فقد ظل العلماء قلقين منذ فترة طويلة من ظاهرة تسمى "انهيار النموذج". في هذا السيناريو، تبدأ الآلة في فقدان الاتصال بالواقع، وتنسى تدريجياً التنوع الحقيقي للعالم الذي كان من المفترض أن تفهمه، وتتجه بدلاً من ذلك نحو متوسط ضيق ومشوه. وهذا أمر خطير بشكل خاص في الطب، حيث تُستخدم أنظمة الذكاء الاصطناعي لتوليد سجلات مرضى اصطناعية للمساعدة في أبحاث الأمراض النادرة أو لحماية الخصوصية. وإذا كانت هذه السجلات الاصطناعية معيبة، فإن النماذج المدربة عليها قد ترتكب أخطاءً خطيرة، ومع ذلك، فإن الأدوات المستخدمة لرصد هذه العيوب غالباً ما كانت غير واضحة.
لقد وضع فريق من الباحثين من النرويج نصب أعينهم استقصاء كيفية حدوث هذا التدهور بالضبط عندما تولد الآلات بيانات طبية مراراً وتكراراً. وركزوا على نوع محدد من الأخطاء يُطلق عليه غالباً اسم "الهلوسة"، والتي تعني في سياق السجلات الطبية مدخلاً لمريض يصف شيئاً مستحيلاً، مثل شخص يصاب بنوبة قلبية بعد وفاته بالفعل. أراد الباحثون معرفة ما إذا كانت هذه الأخطاء الواضحة على مستوى السجل هي المشكلة الرئيسية، أم أن شيئاً أكثر دقة هو ما يتسبب في فشل البيانات. وللكشف عن ذلك، بنوا تجربة صارمة باستخدام بيانات حقيقية من قاعدة بيانات وحدة عناية مركزة كبيرة. أخذوا هذه البيانات الحقيقية واستخدموا أربعة أنواع مختلفة من مولدات الذكاء الاصطناعي لإنشاء سجلات مرضى اصطناعية جديدة. ثم أخذوا تلك السجلات الاصطناعية واستخدموها لتدريب نماذج جديدة، مكررين هذه العملية عشرين مرة متتالية، مما خلق سلسلة من التوليد حيث تعتمد كل خطوة كلياً على مخرجات الخطوة السابقة.
كشفت النتائج عن حقيقة مذهلة: لم تفشل البيانات لأن الآلات بدأت في كتابة قصص عبثية عن مرضى مستحيلين. بدلاً من ذلك، فشلت البيانات لأنها فقدت تنوعها. ومع تقدم الأجيال، أصبحت السجلات الاصطناعية متشابهة بشكل متزايد، مما أدى إلى محو التركيبات الفريدة للأعراض والحالات التي توجد في الحياة الواقعية. وجد الباحثون أنه في غضون خمسة أجيال فقط، أصبحت البيانات موحدة لدرجة أنها لم تعد قادرة على تعليم الكمبيوتر كيفية التنبؤ بنتائج المرضى، مما جعلها غير مفيدة فعلياً لغرضها المنشود. لم تخترع الآلات أخطاءً جديدة وغريبة؛ بل توقفت ببساطة عن اختراع أي شيء جديد على الإطلاق. لقد انهارت في نمط ضيق ومتكرر يبدو آمناً إحصائياً ولكنه ميت سريرياً.
يتحدى هذا الاكتشاف الطريقة التي ينظر بها العلماء والمنظمون حالياً إلى الأخطاء. فقد أظهرت الدراسة أن الأدوات القياسية المستخدمة لعد "الهلوسات" — والتي تتحقق مما إذا كان سجل معين موجوداً في قاعدة بيانات لأشخاص حقيقيين — كانت مضللة. فغالباً ما كانت هذه الأدوات تصنف آلاف السجلات كأخطاء لمجرد أنها نادرة أو غير مرصودة، رغم أنها كانت سجلات منطقية طبياً. وفي الواقع، وجد الباحثون أن السجلات التي صنفتها هذه الأدوات القياسية كـ "هلوسات" كانت غالباً هي الوحيدة التي تحافظ على حيوية البيانات. كان الفشل الحقيقي غير مرئي لهذه الأدوات: وهو فقدان الأنماط المعقدة والمتداخلة التي تجعل البيانات الطبية مفيدة. لم تكن الآلات تكذب؛ بل كانت تصبح مملة فحسب، وبذلك دمرت القدرة التنبؤية للبيانات.
اختبر الباحثون أربعة أنواع مختلفة من مولدات الذكاء الاصطناعي لمعرفة ما إذا كانت تتصرف بشكل مختلف. أحد الأنواع، وهو مشفر تلقائي متباين قوي (variational autoencoder)، فشل بأسرع طريقة، حيث فقد تماماً القدرة على التمييز بين المرضى الذين سيُعاد إدخالهم إلى المستشفى وأولئك الذين لن يعودوا. وقد فعل ذلك من خلال حصر جميع بياناته في ملف تعريف واحد يبدو متوسطاً. أما المولدات الأخرى، مثل تلك القائمة على الغابات العشوائية التنافسية (adversarial random forests) والشبكات التنافسية التوليدية الشرطية (conditional GANs)، فقد فشلت بشكل أبطأ ولكنها فقدت أيضاً قدرتها على التنبؤ بالنتائج؛ حيث انجرفت نحو القيم القصوى أو اخترعت أنماطاً جديدة غير واقعية من الأعراض. أما نموذج الانتشار (diffusion model)، وهو نوع أحدث من المولدات، فقد تصرف بشكل مختلف؛ حيث انجرف نحو القيم المتطرفة لتوزيع البيانات، فأنشأ سجلات ذات قيم عالية جداً أو منخفضة جداً، وهي قيم ممكنة تقنياً ولكنها نادرة إحصائياً. وبالرغم من مسارات الفشل المختلفة هذه، كانت النتيجة النهائية واحدة: فقدت البيانات قدرتها على تمثيل العالم الحقيقي.
ومن الأهمية بمكان أن الدراسة وجدت أن "الهلوسات" التي قلقت المنظمين والجمهور — أي السجلات المستحيلة أو غير المنطقية بوضوح — كانت نادرة جداً. ففي كثير من الحالات، احتوت أقل من 1% من السجلات الاصطناعية على قيم مستحيلة طبياً. لم يكن الخطر الحقيقي يكمن في وجود هذه السجلات المستحيلة، بل في غياب السجلات الواقعية والمتنوعة. لم تكن الآلات تولد قصصاً مزيفة؛ بل كانت تولد عالماً مثالياً للغاية، ومتوسطاً للغاية، ومتجانساً للغاية لدرجة تجعله غير مفيد. وهذا يشير إلى أن التركيز الحالي على رصد الأخطاء الفردية في البيانات الاصطناعية يغفل الصورة الأكبر. إن سلامة هذه الأنظمة تعتمد لا على التحقق مما إذا كان صف واحد من البيانات صحيحاً من الناحية الواقعية، بل على ضمان أن مجموعة البيانات بأكملها تحافظ على التنوع الغني والفوضوي للتجربة البشرية.
تمتد آثار هذا العمل إلى ما وراء البحث الطبي. إذ يرى الباحثون أن مصطلح "الهلوسة" غالباً ما يكون الكلمة الخاطئة لما يحدث في البيانات المهيكلة. ففي عالم النصوص، تكون الهلوسة حقيقة مختلقة. أما في عالم البيانات الطبية، فإن الفشل غالباً ما يكون فقداناً للدقة (fidelity)، حيث تتوقف البيانات عن عكس التوزيع الحقيقي للسكان. تشير الدراسة إلى أننا بحاجة إلى تحويل تركيزنا من عد السجلات المستحيلة إلى قياس تنوع وهيكل البيانات. فإذا نظرنا فقط إلى الأخطاء الواضحة، فقد نفوت التآكل الصامت للجودة الذي يجعل البيانات عديمة الفائدة لتدريب أنظمة الذكاء الاصطناعي المستقبلية. ويؤكد الباحثون أن الملصقات الواضحة والمنشأ (provenance) أمران ضروريان؛ إذ يجب أن نعرف متى تكون البيانات اصطناعية وأن نراقب جودتها طوال دورة حياتها لمنعها من تدهور قاعدة المعرفة للأنظمة المستقبلية بصمت.
في النهاية، تعمل هذه الدراسة كتحذير ضد الافتراض بأن المزيد من البيانات هو دائماً الأفضل. فعندما يُسمح لأنظمة الذكاء الاصطناعي بالتغذي على مخرجاتها الخاصة دون ضمانات، فإنها لا تصبح بالضرورة أكثر إبداعاً أو دقة، بل تخاطر بالوقوع في حلقة مفرغة من صنعها، تنتج بيانات تبدو حقيقية ولكنها فقدت جوهر الواقع. ويخلص الباحثون إلى أن الحفاظ على تنوع البيانات ليس مجرد متطلب تقني، بل هو ضرورة أساسية لموثوقية الذكاء الاصطناعي. وبدون ذلك، فإن الوعد الذي تقدمه البيانات الاصطناعية لإحداث ثورة في مجالات مثل الطب قد يقوضه الأنظمة المصممة لإنشائها. إن الطريق إلى الأمام يتطلب مفردات جديدة ومقاييس جديدة يمكنها اكتشاف فقدان التنوع قبل أن تنهار البيانات تماماً، مما يضمن أن تستمر الآلات التي نبنيها في عكس العالم المعقد والمتنوع الذي من المفترض أن تخدمه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.