On the Fundamental Impossibility of Hallucination Control in Large Language Models
تجادل هذه الورقة بأن الهلوسة في النماذج اللغوية الكبيرة لا مفر منها جوهرياً بسبب المقايضات المتأصلة في تجميع المعرفة الداخلية، مما يثبت أنه بينما يمكن للأدلة الخارجية أن تتحقق من دعم الإجابة، لا توجد آلية داخلية يمكنها ضمان الحقيقة الواقعية أو حل الاختلالات الدلالية التي تؤدي إلى التزييف.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل لغز صور مجزأة (jigsaw puzzle) ضخم، ولكن بدلاً من شخص واحد يقوم بذلك، لديك فريق من الخبراء يجلسون حول طاولة. كل خبير يمسك في يده بضع قطع فقط من الصورة، ولا يمكنهم رؤية الصورة الكاملة. لحل اللغز، يتعين عليهم الصياح بأفضل تخميناتهم لما يجب أن تبدو عليه الصورة النهائية ثم التصويت على الإجابة. هذا هو بالضبط كيف تعمل نماذج الذكاء الاصطناعي الحديثة، وتحديداً النماذج اللغوية الكبيرة (LLMs). هذه النماذج تشبه فرقاً ضخمة من "الخبراء" الرقميين (يُطلق عليهم رؤوس الانتباه أو المكونات) حيث يمتلك كل منهم جزءاً صغيراً من المعرفة. عندما تسأل الذكاء الاصطناğı سؤالاً، تتنافس كل هذه الأجزاء لتشكيل الإجابة.
لفترة طويلة، حاول العلماء والمهندسون إصلاح مشكلة مزعجة: وهي أن فرق الذكاء الاصطناعي هذه قد تصنع أشياء من خيالها أحياناً. قد تخبرك بحقيقة مزيفة بكل ثقة، وهو خلل يُعرف باسم "الهلوسة" (hallucination). حاول الناس إصلاح ذلك عبر تزويد الذكاء الاصطناعي بتدريب أفضل، أو بيانات أكثر، أو بجعله يراجع عمله. ولكن ماذا لو لم تكن المشكلة مجرد خطأ يمكن إصلاحه؟ ماذا لو كان الطريقة التي بُني بها الذكاء الاصطناعي تجعل من المستحيل أن يكون صادقاً تماماً، وواثقاً تماماً، ومبدعاً تماماً في آن واحد؟ هذا هو السؤال الكبير الذي يستكشفه ميخائيل ب. كاربوفيتش في ورقة بحثية جديدة. تشير الورقة إلى أن الهلوسة ليست مجرد خطأ يمكن معالجته، بل هي مقايضة جوهرية، مثل محاولة الحصول على كل شيء في وقت واحد (مثل محاولة أكل الكعكة والاحتفاظ بها في آن واحد).
مزاد الأفكار العظيم
تتخيل الورقة عقل الذكاء الاصطناعي كسوق صاخب يسمى "مزاد الأفكاء". في هذا المزاد، كل جزء صغير من الذكاء الاصطناعي (مثل رأس انتباه معين أو دائرة برمجية) هو بمثابة مِزايد. كل مِزايد يحمل قطعة سرية من المعرفة ويحاول إقناع المجموعة بأن نسخته من الإجابة هي الأفضل. هم "يزايدون" عن طريق إرسال إشارات للتأثير على المخرج النهائي.
يثبت المؤلف أن هذا المزاد يصطدم أحياناً بحائط مسدود. تخيل مِزايدين يتجادلان حول نفس الحقيقة. أحدهما يقول: "السماء زرقاء"، والآخر يقول: "السماء خضراء". إذا حاول الذكاء الاصطناعي دمج هذين الرأيين المتعارضين في إجابة واحدة واثقة، فإنه سيواجه استحالة رياضية. تُظهر الورقة أنه لا يمكنك امتلاك نظام يحقق أربعة أشياء في وقت واحد:
- قول الحقيقة (الإبلاح بصدق عما يعرفه).
- الحفاظ على المعلومات (عدم اختلاق حقائق جديدة من العدم).
- السماح للجميع بالمشاركة (استخدام كل قطعة معرفة ذات صلة لديه).
- تقديم أفضل إجابة (التحسين من أجل رضا المستخدم).
تثبت الورقة أنه إذا كان المزايدون يتنازعون على نفس الحقيقة، فلا بد للنظام أن يفشل في تحقيق أحد هذه الأهداف. الأمر يشبه خدعة سحرية حيث لا يمكنك إخراج ثلاثة أرانب من القبعة إذا كان لديك أرنبان فقط في الأصل. عليك أن تختار: إما أن يكذب الذكاء الاصطناعي (يهلوس بتفصيل ما ليكمل القصة)، أو يصبح حذراً للغاية ويعترف بأنه لا يعرف، أو يتجاهل بعض المعرفة التي يمتلكها بالفعل. لا يوجد "غداء مجاني" حيث يكون الذكاء الاصطناعي صادقاً تماماً، وواثقاً تماماً، ومفيداً تماماً في آن واحد.
فخ الثقة
تتعمق الورقة في شرح لماذا يحدث هذا باستخدام بعض الرياضيات الذكية. إنها تنظر في كيفية دمج الذكاء الاصطناعي لـ "أصوات" أجزائه المختلفة. عندما يجمع الذكاء الاصطناعي هذه الأصوات ليقرر الإجابة، فإنه غالباً ما ينتهي به الأمر ليبدو أكثر ثقة مما هو عليه أي جزء منفرد منه.
فكر في الأمر كأنها مجموعة من خبراء الأرصاد الجوية. إذا قال الخبير (أ) إن هناك احتمال 50% لهطول الأمطار، وقال الخبير (ب) إن هناك احتمال 50% لهطول الأمطار، لكنهما ينظران إلى سحب مختلفة، فقد تنتهي المجموعة بالقول: "من المؤكد أنها ستمطر!". توضح الرياضيات أن ثقة المجموعة هي ثقة "مصنعة". إنها طبقة إضافية من اليقين لم تكن موجودة في الأجزاء الفردية. هذه هي "الثقة الزائدة" التي تؤدي إلى الهلوسة. الذكاء الاصطناعي لا يكذب بالضرورة عن قصد؛ بل إن الطريقة التي يجمع بها المعلومات تخلق طبيعياً فجوة بين ما يعرفه وبين مدى تأكده.
هل يمكننا إصلاح ذلك؟
الورقة البحثية واضحة جداً بشأن ما لا تقوله. هي لا تدعي أن الذكاء الاصطناعي سيكذب دائماً، أو أننا لن نتمكن أبداً من بناء ذكاء اصطناعي موثوق. بدلاً من ذلك، تقول إن الهلوسة هي حد هيكلي، مثل سرعة الضوء أو عدم اليقين في عملة معدنية تدور. لا يمكنك ببساطة "تدريبه" لإزالتها إذا كانت شروط المزاد قائمة.
ومع ذلك، تقدم الورقة طريقة لإدارة المشكلة. تقترح أنه بدلاً من محاولة جعل الذكاء الاصطناعي صادقاً تماماً (وهو أمر مستحيل في ظل هذه الظروف)، يجب أن نركز على الدعم القابل للتحقق (certifiable support). تخيل أن الذكاء الاصطناعي هو محامٍ. لا يمكننا دائماً إثبات ما إذا كانت قصة المحامي هي الحقيقة المطلقة، ولكننا يمكننا التحقق مما إذا كانت قصة المحامي مدعومة بالأدلة التي أُعطيت له.
تُظهر الورقة أننا إذا منحنا الذكاء الاصطناعي مجموعة محددة من "الأدلة المصرح بها" (مثل قاعدة بيانات موثوقة أو مجموعة من الوثائق)، فيمكننا إثبات ما إذا كانت إجابة الذكاء الاصطناعي تظل ضمن حدود ذلك الدليل رياضياً. إذا خرج الذكاء الاصطناعي عن تلك الحدود، فنحن نعلم أنه يهلوس بالنسبة للدليل، حتى لو لم نكن نعرف الحقيقة المطلقة. هذا يحول المشكلة من "هل هذا حقيقي؟" (وهو أمر صعب) إلى "هل هذا مدعوم؟" (وهو أمر قابل للتحقق).
الخلاصة
هذه الورقة هي بمثابة جرس إنذار لعالم الذكاء الاصطناعي. إنها تخبرنا أن "الهلوسة" التي نراها في الذكاء الاصطناعي ليست مجرد خلل يمكن إصلاحه بمزيد من البيانات أو كود برمجي أفضل. إنها ميزة أساسية في كيفية تجميع هذه الأنظمة للمعلومات. عندما تختلف أجزاء الذكاء الاصطناعي أو تتنافس حول نفس الحقائق، يتعين على النظام اتخاذ قرار: إما أن يكون صادقاً وضعيفاً، أو واثقاً ومخطئاً محتملاً.
يقترح المؤلف أنه يجب علينا التوقف عن محاولة القضاء على هذه المقايضة والبدء في إدارتها. من خلال فهم أن ثقة الذكاء الاصطناعي هي أحياناً "مصنعة" بواسطة رياضيات دمج الأفكار، يمكننا بناء أنظمة أفضل. يمكننا تصميم ذكاء اصطناعي يكون صادقاً بشأن ما يعرفه وما يخمنه فقط، أو يمكننا بناء أنظمة مرتبطة بصرامة بالأدلة التي نعطيها لها. لا تعد الورقة بذكاء اصطناعي مثالي، لكنها تعطينا خريطة واضحة لأماكن وجود الجدران، حتى نتمكن من التوقف عن ضرب رؤوسنا بها والبدء في بناء أبواب أفضل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.