Never the Number: Structural Abstention for AI Systems Whose Answers Are Consumed as Fact
تقترح هذه الورقة "الامتناع الهيكلي"، وهو نمط معماري لأنظمة الذكاء الاصطناعي يفصل بين غلاف توليدي ونواة حتمية لضمان رفض الطلبات غير القابلة للإجابة أو الغامضة صراحةً بدلاً من الهلوسة، مما يضمن الموثوقية الواقعية في عمليات النشر المؤسسية والوكيلة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
فخ الثقة: عندما يكذب الذكاء الاصطناعي بسلاسة شديدة
تخيل أنك تسأل روبوتًا ذكيًا جدًا ومحبًا للدردشة للمساعدة في واجباتك المدرسية. تسأله: "كم عدد الكواكب في مجموعتنا الشمسية؟" فيجيب الروبوت فورًا: "هناك تسعة كواكب، بما في ذلك بلوتو!" يبدو كلامه واثقًا، وقواعده اللغوية مثالية، ونبرته ودودة. لكنك تعلم أن بلوتو لم يعد كوكبًا بعد الآن. المشكلة ليست في أن الروبوت غبي؛ بل في أنه "جيد جدًا" في إظهار أنه على صواب. في عالم الذكاء الاصطناعي، وتحديدًا النماذج اللغوية الكبيرة (LLMs)، يمثل هذا فخًا خطيرًا. فهذه النماذج بارعة في تخمين الكلمات التي يجب أن تأتي تاليًا، لكنها سيئة جدًا في إجراء العمليات الحسابية أو التحقق من الحقائق. وعندما يخطئ الروبوت في الإجابة، فإنه لا يقول: "لا أعرف"، بل يبتدع "هلوسة" (hallucination)—وهي إجابة مزيفة تبدو سلسة وواثقة لدرجة قد تجعلك تصدقها.
هذه مشكلة ضخمة للشركات والأدوات التي تعتمد على البيانات. فإذا أخبر روبوت مدير متجر: "بعنا 500 وحدة"، بينما الرقم الحقيقي هو 400، فقد يتخذ المدير قرارًا سيئًا بناءً على تلك الكذبة. والجزء المرعب هو أن الكذبة تبدو تمامًا مثل الحقيقة؛ فلا يمكنك التمييز بينهما بمجرد قراءة الجملة. لقد حاول العلماء والمهندسون إصلاح ذلك بجعل الروبوتات أكثر ذكاءً أو حذرًا، لكن هذه الورقة البحثية تجادل بأن الحل الحقيقي ليس في جعل الروبوت أفضل في التخمين، بل في منع الروبوت من تخمين الأرقام على الإطلاق.
"ليس الرقم أبدًا": حل "النواة الموثوقة"
تقدم هذه الورقة طريقة جديدة وذكية لبناء أنظمة ذكاء اصطناعي تتعامل مع البيانات، مثل تقارير المبيعات أو أعداد الأسرة في المستشفيات. يطلق المؤلفون على هذا النهج اسم "الامتناع الهيكلي" (Structural Abstention). وهو مصطلح معقد يعني: "إذا لم تكن متأكدًا بنسبة 100% من الحسابات، فلا تحاول القيام بها على الإطلاق".
لفهم كيفية عمل ذلك، تخيل مطبخًا في مطعم فاخر:
- الغلاف التوليدي (النادل): هذا هو الجزء الودود والمحب للدردشة من النظام. يتحدث إليك، ويفهم أسئلتك غير المنظمة، ويكتشف بالضبط ما تريده. إذا قلت: "أريد معرفة الشيء الأحمر من الأسبوع الماضي"، يقوم النادل بترجمة ذلك إلى طلب محدد: "الزبون يريد أرقام مبيعات 'التفاح الأحمر' من 'الأسبوع الماضي'". يُسمح للنادل بأن يكون مبدعًا، وأن يرتكب أخطاء، وأن يطلب توضيحات. وإذا أخطأ النادل في الطلب، يمكنك ببساه تصحيحه، ولن يترتب على ذلك أي ضرر.
- النواة الحتمية (الطاهي): هذا هو الجزء الصارم والمتبع للقواعد في النظام. النادل يسلم الطلب إلى الطاهي. الطاهي لا يخمن أبدًا. الطاهي يطبخ فقط الأطباء الموجودة في قائمة طعام معتمدة مسبقًا. إذا طلب الزبون شيئًا ليس في القائمة (مثل "تفاح أحمر من القمر")، فإن الطاهي لا يحاول ابتكار وصفة. بل يكتفي الطاهي بالقول: "لا يمكنني إعداد ذلك". ثم يقوم الطاهي بحساب الرقم الدقيق باستخدام آلة حاسبة (قاعدة البيانات) ويدونه.
القاعدة السحرية لهذا النظام هي "ثابت المحيط" (Perimeter Invariant). وهي تقول: الجزء الذي يمكنه تأليف الأشياء (النادل) يمكنه تحديد السؤال الذي سيطرحه، لكنه لا يمكنه أبدًا تحديد ماهية الإجابة. يجب أن تأتي الإجابة دائمًا من الطاهي الصارم الذي يتبع وصفة ثابتة.
كيف يعمل الأمر في الواقع؟
اختبر المؤلفون هذه الفكرة باستخدام نظام حقيقي يستخدمه مديرو المبيعات لمدة عامين. إليك العملية خطوة بختوة كما استخدموها:
- أنت تسأل: يسأل أحد المديرين: "كم عدد الهواتف التي باعها متجر ريفرتون الثلاثاء الماضي؟"
- النادل (الغلاف) يستمع: يستمع الذكاء الاصطناعي. قد لا يعرف معنى "ريفرتون" أو ما إذا كان "الثلاثاء الماضي" تاريخًا صالحًا في التقويم الخاص بالشركة. لذا، يسأل: "هل تقصد متجر ريفرتون، أم منطقة ريفرتون؟ وهل تقصد الأسبوع المالي؟"
- التأكيد: بمجرد أن يعتقد الذكاء الاصطناعي أنه فهم المطلوب، فإنه لا يلقي رقمًا فحسب. بل يقول: "حسنًا، أنا على وشك حساب: مبيعات الهواتف لمتجر ريفرتون خلال الأسبوع المالي لـ 20 يناير. هل هذا صحيح؟"
- أنت تقول نعم: تقرأ الجملة، وإذا كانت صحيحة، تقول "نعم".
- الطاهي (النواة) يحسب: فقط بعد أن تقول نعم، يقوم النظام بتشغيل كود برمجي صارم ومكتوب مسبقًا للحصول على الرقم. إنه لا يخمن، بل يبحث عن البيانات ويجمعها فقط.
- النتيجة: يعطيك النظام الرقم. وبما أن "الطاهي" لم يخمن أبدًا، فأنت تعلم أن الرقم حقيقي.
ماذا يحدث عندما يعجز الذكاء الاصطناعي؟
إذا طرحت سؤالاً لا يستطيع النظام التعامل معه—مثل "كم عدد المبيعات التي حققناها في متجر لم يوجد بعد؟"—فإن "النادل" يدرك أن "الطاهي" ليس لديه وصفة لذلك. وبدلاً من اختراع رقم مزيف، يتوقف النظام ويقول: "لا يمكنني الإجابة على ذلك. إليك ثلاثة أسئلة يمكنني الإجابة عنها".
هذا ما يسمى "الامتناع الهيكلي". النظام يرفض الإجابة لأن الطلب لا يمكن تمثيله في قواعده الصارمة. وهذا يختلف عن طرق الذكاء الاصطناعي الأخرى التي تحاول تخمين درجة الثقة (مثل "أنا متأكد بنسبة 80%") ثم تقرر ما إذا كانت ستجيب أم لا. هذا النظام لا يحتاج إلى التخمين؛ فهو ببساطة لا يستطيع إجراء الحسابات إذا لم يتناسب السؤال مع قائمة الطعام.
لماذا يهم هذا الأمر؟
تقارن الورقة بين نظام "النادل والطاهي" هذا وبين نوعين آخرين من الذكاء الاصطناعي:
- نموذج "الطرف إلى الطرف" (End-to-End): هذا روبوت يحاول القيام بكل شيء بنفسه. يستمع، ويخمن الإجابة، ويكتب الكود. إنه سريع ويغطي مواضيع كثيرة، ولكن عندما يخطئ، فإنه يكذب بسلاسة. لا يمكنك التمييز بين الإجابة الصحيحة والإجابة الخاطئة.
- الوكيل "مستخدم الأدوات" (Tool-Using Agent): هذا روبوت يستخدم الأدوات للعثور على الإجابات. إنه أفضل حالًا، لكنه لا يزال معرضًا للارتباك بشأن الأداة التي يجب استخدامها أو كيفية دمج النتائج.
وجد المؤلفون أنه بالنسبة لقرارات الأعمال، فإن نظام "النادل والطاهي" هو الأكثر أمانًا. وعلى الرغم من أنه يمكنه الإجابة على أسئلة أقل (لديه قائمة طعام أصغر)، إلا أن الإجابات التي يقدمها موثوقة. تشير الورقة إلى أنه في اختبارهم الذي استمر عامين، قاموا ببناء نظام "النواة أولاً" كان موثوقًا للغاية لدرجة أنه أنتج في النهاية بيانات كافية لتدريب ذكاء اصطناعي أكثر ذكاءً لاحقًا. ولكن حتى في تلك الحالة، حافظوا على القواعد الصارمة للرقم النهائي.
العيب
هذا النظام ليس مثاليًا للجميع. إذا كنت عالماً يستكشف مجموعة بيانات جديدة تمامًا وتريد طرح أسئلة جامحة وإبداعية، فقد تشعر أن هذا النظام جامد للغاية؛ إذ سيقول لك "لا يمكنني فعل ذلك" كثيرًا. ولكن بالنسبة للمواقف التي قد يكلف فيها الرقم الخاطئ شركة ما أموالًا أو يؤذي مريضًا، تجادل الورقة بأن القدرة على قول "لا أعرف" أفضل بكثير من القدرة على قول "إليك رقم مزيف يبدو حقيقيًا".
باختختصار، تقترح الورقة أنه بالنسبة للبيانات الحساسة، يجب أن نتوقف عن محاولة جعل الذكاء الاصطناعي أكثر ذكاءً في تخمين الأرقام. بدلاً من ذلك، يجب أن نبني أنظمة يُسمح فيها للذكاء الاصطناعي فقط بطرح السؤال، بينما تظل الآلة الصارمة وغير المبدعة هي الوحيدة المسموح لها بإجراء العمليات الحسابية. إنها عملية مقايضة: ستحصل على إجابات أقل، لكن الإجابات التي ستحصل عليها هي الحقيقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.