في عالم الذكاء الاصطناعي سريع التطور، أصبحت النماذج اللغوية الكبيرة بارعة بشكل ملحوظ في توليد النصوص، وحل المشكلات، وكتابة الأكواد البرمجية. يمكنها أن تبدو واثقة ومنطقية، ومع ذلك فهي ترتكب تكراراً أخطاءً دقيقة يصعب اكتشافها. ولإصلاح ذلك، طور الباحثون "المحقِّقين" (verifiers) — وهي أنظمة ثانوية مصممة لفحص عمل النموذج الأساسي وكشف الأخطاء قبل أن تصل إلى المستخدم البشري. وتأتي هذه الفاحصات في أشكال عديدة: فبعضها يقارن مخرجات النموذج بقاعدة بيانات من الحقائق، والبعض الآخر يشغل الكود البرمجي ليرى ما إذا كان سيتعطل، وبعضها ببساطة يطلب من النموذج مراجعة منطقه الخاص. وكان الأمل السائد هو أنه من خلال إضافة طبقات التحقق هذه، يمكننا بناء أنظمة ليست فقط بليغة، بل موثوقة أيضاً. ومع ذلك، ظل هناك سؤال جوهري لم تتم الإجابة عليه: ما الذي يمكن لهذه الفاحصات أن تضمنه بالضبط؟ عندما يقول النظام إن النتيجة "تم التحقق منها"، هل يعني ذلك أن الإجابة صحيحة بالتأكيد، أم أنها تعني فقط أن الإجابة تبدو صحيحة وفقاً لمجموعة محددة ومحدودة من القواعد؟

تتناول دراسة جديدة لـ "ياجي يين" (Yajie Yin) هذا الارتباك من خلال اقتراح طريقة جديدة لقياس قوة أنظمة التحقق هذه. يجادل المؤلف بأن المجال الحالي يستخدم كلمة "مستوى" (level) لتعني خمسة أشياء مختلفة في آن واحد، مما يخلق ضبابية من سوء الفهم. يستخدم بعض الباحثين كلمة "مستوى" لوصف مدى دقة تقسيمهم للمشكلة، والبعض الآخر لوصف المخاطر المعنية، والبعض الآخر لوصف الجزء الذي يتم تدقيقه في نظام الكمبيوتر. تقدم الورقة مقياساً واحداً واضحاً يسمى "مستويات الاستقلالية في التحقق" (Verification Autonomy Levels)، والذي يركز على سؤال واحد محدد: من أين تأتي الحقيقة، وماذا يعد الفاحص بوجده؟ يتراوح هذا المقياس من أضعف أشكال التحقق، حيث يعلن النموذج ببساطة أن عمله صحيح، إلى أقوى الأشكال، حيث يعتمد الفحص على حقائق موضوعية غير قابلة للتغيير أو قواعد رياضية يمكنها إثبات اكتمال الحل.

الاكتشاف الجوهري لهذا البحث هو وجود قصور أساسي ينطبق على معظم طرق التحقق الحالية تقريباً. توضح الدراسة أن العديد من الفاحصات الشائعة يمكنها التأكد من أن إجابة مقترحة صحيحة، لكنها لا تستطيع إثبات أنه لم يتم إغفال أي إجابة صحيحة أخرى. تخيل حارس أمن يفحص قائمة بالزوار المعتمدين؛ إذا رأى اسماً في القائمة، فإنه يسمح له بالدخول. ولكن إذا وصل شخص خطير يحمل اسماً ليس في القائمة، فلن يعرف الحارس أن هناك شخصاً ناقصاً ما لم يكن لديه قائمة كاملة ومعتمدة مسبقاً لكل من يجب أن يكون هناك. تسمي الورقة هذا "النقطة العمياء للاكتمال" (completeness blind spot). تعمل معظم الأنظمة الحالية مثل الحارس مع القائمة: يمكنها التحقق من أن حلاً مرشحاً يعمل، لكنها لا تستطيع ضمان أنها وجدت كل الحلول الممكنة. هذا القصور ليس خللاً يمكن إصلاحه عبر تدريب النموذج بشكل أفضل أو فحص المزيد من البيانات؛ بل هو سمة هيكلية لطريقة عمل هذه الأنظمة.

لرسم خارطة لهذا المشهد، طور المؤلف مقياساً من ست خطوات، يتراوح من L0 إلى L5. في أدنى المستويات، يمثل L0 نظاماً يكتفي فيه النموذج بالقول: "لقد فحصت هذا، وهو صحيح". لا يوجد إثبات خارجي، ولا ضمان للحقيقة. وبالانتقال للأعلى، يتضمن المستوى L1 وL2 فحوصات مبنية على قواعد مستمدة من المشكلة أو مقارنات مع حقائق موضوعية معروفة. هذه المستويات مفيدة لتأكيد أن إجابة معينة صحيحة، لكنها لا تزال تعاني من النقطة العمياء: فهي لا تستطيع إثبات أن النموذج لم يفتته إجابة أفضل أو مختلفة. يقفز المقياس بشكل كبير عند L3 وL4، حيث يعتمد التحقق على نظام قابل للتقرير (decidable system)، مثل برهان رياضي رسمي أو قاعدة منطقية صارمة. في هذه الحالات، لا يمكن للنظام تأكيد الإجابة فحسب، بل يمكنه أيضاً إثبات عدم وجود إجابات أخرى ضمن نطاق محدد وجيد التعريف. أما المستوى الأعلى، L5، والذي يمثل نظاماً قادراً على إثبات الاكتمال لأي سؤال ممكن، فقد أظهرت الدراسة أنه مستحيل رياضياً.

اختبرت الورقة هذا الإطار عبر أربعة مجالات مختلفة تماماً: حل المسائل الرياضية، ومراقبة سلوك الكمبيوتر بحثاً عن التهديدات الأمنية، وتشخيص الحالات الطبية، وكتابة الأكواد البرمجية. في التجارب الرياضية، بنى الباحثون نظاماً يمكنه فحص عمله الخاص. ووجدوا أنه بينما استطاع النظام كشف بعض الأخطاء، إلا أنه لم يحسن الدقة الإجمالية للإجابات مقارنة بالنموذج الخام. في الواقع، أدت عملية التحقق أحياناً إلى جعل الأمور أسوأ من خلال إدخال أخطاء جديدة. ومع ذلك، برع النظام في مهمة مختلفة: فقد استطاع ببراعة الإبلاغ عن الحالات التي لم يكن متأكداً فيها أو عندما وجد نوعاً معيناً من الأخطاء، مثل حل مفقود كان الفحص الأبسط سيتجاهله. وفي دراسة التشخيص الطبي، استخدم الباحثون قاعدة سريرية قياسية للتحقق من منطق النموذج. ووجدوا أن فحصاً بسيطاً قائماً على القواعد يمكنه كشف الحالات التي كان فيها النموذج مخطئاً رغم ثقته، وذلك بسبب افتقاره للأدلة الضرورية، وهو فشل لم يلحظه المراجعون البشر.

كما نظرت الدراسة في توليد الكود البرمجي، حيث يكتب النموذج برامج كمبيوتر. هنا، وجدت الدراسة أن النموذج كان جيداً بالفعل في حل المشكلات القياسية لدرجة أن إضافة طبقة تحقق لم تجعله أكثر دقة. كانت "نافذة الدقة" فارغة؛ فالنموذ_ج كان بالفعل في قمة مستواه لتلك المهام المحددة. لم تكن قيمة نظام التحقق في هذا السياق هي جعل الكود أفضل، بل توفير إشارة واضحة عندما قد يكون الكود غير آمن أو غير مكتمل. ويؤكد المؤلف أن هذا ليس فشلاً للتحقق، بل هو قياس دقيق للمكان الذي يضيف فيه التحقق قيمة. فهو يضيف قيمة عندما يمكنه الإبلاغ عن الأخطاء أو إثبات الاكتمال، وليس عندما يحاول رفع الدقة الخام في مشكلات أتقنها النموذج بالفعل.

جزء حيوي من الورقة هو التمييز بين "الصحة" (correctness) و"الاكتمال" (completeness). الصحة تعني أن إجابة مقترحة هي إجابة صحيحة. أما الاكتمال فيعني أن النظام قد وجد كل الإجابات الصحيحة ويعرف عدم وجود غيرها. تظهر الدراسة أن معظم الأنظمة الحالية تقدم "الصحة" فقط. يمكنها القول: "هذه الإجابة تعمل"، لكنها لا تستطيع القول: "هذه هي الإجابة الوحيدة". لتحقيق الاكتمال، يجب أن يكون النظام قادراً على إعادة صياغة المشكلة في تنسيق منطقي صارم يمكن للآلة حله بشكل شامل. وهذا ممكن لأنواع معينة من الرياضيات أو الكود، ولكنه مستحيل للمهام مفتوحة النهايات مثل التحقق من أخبار أو تشخيص أمراض معقدة، حيث العالم أكثر فوضوية ليتم حصره بالكامل في قاعدة واحدة. وتجادل الورقة بضرورة التوقف عن التظاهر بأن النظام يمكن أن يكون كاملاً في هذه السيناريوهات ذات العالم المفتوح. بدلاً من ذلك، يجب أن نكون صادقين بشأن حدود أدواتنا.

يتناول المؤلف أيضاً مسألة "تكرار الثقة" (trust recursion)، وهي مشكلة الحاجة إلى فاحص للتحقق من الفاحص، وفاحص آخر للتحقق من الأول، وهكذا دواليك. توضح الورقة أن سلسلة الثقة هذه يجب أن تتوقف في النهاية عند نقطة لا تعتمد على ذكاء اصطناعي آخر. يجب أن تتوقف عند قاعدة يحددها البشر، أو قياس فيزيائي، أو برهان رياضي. إذا توقفت السلسلة عند نموذج ذكاء اصطناعي آخر، فإن التحقق سيكون دائرياً وغير موثوق. تقترح الدراسة أن النهج الأفضل هو تصميم أنظمة يتولى فيها الذكاء الاصطناعي العمل الإبداعي لتوليد الأفكار، بينما يقوم نظام منفصل وصارم بفحص تلك الأفكار مقابل معيار ثابت. هذا التقسيم للعمل يضمن أن النظام يعرف متى يعمل خارج نطاق أمانه ومتى يتوقف ويطلب المساعدة البشرية.

في نهاية المطاف، تعمل هذه الورقة بمثابة "واقع مرير" لمجال سلامة الذكاء الاصطناعي. فهي تقترح مفردات جديدة تسمح للباحثين والمطورين بأن يكونوا دقيقين بشأن ما يمكن لأنظمتهم فعله وما لا يمكنها فعله. وتحذر من العادة الخطيرة المتمثلة في افتراض أن النظام "تم التحقق منه" لمجرد أنه اجتاز اختباراً. بدلاً من ذلك، تحث على رؤية أكثر دقة: قد يكون النظام ممتازاً في تأكيد أن إجابة معينة صحيحة، لكن هذا لا يعني أنه وجد الحقيقة الكاملة. أعلى درجة يمكن أن يحصل عليها نظام التحقق ليست وعداً بالكمال، بل هي إعلان صادق عن حدوده. ومن خلال فهم هذه المستويات، يمكننا بناء أنظمة ذكاء اصطناعي ليست فقط أكثر ذكاءً، بل أيضاً أكثر شفافية بشأن متى تكون على حق، ومتى تكون على خطأ، ومتى تكون ببساطة لا تعرف.