Grounding Without Corrective Control: Truth-Tracking Profiles for Large Language Models

الخريطة مقابل البوصلة: لماذا لا يعني معرفة الطريق أنك تسلكه بالفعل

تخيل أنك تحاول تعليم روبوت كيفية التنقل في مدينة ما. لديك طريقتان رئيسيتان للقيام بذلك. الأولى هي تزويد الروبوت بخريطة ضخمة ومثالية للمدينة، رسمها آلاف الأشخاص على مدى مئات السنين. يحفظ الروبوت كل شارع، وكل مبنى، وكل طريق مختصر. يمكنه استظهار الخريطة بدقة بل وحتى رسم خرائط جديدة تبدو تماماً مثل الخرائط القديمة. هذا يشبه الطريقة التي تتعلم بها العديد من أنظمة الذكاء الاصطناعي: فهي تقرأ مليارات الصفحات من النصوص البشرية، وتستوعب الأنماط والحقائق والقصص التي كتبها البشر.

الطريقة الثانية هي إعطاء الروبوت بوصلة حية وزوجاً من العيون. يتيح ذلك للروبوت رؤية العالم في هذه اللحظة، وملاحظة ما إذا كان هناك شارع قد أُغلق بسبب أعمال البناء، أو إدراك أنه اتخذ منعطفاً خاطئاً. هذا هو الفرق بين امتلاك سجل ثابت للعالم وبين امتلاك اتصال حي به. لطالما ناقل العلماء ما إذا كان بإمكان الذكاء الاصطناعي "معرفة" الأشياء حقاً أم أنه مجرد محاكٍ بارع. هذا البحث لا يسأل فقط عما إذا كان لدى الذكاء الاصطناعي خريطة؛ بل يسأل عما إذا كان لدى الذكاء الاصطناعي بوصلة. إنه يشير إلى أنه حتى لو امتلك الذكاء الاصطناعي خريطة مثالية (المحتوى)، فقد يظل أعمى عن التغييرات في العالم الحقيقي إذا افتقر إلى المسارات الحية للتحقق من عمله. فهم هذا التمييز أمر بالغ الأهمية لأنه يخبرنا متى يمكننا الوثوق بإجابة الذكاء الاصطناعي ومتى نحتاج إلى التحقق منها بأنفسنا.

---

الفكرة الكبرى للورقة: اختبار "السلك الحي"

يقترح بريت رينولدز، مؤلف هذه الورقة، طريقة جديدة للنظر إلى النماذج اللغوية الكبيرة (روبوتات الدردشة فائقة الذكاء التي نستخدمها اليوم). هو يرى أننا بحاجة إلى التوقف عن السؤال: "هل يعرف هذا الذكاء الاصطناعي الحقيقة؟" والبدال بـ "هل يمتلك هذا الذكاء الاصطناعي سلكاً حياً متصلاً بالحقيقة؟"

فكر في الذكاء الاصطناعي كطاهٍ موهوب جداً حفظ كل وصفة في العالم. إذا طلبت منه كعكة شوكولاتة، يمكنه وصف المكونات ودرجة الحرارة ووقت الخبز بدقة. هذا هو التجذر (Grounding). معرفة الطاهي "متجذرة" في ملايين كتب الطبخ التي قرأها. ولكن هنا تكمن العقبة: إذا سألت الطاهي، "هل الفرن ساخن الآن بالفعل؟" أو "هل قام الخباز بتغيير الوصفة هذا الصباح؟"، فقد لا يعرف. هو يعرف فقط ما قالته الكتب قبل أن يتوقف عن القراءة. ليس لديه سلك حي بالمطبخ.

يسمي رينولدز هذا الاتصال المفقود التحكم التصحيحي (Corrective Control). وهو القدرة على رصد خطأ حديث وإصلاحه أثناء القيام بالمهمة.

• الإجابة الاشتقاقية (Derivative Answerability): هذا يحدث عندما يصيب الذكاء الاصطناعي في إجاباته لأنه ورث التصحيحات التي أجراها البشر في الماضي. إذا قال الذكاء الاصطناعي "السماء زرقاء"، فهو محق لأن البشر صححوا هذه الحقيقة في الكتب لقرون. الذكاء الاصطناعي يركب فوق أمواج الحقيقة البشرية.
• الإجابة الحية (Live Answerability): هذا يحدث عندما يستطيع الذكاء الاصطناعي فحص السماء بنفسه الآن. إذا كانت السماء رمادية بالفعل بسبب عاصفة، فإن النظام الذي يمتلك إجابة حية يرى اللون الرمادي ويقوم بتحديث إجابته.

تشير الورقة إلى أن معظم إعدادات الذكاء الاصطناعي الحالية تشبه الطاهي الذي يمتلك كتاب طبخ مثالي ولكن بدون عيون. هم بارعون في سرد التاريخ، لكنهم غالباً ما يفشلون عندما يتغير العالم أو عندما يحتاجون إلى التحقق من حقيقة محددة وحديثة.

الفحص الخماسي لـ "تتبع الحقيقة"

يفصل رينولدز بالضبط ما يحتاجه نظام الذكاء الاصطناعي ليكون لديه "سلك حي" بالحقيقة. هو يسمي هذا ملف المسار (Route Profile). تخيل أن الذكاء الاصطناعي سيارة. لكي تقود بأمان، لا تحتاج فقط إلى خريطة؛ بل تحتاج إلى سائق يمكنه رؤية الطريق. يسرد رينولدز خمس ميزات تحدد ما إذا كانت السيارة قادرة على القيادة فعلياً:

1. الوصول إلى الهدف (Target Access): هل يمكن للنظام فعلياً رؤية الشيء الذي يتحدث عنه؟ (هل لدى السيارة زجاج أمامي؟)
2. القابلية للاكتشاف (Detectability): هل يمكنه ملاحظة ما إذا كان هناك خطأ ما؟ (هل يرى السائق الضوء الأحمر؟)
3. استقلالية مسار التحقق (Checking-Route Independence): هل الشخص الذي يتحقق من العمل مختلف عن الشخص الذي يقوم بالعمل؟ (إذا كان السائق هو نفسه من يقوم بطلاء علامات الطريق، فقد يخدع نفسه. أنت بحاجة إلى عين ثانية.)
4. الإسناد (Attribution): هل يمكن للنظام تحديد ما حدث بالضبط؟ (هل رأى السائق الضوء الأحمر، أم أنه شعر فقط باهتزاز؟)
5. الاستيعاب الفعال (Effective Uptake): هل يمكن للنظام فعلياً تغيير سلوكه بناءً على ما وجده؟ (إذا رأى السائق الضوء الأحمر واستمر في القيادة لأن المكابح معطلة، فقد فشل النظام.)

إذا امتلك الذكاء الاصطناعي الخمس جميعها، فإنه يمتلك التحكم التصحيحي. يمكنه رصد خطأ حديث وإصلاحه. إذا امتلك بعضها فقط، أو إذا كان "التحقق" مجرد إعادة عرض للأخطاء القديمة، فلا يهم مدى ذكائه؛ فهو لا يستطيع تتبع الحقيقة في الوقت الفعلي.

ماذا يحدث عند إضافة الأدوات؟

تتناول الورقة الطرق المختلفة التي يحاول بها الناس إصلاح الذكاء الاصطناعي، مثل إعطائه القدرة على الوصول إلى الإنترنت (الاسترجاع/Retrieval)، أو السماض له باستخدام الآلة الحاسبة (الأدوات/Tools)، أو السماح له برؤية الصور (المدخلات متعددة الوسائط/Multimodal Input). يجادل رينولدز بأن هذه الأدوات تساعد فقط إذا ملأت فجوة محددة في قائمة الفحص الخماسية.

• الاسترجاع (المكتبة): إذا أعطيت الذكاء الاصطناعي رابطاً حياً لمكتبة، فسيصبح أفضل في العثور على الحقائق القديمة. ولكن إذا كانت المكتبة مليئة بالكتب القديمة، فسيظل الذكاء الاصطناğı عالقاً في الماضي. هذا يساعد في "الوصول إلى السجلات"، لكنه لا يساعد إذا كان الذكاء الاصطناعي بحاجة إلى قياس جسم مادي.
• الأدوات (الآلة الحاسبة): إذا تمكن الذكاء الاصطناعي من تشغيل كود برمجي أو استخدام آلة حاسبة، فسيصبح أفضل في الرياضيات. ولكن إذا كانت الأداة معطلة أو اختار الذكاء الاصطناعي الأداة الخاطئة، فسيظل يخمن.
• متعدد الوسائط (العيون): إذا استطاع الذكاء الاصطناعي رؤية صورة، فسيصبح أفضل في وصف ما أمامه. لكن رؤية صورة لا تعني أنه يستطيع قياس درجة حرارة الشيء الموجود في الصورة.

تقترح الورقة أن مجرد إضافة المزيد من الأدوات لا يجعل الذكاء الاصطناعي "أذكى" أو أكثر "صدقاً" تلقائياً. هو يساعد فقط إذا كانت الأداة المحددة تتناسب مع المهمة المحددة. إذا طلبت من الذكاء الاصطناعي قياس سائل، فإن إعطاءه مكتبة (استرجاء) لن يساعد؛ أنت بحاجة إلى مسطرة (أداة). إذا طلبت منه وصف غروب الشمس، فإن إعطائه مسطرة لن يساعد؛ أنت بحاجة إلى عيون (متعدد الوسائط).

مشكلة "الأخطبوط" و"إيزي"

تستخدم الورقة تجربتين فكريتين شهيرتين لشرح وجهة نظرها.

• الأخطبوط: تخيل أخطبوطاً يعيش في حوض، متصلاً بجزيرتين عبر كابل. يمكنه سماع الناس على الجزر وهم يتحدثون، لكنه لا يستطيع رؤيتهم أو لمس العالم. يتعلم التنبؤ بما سيقولونه. يمكنه أن يبدو تماماً مثل البشر، لكن ليس لديه أي فكرة عما تعنيه الكلمات في العالم الحقيقي.
• إيزي: تخيل إنساناً يُدعى إيزي، عاش في غرفة بها شاشة نصية فقط منذ ولادته. تعلم إيزي كل شيء من النصوص الموجودة على الشاشة. يمكن لإيزي التحدث عن العالم بشكل مثالي، لكن إيزي لم يرَ شجرة قط أو يشعر بالمطر.

يجادل رينولدز بأن كلاً من الأخطبوط وإيزي قد يمتلكان "محتوى" (يعرفان الكلمات)، لكنهما يفتقران إلى التحكم التصفيحي. إذا تغير العالم، فلن يتمكنا من المعرفة. هما عالقان في الحقيقة "الموروثة" من الماضي.

الخلاصة: لماذا يهم هذا الأمر

لا تدعي الورقة أن الذكاء الاصطناعي "مزيف" أو أنه لا يمكنه أن يكون مفيداً. هي تقترح أننا بحاجة إلى توخي الحذر بشأن كيفية الوثوق به.

• إذا كانت المهمة تتعلق بالتاريخ أو الأسلوب: فإن معرفة الذكاء الاصطناعي "الموروثة" (الخريطة) تكون كافية عادةً. يمكنه كتابة قصة رائعة أو تلخيص حقائق قديمة.
• إذا كانت المهمة تتعلق بالعالم الحقيقي الآن: يحتاج الذكاء الاصطناعي إلى "سلك حي". بدون ذلك، قد يقول الذكاء الاصطناعي شيئاً خاطئاً بثقة لأنه مجرد تخمين بناءً على أنماط قديمة.

يقترح رينولدز أنه لا ينبغي لنا فقط النظر في مدى فصاحة الذكاء الاصطناعي. بل يجب أن ننظر إلى ملف مساره. هل لديه مسار حي للحقائق؟ هل يمكنه التحقق من عمله؟ إذا لم نبنِ هذه المسارات الحية في أنظمة الذكاء الاصطناضي الخاصة بنا، فقد نحصل على إجابات فصيحة جداً ولكنها منفصلة تماماً عن الواقع. وتخلص الورقة إلى أنه بينما يمكن للذكاء الاصطناعي أن يمتلك "المحتوى"، فإن امتلاك "التحكم التصحيحي" هو تحدٍ منفصل وأصعب يتطلب بناء جسور معمارية محددة بين الذكاء الاصطناعي والعالم المتغير.