ENTLORE: A Graph-Grounded Benchmark for Latent Organizational Reasoning in Enterprise Question Answering
تقدم هذه الورقة ENTLORE، وهو معيار قائم على الرسوم البيانية يقيم أنظمة الإجابة على الأسئلة في المؤسسات بناءً على قدرتها على إجراء الاستدلال التنظيمي الكامن من خلال إعادة بناء عوالم مؤسسية مدققة من الوثائق الروتينية لاختبار استعادة العلاقات الضمنية بما يتجاوز مجرد استرجاع الحقائق البسيطة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق يحاول حل لغز داخل مكتبة ضخمة وفوضوية. هذه ليست مجرد مكتبة عادية؛ إنها "عقل" شركة ضخمة، مليئة بالملايين من الوثائق مثل رسائل البريد الإلكتروني، وتقارير المشاريع، وملاحظات الاجتماعات، والجداول البيانات. في عالم الذكاء الاصطناعي (AI)، هناك لعبة شهيرة تسمى "الإجابة على الأسئلة" (Question Answering). عادةً، يتم إعطاء الذكاء الاصطناعي سؤالاً ومجموعة من الوثائق، وتكون مهمته هي العثور على الجملة المحددة التي تحتوي على الإجابة. فكر في الأمر كأنه لعبة "أنا أرى" (I Spy) حيث تكون الإجابة مخبأة في وضح النهار، تنتظر من يلتقطها.
لكن الحياة الواقعية في الشركات أكثر فوضوية من مجرد لعبة. غالباً، لا تكون الإجابة على السؤال مكتوبة في جملة واحدة. بدلاً من ذلك، تختبئ الحقيقة في العلاقات بين الوثائق المختلفة. ربما تقول رسالة بريد إلكتروني واحدة "أليس عملت على الوحدة X"، ويقول تقرير آخر "الوحدة X جزء من المشروع Y"، لكن لا توجد وثيقة واحدة تقول صراحةً "أليس عملت على المشروع Y". للعثور على الإجابة، يجب على الذكاء الاصطناعي أن يربط النقاط بنفسه، مستخدماً القواعد غير المرئية لكيفية تنظيم الشركة. هذه الورقة البحثية، التي كتبها باحثون في ScitiX.ai، تدور حول تعليم الحواسيب كيفية القيام بهذا النوع من العمل التحقيقي، بدلاً من كونها جيدة فقط في العثور على الكلمات.
المشكلة: فخ "الحقيقة الخفية"
معظم معايير قياس الذكاء الاصطناعي (الاختبارات) تشبه رحلة البحث عن الكنز حيث تكون الخريطة مرسومة بالفعل. يقوم واضعو الاختبار بكتابة سؤال، ثم يتأكدون من أن الإجابة مكتوبة صراحة في الوثائق التي يقدمونها للذكاء الاصطناعي. الأمر يشبه سؤال: "ما لون الكرة الحمراء؟" ومن ثم تقديم صورة لكرة حمراء للذكاء الاصطناعي. كل ما عليه فعله هو العثور على كلمة "حمراء".
يجادل مؤلفو هذه الورقة بأن هذا سهل للغاية ولا يعكس كيف تعمل الشركات في الواقع. في العالم الحقيقي، قد تُذكر "الكرة الحمراء" في ملف واحد، وقد تكون حقيقة أنها "كرة" في ملف آخر، لكن الربط بينهما لا يُذكر أبداً. يجب على الذكاء الاصطناعي أن يستنتج أن "الوحدة X" تنتمي إلى "المشروع Y" بناءً على كيفية هيكلة الشركة، حتى لو لم تذكر أي وثيقة ذلك صراحةً. يطلق الباحثون على هذه المهارة المفقودة اسم الاستدلال التنظيمي الكامن (Latent Organizational Reasoning). وهي القدرة على استنتاج القواعد غير المرئية للمؤسسة من النواتج الجانبية الفوضوية للعمل اليومي.
الحل: ENTLORE، "رسم بياني للحقيقة"
لاختبار ما إذا كان بإمكان الذكاء الاصطناعي القيام بذلك حقاً، بنى الفريق معياراً جديداً يسمى ENTLORE. تخيل أنهم أخذوا التاريخ الرقمي الكامل لشركة حقيقية خاصة — آلاف الوثائق، والرسوم البيانية التنظيمية، وسجلات العمليات — وبنوا "رسمًا بيانياً للحقيقة" (Truth Graph) ضخماً وسرياً خلف الكواليس. هذا الرسم البياني يشبه مخططاً رئيسياً يعرف بالضبط كيف يتصل كل شخص وكل مشروع وكل وحدة ببعضها البعض، بناءً على قواعد صارمة ومدققة.
بعد ذلك، أنشأوا "عالماً مُعلناً" ليلعب فيه الذكاء الاصطناعي. يحتوي هذا العالم المعلن على نفس الوثائق، ولكن تم تغيير جميع الأسماء لحماية الخصوصية (مثل تحويل "أليس" إلى "الموظف رقم 42" و"المشروع ألفا" إلى "المشروع بيتا"). والأهم من ذلك، أن الذكاء الاصطناعي لا يمكنه رؤية "رسم الحقيقة" السري؛ فهو يرى فقط الوثائق المجهولة والفوضوية.
قام الفريق بعد ذلك بطرح 907 سؤالاً، وقسموا هذه الأسئلة إلى ثلاثة مستويات من الصعوبة:
- المستوى 1 (البحث عن المعلومة): الإجابة موجودة هناك في وثيقة واحدة. (مثلاً: "من هو مدير المشروع بيتا؟")
- المستوى 2 (التركيب): تتطلب الإجابة قراءة وثيقتين ودمج الحقائق. (مثلاً: "من يدير الفريق الذي بنى الوحدة X؟")
- المستوى 3 (الاستدلال الكامن): تتطلب الإجابة ربط نقاط ليست مرتبطة صراحةً. (مثلاً: "من المسؤول عن النجاح العام للمشروع بيتا؟" — رغم أنه لا توجد وثيقة تقول "الموظف رقم 42 مسؤول عن المشروع بيتا"، إلا أن رسم الحقيقة يعرف ذلك لأنه أدار الوحدة الموجودة بداخله.)
النتائج: الذكاء الاصطناعي جيد في القراءة، سيء في الربط
اختبر الباحثون 8 نماذج مختلفة للذكاء الاصطناعي باستخدام طرق متنوعة، من البحث البسيط عن الكلمات إلى أنظمة "الوكلاء" المعقدة التي يمكنها تصفح الوثائق مثل البشر. وإليكم ما وجدوه:
1. "الحقيقة الخفية" صعبة العثور عليها
عندما كانت الإجابة مكتوبة صراحة في الوثائق (المستويان 1 و2)، أدت نماذج الذكاء الاصطناعي أداءً جيداً إلى حد ما. ولكن عندما واجهت المستوى 3 (الاستدلال الكامن)، انخفض الأداء بشكل كبير. حتى أفضل النماذج لم تصب سوى حوالي 36.2% من هذه الأسئلة الصعبة.
2. الهيكل أهم من السرعة
جرب الباحثون طرقاً مختلفة لمساعدة الذكاء الاصطناعي في العثور على المعلومات.
- البحث البسيط (BM25): مجرد البحث عن الكلمات المتطابقة. كان هذا جيداً بشكل مفاجئ.
- البحث الكثيف (Flat RAG): استخدام رياضيات متقدمة للعثور على أفكار متشابهة. كان هذا في الواقع أسوأ من البحث البسيط.
- الأنظمة القائمة على الرسوم البيانية (GraphRAG): تحاول هذه الأنظمة بناء خريطة من الروابط بين الوثائق قبل الإجابة. وقد تبين أنها النهج الأقوى، حيث تفوقت على غيرها في المتوسط. وهذا يشير إلى أن الذكاء الاصطناعي يحتاج إلى فهم هيكل الشركة، وليس فقط الكلمات.
3. حتى مع وجود "الوثائق الذهبية"، يفشل الذكاء الاصطناعي
الاكتشاف الأكثر صدمة جاء عندما أعطى الباحثون الذكاء الاصطناعي "الوثائق الذهبية" — وهي الملفات الدقيقة اللازمة للإجابة، متجاوزين عملية البحث بالكامل.
- بالنسبة للأسئلة السهلة (المستوى 1)، أجاب الذكاء الاصطناعي على كل شيء تقريباً بشكل صحيح.
- بالنسبة للأسئلة المتوسطة (المستوى 2)، ظل يؤدي بشكل جيد.
- ولكن بالنسبة للأسئلة الكامنة الصعبة (المستوى 3)، كانت 30.4% من الإجابات خاطئة، رغم أن الذكاء الاصطناعي كان يمتلك الوثائق المثالية أمامه!
هذا يعني أن المشكلة ليست فقط في أن الذكاء الاصطناعي لا يستطيع إيجاد الملف الصحيح؛ بل في أنه لا يستطيع الاستدلال عبر القواعد التنظيمية غير المرئية حتى عندما يمتلك كل الأدلة. الأمر يشبه إعطاء محقق صور مسرح الجريمة، ومع ذلك فشله في إدراك أن الخادم والبستاني هما في الواقع نفس الشخص لأن الصور لا تقول ذلك صراحة.
لماذا يهم هذا
تخلص الورقة البحثية إلى أنه لا يمكننا فقط بناء محركات بحث أفضل للشركات. نحن بحاجة إلى ذكاء اصطناعي يمكنه فهم "روح" المؤسسة — القواعد غير المعلنة، والتسلسل الهرمي للمشاريع، والروابط الخفية. يثبت ENTLORE أن الذكاء الاصطناعي الحالي لا يزال يعاني من هذا الأمر. إنه بارع في قراءة ما هو مكتوب، لكنه لا يزال يتعلم كيفية التفكير فيما هو ضمني.
لقد جعل الباحثون بياناتهم وأكوادهم متاحة للجمهور حتى يتمكن علماء آخرون من محاولة حل هذا اللغز. وإلى أن يتمكن الذكاء الاصطناعي من إتقان هذا "الاستدلال التنظيمي الكامن"، فسيظل دائماً يشبه موظفاً جديداً يعرف كيف يقرأ دليل الموظف، لكنه لا يفهم بعد كيف تسير الأمور فعلياً داخل الشركة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.