💬 NLP

On the Theoretical Limitations of Embedding-Based Retrieval

تُظهر هذه الورقة البحثية أن الاسترجاع القائم على التضمين يواجه قيوداً نظرية جوهرية حيث يتقيد عدد مجموعات الوثائق (top-k) التي يمكن تحقيقها بأبعاد التضمين، وهو عائق يستمر حتى مع التدريب الأمثل ويتسبب في فشل النماذج الحديثة في أداء مهام بسيطة وواقعية.

المؤلفون الأصليون: Orion Weller, Michael Boratko, Iftekhar Naim, Jinhyuk Lee

نُشر 2026-03-13

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Orion Weller, Michael Boratko, Iftekhar Naim, Jinhyuk Lee

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تنظيم مكتبة ضخمة. لسنوات، استخدم أمناء المكتبات حيلة ذكية: يقومون بتخصيص "رقم سحري" واحد (متجه/vector) لكل كتاب ولكل استعلام بحث في مساحة عملاقة متعددة الأبعاد. إذا كانت الأرقام متقاربة، فهذا يعني أن الكتاب ذو صلة بالاستعلام. هذا النظام، المسمى الاسترجاع الكثيف (dense retrieval)، حقق نجاحاً باهراً في العثيد على الكتب المناسبة للأسئلة البسيطة مثل "من هو كاتب هاري بوتر؟".

لكن مؤخراً، بدأ الناس يطلبون من المكتبة أشياءً أكثر غرابة: "جد لي كتباً عن التنانين، وتكون أيضاً عن السفر عبر الفضاء، ولكن بشرط أن تكون من تأليف امرأة تدعى أليس، وألا تذكر النار".

تجادل هذه الورقة البحثية بأن حيلة "الرقم السحري" لها سقف رياضي جوهري. فمهما بلغ ذكاء أمين المكتبة، أو مهما زاد عدد الأرقام التي يستخدمها، هناك بعض تركيبات الطلبات التي لا يمكنه تلبيتها ببساطة.

إليك تفصيل نتائج الورقة البحثية، باستخدام تشبيهات من الحياة اليومية:

1. مشكلة "الرقم الواحد"

فكر في "المتجه" (vector embedding) كأنه بطاقة هوية واحدة لشخص ما. تحتوي بطاقة الهوية هذه على قائمة من الأرقام (الأبعاد).

الهدف: تريد العثور على جميع الأشخاص الذين يحبون "البيتزا" و"المطر" معاً، ولكن "لا" يحبون "القطط".
الحدود: إذا كان لديك بطاقة هوية صغيرة (لنقل 10 أرقام)، يمكنك فقط وصف عدد محدود من مجموعات الإعجاب وعدم الإعجاب الفريدة. بمجرد محاولة وصف مجموعات محددة جداً من الناس في وقت واحد، تبدأ بطاقات الهوية في التداخل والاندماج. لا يمكنك رياضياً الفصل بين "محبي البيتزا الذين يكرهون القطط" و"محبي البيتزا الذين يحبون القط‌ها" إذا كانت بطاقة الهوية الخاصة بك لا تملك "خانات" كافية للتفاصيل.

يثبت المؤلفون رياضياً أنه إذا كان لديك مكتبة تضم $N$ من الكتب وتريد العثور على مجموعات محددة مكونة من $K$ من الكتب لكل سؤال ممكن، فإن حجم بطاقة الهوية (بعد المتجه) يجب أن يكون ضخماً جداً. إذا كانت البطاقة صغيرة جداً، فستختلط بعض المجموعات من الكتب حتماً، بغض النظر عن كيفية إعادة ترتيب الأرقام.

2. اختبار "أمين المكتبة المثالي"

لإثبات أن هذه ليست مجرد مشكلة سوء تدريب أو "ذكاء اصطناعي غبي"، قام الباحثون بشيء جذري. لم يستخدموا نموذج ذكاء اصطناعي حقيقي، بل جعلوا "بطاقات الهوية" عبارة عن متغيرات حرة يمكنها التغير بشكل مثالي لتناسب الاختبار.

التشبيه: تخيل أنك تحاول وضع وتد مربع في ثقب مستدير. عادة، تلوم النجار (الذكاء الاصطناعي) لأنه أدى عملاً سيئاً. لكن هنا، قال الباحثون: "دعونا نشكل الوتد والثقب سحرياً حتى يتطابقا تماماً".
النتيجة: حتى مع هذا الإعداد "المثالي"، حيث تم تحسين بطاقات الهوية خصيصاً للاختبار، فشلت العملية عندما أصبحت المكتبة كبيرة بما يكفي والأسئلة معقدة بما يكفي. الرياضيات ببساطة لم تسمح بذلك. لقد نفدت المساحة من بطاقات الهوية لوصف كل تلك التوليفات الممكنة.

3. مجموعة بيانات LIMIT: الفخ البسيط

قام الباحثون ببناء مجموعة بيانات جديدة تسمى LIMIT لإظهار ذلك في العالم الحقيقي.

الإعداد: أنشأوا عالماً وهمياً يضم 50,000 شخص. كل شخص يحب بضعة أشياء عشوائية (مثلاً: "جون يحب الكوكا والتفاح"، "أويد يحب الكوكا والأرانب").
السؤال: "من يحب الكوكا؟" أو "من يحب التفاح؟".
الخدعة: طلبوا كل التوليفات الممكنة لشخصين يحبان أشياء محددة.
النتيجة: حتى أكثر نماذج الذكاء الاصطناي تقدماً (أمين المكتبة الخارق) فشلت فشلاً ذريعاً. لم يتمكنوا من العثور على الأشخاص الصحيحين.
- لماذا؟ لأن المهمة كانت دقيقة جداً بالنسبة لـ "بطاقات الهوية" الخاصة بهم. كان بإمكان النماذج التعامل مع "من يحب التفاح؟"، ولكن عندما بدأت في خلط ومطابقة "من يحب التفاح والكوكا ولكن ليس الأرانب؟"، تاهت النماذج.

4. المواجهة بين "المعجمي" (Lexical) و"الدلالي" (Semantic)

اختبرت الورقة أيضاً طريقة قديمة جداً وهي BM25 (التي تعتمد فقط على البحث عن تطابقات الكلمات الدقيقة، مثل البحث بالكلمات المفتاحية).

النتيجة: البحث بالكلمات المفتاحية التقليدي أدى في الواقع وظيفة أفضل في هذه المهمة المحددة من الذكاء الاصطناعي المتطور.
لماذا؟ لأن "بطاقة الهوية" (الذكاء الاصطناعي) تحاول فهم معنى "الكوكا"، بينما يبحث البحث بالكلمات المفتاحية فقط عن كلمة "الكوكا". وبما أن المهمة كانت تتعلق بتوليفات دقيقة من الكلمات، فإن "قاموس" البحث بالكلمات المفتاحية الضخم (الأبعاد العالية) ساعده على الفوز.
العيب: إذا قمت بتغيير الكلمات إلى مرادفات (مثلاً: "كوكا" أصبحت "والابي")، انهار البحث بالكلمات المفتاحية، وأدى الذكاء الاصطناي أداءً أفضل قليلاً. هذا يوضح أنه بينما يتفوق الذكاء الاصطناعي في فهم المعنى، فإنه يصطدم بحائط عندما يحتاج إلى الدقة بشأن التركيبات المعقدة.

5. الخلاصة الكبرى

تخلص الورقة إلى أن نماذج المتجه الواحد (single-vector embeddings) (المعيار الحالي للبحث في الذكاء الاصطناعي) قد اصطدمت بجدار نظري.

المشكلة: بينما نطلب من الذكاء الاصطناعي القيام بمزيد من الاستنتاج المعقد (الجمع بين أفكار غير مترابطة، اتباع تعليمات صارمة)، فإن عدد "التوليفات" الممكنة ينمو بسرعة كبيرة لدرجة أن بطاقة هوية واحدة لا يمكنها احتواءها جميعاً.
الحل: لا يمكننا مجرد جعل بطاقات الهوية أكبر فأكبر (لأن ذلك يصبح مكلفاً وبطيئاً للغاية). نحن بحاجة إلى أدوات جديدة.
- المشفرات المتقاطعة (Cross-Encoders): بدلاً من إعطاء الكتاب والسؤال بطاقات هوية منفصلة، نقوم بالنظر إليهما معاً (مثل إنسان يقرأ كتاباً وسؤالاً جنباً إلى جنب). هذا أبطأ ولكنه أكثر دقة بكما.
- نماذج المتجهات المتعددة (Multi-Vector Models): بدلاً من بطاقة هوية واحدة، امنح الكتاب مجموعة كاملة من البطاقات، كل منها يصف جزءاً مختلفاً من القصة.

باختدصار

تقول الورقة: "لقد كنا نحاول حل لغز معقد باستخدام قطعة ورقة واحدة صغيرة. ومهما حاولنا الكتابة عليها، لا يمكننا وضع كل الإجابات. نحن بحاجة للتوقف عن محاولة إجبار طريقة المتجه الواحد على فعل كل شيء، والبدء في استخدام أدوات أكثر مرونة للأسئلة المعقدة."

إليك ملخص تقني مفصل لورقة البحث بعنوان "حول القيود النظرية للاسترجاع القائم على التضمين" (ICLR 2026).

1. بيان المشكلة

تتناول الورقة قيداً جوهرياً في نماذج التضمين أحادية المتجه (single-vector embedding models) المستخدمة في استرجاع المعلومات (IR). وبينما حققت هذه النماذج تقدماً كبيراً في التعامل مع التعليمات المعقدة، والاستنتاج، والمهام متعددة الوسائط، إلا أن هناك افتراضاً سائداً بأن إخفاقاتها تعود إلى عدم كفاية بيانات التدريب أو حجم النموذج، وليس بسبب قيود نظرية متأصلة.

يتحدى المؤلفون هذا الافتراض من خلال طرح فكرة أن أبعاد التضمين ( $d$ ) تفرض حداً نظرياً صلباً على عدد مجموعات الوثائق الفرعية الفريدة لـ top- $k$ التي يمكن للنموذج تمثيلها. وتحديداً، مع نمو عدد تركيبات الصلة المحتملة (على سبيل المثال، عبر العمليات المنطقية في مهام اتباع التعليمات)، يصبح البعد الثابت لفضاء التضمين غير كافٍ للفصل بين جميع مجموعات الوثائق ذات الصلة والمجموعات غير ذات الصلة، بغض النظر عن جودة التدريب.

2. المنهجية

استخدم المؤلفون نهجاً ثلاثي المحاور يجمع بين البراهن النظرية، والتحسين التجريبي لأفضل الحالات، وبناء مجموعة بيانات واقعية.

أ. التحليل النظري (تعبئة الكرات - Sphere Packing)

الصياغة: يعرّف المؤلفون هدف الاسترجاع حيث يجب على متجه الاستعلام $u$ أن يفصل مجموعة فرعية محددة مكونة من $k$ من الوثائق ذات الصلة عن $n-k$ من الوثائق غير ذات الصلة بهامش قدره $\gamma$ .
الاشتقاق: باستخدام النتائج الكلاسيكية من الهندسة عالية الأبعاد (تحديداً حجج تعبئة الكرات)، اشتقوا حداً أدنى لبعد التضمين $d$ المطلوب لتحقيق جميع التشكيلات الممكنة $\binom{n}{k}$ من الوثائق ذات الصلة.
النظرية الرئيسية: أثبتوا أنه بالنسبة لـ $n$ من الوثائق واسترجاع top- $k$ مع هامش $\gamma$ :
$\binom{n}{k} \leq \left(1 + \frac{1}{\gamma}\right)^d$
وهذا يعني أن $d$ يجب أن يتناسب لوغاريتمياً مع عدد التشكيلات. وبالنسبة لمعايير البحث الواقعية على نطاق الويب، فإن البعد $d$ المطلوب يتجاوز الحدود العملية الحالية (مثل 4096).

ب. التحقق التجريبي: "التضمين الحر" (Free Embedding) للتحسين

لعزل الحد النظري عن تعقيدات اللغة الطبيعية والانحدار الاشتقاقي (gradient descent)، أجرى المؤلفون تجربة "أفضل حالة":

الإعداد: عاملوا متجهات الوثائق والاستعلام كـ معاملات حرة (غير مقيدة بالترميز أو نماذج اللغة) وقاموا بتحسينها مباشرة عبر الانحدار الاشتقاقي (Adam) لتلبية قيود الاسترجاع في مجموعة الاختبار.
الهدف: تحديد نقطة "العدد $n$ الحرج" حيث يفشل التحسين، بالنسبة لبعد ثابت $d$ ، في تحقيق دقة 100% لأن الفضاء لا يمكنه استيعاب جميع التشكيلات هندسياً.
النتيجة: وجدوا أنه حتى مع التحسين المثالي، فإن عدد الوثائق $n$ التي يمكن استرجاعها بنجاح يتناسب طردياً (بشكل متعدد الحدود) مع $d$ . بالنسبة للأبعاد القياسية (مثل $d=4096$ )، يفشل النموذج في تمثيل جميع التشكيلات لعدد $n$ صغير نسبياً (مثل ملايين الوثائق)، مما يؤكد أن الحد النظري هو عائق عملي.

ج. مجموعة بيانات LIMIT

أنشأ المؤلفون مجموعة بيانات اصطناعية ولكنها واقعية تسمى LIMIT لاختبار النماذج:

البناء: بناءً على القيود النظرية، أنشأوا مجموعة بيانات تحتوي على 50,000 وثيقة و1,000 استعلام. يطلب كل استعلام تشكيلة محددة من السمات (على سبيل المثال، "من يحب الكوكا والتفاح؟").
التصميم: تضمن مجموعة البيانات أن مصفوفة الصلة كثيفة بالتشكيلات، مما يجبر النموذج على التمييز بين عدد هائل من مجموعات top- $k$ الفرعية.
التقييم: قيموا نماذج المتجه الواحد من أحدث التقنيات (SOTA) (مثل E5-Mistral، وGritLM، وGemini Embeddings، وQwen3) وقارنوها بأساليب BM25 (الخفيفة/Sparse) وColBERT (متعددة المتجهات).

3. المساهمات الرئيسية

الحد الأدنى النظري: وضع برهاناً رياضياً صارماً يربط بين بعد التضمين والحد الأقصى لمجموعات استرجاع top- $k$ التي يمكن تمثيلها، موضحاً أن الأبعاد الحالية غير كافية للانفجار التشكيلي لمهام اتباع التعليمات.
البرهان التجريبي لأفضل حالة: أثبتوا أنه حتى عند إزالة جميع قيود اللغة الطبيعية (باستخدام تحسين المتجهات الحرة)، فإن حد البعد يستمر في الظهور. وهذا يثبت أن القيد هندسي، وليس مجرد فشل في نماذج التدريب الحالية.
معيار LIMIT: قدموا مجموعة بيانات جديدة تكشف هذه القيود. وعلى عكس المعايير السابقة التي تعتمد على الاستنتاج المعقد، يستخدم LIMIT استعلامات بسيطة للغاية (مثل "من يحب X؟") لإثبات أن الفشل ناتج عن عدم القدرة على تمثيل التشكيلات (combinations) الخاصة بالصلة، وليس تعقيد الاستعلام نفسه.

4. النتائج

فشل نماذج SOTA: حتى أفضل نماذج المتجه الواحد (بأبعاد تصل إلى 4096) فشلت في حل مهمة LIMIT، حيث حققت استدعاءً (Recall) منخفضاً جداً (على سبيل المثال، أقل من 20% لـ Recall@100 على المجموعة الكاملة، وفشلت في الوصول إلى 100% حتى في النسخة الصغيرة المكونة من 46 وثيقة).
الحساسية للبعد: ارتبط الأداء بقوة ببعد التضمين. أدت الأبعاد الأكبر إلى تحسين النتائج، لكنها لم تحل المشكلة، مما أكد علاقة التناسب متعدد الحدود التي وُجدت في تجارب "التضمين الحر".

البنى البديلة:
- BM25 (الخفيفة/Sparse): أدت أداءً يقترب من المثالية بسبب بعدها اللانهائي فعلياً (حجم المفردات)، رغم أنها تعاني مع الترادف (فقدت حوالي 90% من الأداء عند إدخال المترادفات).
- النماذج متعددة المتجهات (مثل ColBERT): قدمت أداءً أفضل بكثير من نماذج المتجه الواحد، لكنها لم تحقق أيضاً درجات مثالية، مما يشير إلى أنها أكثر تعبيراً ولكنها ليست حلاً كاملاً.
- المشفرات المتقاطعة (Cross-Encoders): نجح نموذج لغوي كبير مستخدم كمرتب ثانٍ (Gemini-2.5-Pro) في حل المهمة بدقة 100%، مما يؤكد أن القيد خاص بنموذج الاسترجاع ذي المتجه الواحد.

انزياح النطاق (Domain Shift): لم يؤدِ ضبط النماذج (Fine-tuning) على مجموعة تدريب LIMIT إلى تحسين الأداء بشكل ملحوظ، مما يشير إلى أن المشكلة ليست انزياحاً في النطاق بل هي عجز بنيوي أساسي.

5. الأهمية والآثار المترتبة

إعادة التفكير في نماذج الاسترجاع: تجادل الورقة بأن سعي المجتمع نحو "نماذج المتجه الواحد التي يمكنها التعامل مع أي استعلام" يصطدم بجدار نظري. ومع تطلب المهام تشكيلات أكثر تعقيداً من الصلة (مثل عمليات AND/OR المنطقية لوثائق غير مرتبطة)، ستفشل نماذج المتجه الواحد حتماً.
التقييم (Benchmarking): قد تكون المعايير الحالية (مثل MTEB) تعاني من الإفراط في التخصيص (overfitted) لمجموعات فرعية صغيرة من الاستعلامات، مما يخفي هذه القيود الأساسية. توفر مجموعة بيانات LIMIT اختبار جهد ضرورياً.
الاتجاهات المستقبلية: يقترح المؤلفون أن الأبحจัย المستقبلية يجب أن تتجاوز تضمينات المتجه الواحد للمهام المعقدة التي تتبع التعليمات. وتشمل البدائل الواعدة:
- المشفرات المتقاطعة (Cross-encoders) (لإعادة الترتيب).
- النماذج متعددة المتجهات (Multi-vector models) (مثل ColBERT).
- النماذج الخفيفة/الهجينة (Sparse/Hybrid models) (بالاستفادة من الأبعاد العالية للمفردات).
- بنى جديدة (مثل Hyperencoders) التي يمكنها حل مشكلة السعة الهندسية الأساسية.

في الختن، تقدم الورقة برهاناً قاطعاً على أن بعد التضمين هو قيد صلب على القدرة التعبيرية لنماذج الاسترجاع، مما يستوجب تحولاً في التصميم البنيوي للتعامل مع الطيف الكامل لمهام الاسترجاع القائمة على التعليمات.