Hierarchical Embedding Fusion for Retrieval-Augmented Code Generation
تقدم هذه الورقة البحثية دمج التضمين الهرمي (HEF)، وهو إطار عمل ثنائي المراحل يقوم بضغط كود المستودع إلى تسلسل هرمي قابل لإعادة الاستخدام من المتجهات الكثيفة ويقوم برسم خرائط لها إلى رموز رمزية زائفة متعلمة، مما يتيح توليد كود مدرك للمستودع ومنخفض زمن الاستجابة بدقة تضاهي طرق الاسترجاع التقليدية مع تقليل تكاليف الاستدلال بشكل كبير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك شيف ماهر يحاول طهي طبق معقد (كتابة كود برمجي) لمطعم محدد (مشروع برمجيات). لكي تطهو ببراعة، تحتاج إلى معرفة الوصفات السرية للمطعم، والعلامات التجارية المحددة للمكونات التي يستخدمونها، وتخطيط مطبخهم.
في عالم البرمجة بالذكاء الاصطناعي، يمثل "معرفة المطعم" هذا مستودع الكود (Code Repository) — آلاف الملفات التي تحتوي على تاريخ المشروع، وقواعده، وأسلوبه.
المشكلة: فخ "المعلومات الزائدة عن الحد"
تحاول مساعدات البرمجة التقليدية بالذكاء الاصطناعي حل هذه المشكلة عبر قراءة كتاب وصفات المطعم بأكمله قبل البدء في الطهي.
- الطريقة القديمة (حقن المقاطع - Snippet Injection): يقوم الذكاء الاصطناعي بجلب أجزاء ضخمة من النصوص الخام من المشروع ولصقها في "البرومبت" (الأمر). الأمر يشبه محاولة الشيف قراءة 500 صفحة من كتاب طبخ بينما يقوم بتقطيع البصل في نفس الوقت. إنه أمر بطيء، يجعل المطبخ فوضوياً (ضجيج)، وغالباً ما ينسى الشيف ما كان يفعله بسبب كثرة ما يجب قراءته.
- طريقة الرسم البياني (The Graph Way): تحاول أنظمة أخرى رسم خريطة للمطبخ مثل خريطة مترو الأنفاق (رسم بياني) لإيجاد الروابط. هذه الطريقة دقيقة ولكنها تتطلب بناء خريطة جديدة في كل مرة تطلب فيها طبقاً، وهو أمر يستغرق وقتاً طويلاً جداً.
الحل: HEF (نظام "الملخص الذكي")
يقدم البحث تقنية الدمج الهرمي للتضمين (Hierarchical Embedding Fusion - HEF). فكر في هذا كتوظيف مساعد شيف فائق الكفاءة يقوم بإعداد "ورقة غش" (ملخص سريع) للشيف الرئيسي.
إليك كيف يعمل نظام HEF، مقسماً إلى ثلاث خطوات بسيطة:
1. التحضير المسبق (Offline): بناء "ورقة الغش"
قبل أن يبدأ الشيف الرئيسي في الطهي، يقوم مساعد الشيف (المدمج - Fuser) بالمرور على كتاب وصفات المطعم بأكمله.
- بدلاً من نسخ الكتاب بأكل، يقرأ المساعد بضع صفحات، ويلخصها في "نوتة نكهة" واحدة (متجه كثيف)، ثم يلخص تلك النوتات في "ملخص للقائمة".
- يستمر في القيام بذلك، لينشئ هيكلاً هرمياً:
- المستوى 1: ملخصات للوظائف الفردية (مثل "كيفية تقطيع البصلة").
- المستوى 2: ملخصات لملفات كاملة (مثل "محطة السلطات بأكملها").
- المستوى 3: ملخصات للمشروع بأكمله (مثل "جو المطعم العام").
- تتم هذه العملية بأكملها خارج وقت التشغيل (Offline). تُنفذ مرة واحدة، وتُخزن بعيداً، ولا تبطئ عملية الطهي الفعلية.
2. الطلب المباشر (Online): سحر "الرموز الزائفة" (Pseudo-Tokens)
الآن، يطلب أحد الزبائن طبقاً (يحتاج الذكال الاصطناعي لكتابة سطر برمجي).
- ينظر الشيف الرئيسي فيما يكتبه حالياً ويسأل مساعد الشيف: "ما الذي أحتاج لمعرفته من بقية المطعم لإنهاء هذا؟"
- يقوم المساعد فوراً بجلب أكثر "نوتات النكهة" صلة من ورقة الغش.
- الخدعة السحرية: بدلاً من تسليم الشيف 500 صفحة من النصوص، يحول المساعد تلك النوتات إلى 32 "رمزاً سحرياً" (Pseudo-tokens).
- تخيل أن هذه الرموز تشبه أكياس النكهات المركزة. يحتوي كل كيس على جوهر ملف كامل. لا يحتاج الشيف لقراءة الملف؛ بل يتذوق الكيس فقط ويعرف السياق فوراً.
3. النتيجة: سرعة ودقة
لأن الشيف يحتاج فقط لمعالجة 32 كيساً سحرياً بدلاً من آلاف الكلمات، تتم عملية الطهي في أجزاء من الثانية.
- السرعة: هي أسرع بـ 13 إلى 26 مرة من الطرق القديمة القائمة على الرسوم البيانية.
- الجودة: على الرغم من أن الشيف لا يقرأ الكتاب بأكمله، إلا أن "أكياس النكهة" غنية جداً بالمعلومات لدرجة أن الطبق يخرج بمذاق رائع تماماً كما لو أنه قرأ الكتاب كاملاً.
لماذا يعد هذا أمراً هاماً؟
- لا مزيد من قلق "نافذة السياق" (Context Window): لست بحاجة للقلق من نسيان الذكاء الاصطناعي للأشياء لأن "البرومبت" أصبح طويلاً جداً؛ فـ "ورقة الغش" تتولى إدارة الذاكرة.
- المتانة: إذا جلب المساعد كيس نكهة غير ذي صلة (سياق سيء)، فإن ذلك لا يفسد الطبق. النظام مصمم لتجاهل الضجيج، بينما كانت الطرق القديمة ترتبك بسببه.
- القابلية للتوسع: سواء كان المطعم مقهى صغيراً أو سلسلة فنادق ضخمة، فإن الشيف سيقرأ دائماً 32 كيساً فقط. حجم المشروع لن يبطئ عملية الطهي.
باخت ملخص
HEF يشبه الترقية من أمين مكتبة يسلمك كومة من 500 كتاب، إلى مساعد عبقري يقرأ جميع الكتب الـ 500، ويستخلص الحكمة منها في 32 ملاحظة لاصقة، ثم يسلمها إليك. ستحصل على كل المعرفة التي تحتاجها، فوراً، دون عناء قراءة المكتبة بأكملها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.