Optimizing Retrieval-Augmented Generation for Privacy-Preserving Local Cognitive Agents Using Small Language Models
تقدم هذه الورقة FRIDAY، وهو إطار عمل مُحسَّن لتوليد النصوص المعزز بالاسترجاع (RAG)، صُمم لتمكين الوكلاء المعرفيين المحليين بكفاءة مع الحفاظ على الخصوصية من خلال معالجة قيود الموارد وتحديات الأداء المحددة لنشر نماذج اللغات الصغيرة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العصر الحديث للذكاء الاصطناعي، أحدثت البرامج الحاسوبية القوية المعروفة بنماذج اللغات الكبيرة تحولاً في كيفية تفاعلنا مع التكنولوجيا. يمكن لهذه الأنظمة القراءة والكتابة والاستنتاج بطلاقة تشبه طلاقة البشر، لكنها عادة ما تعيش في مراكز بيانات ضخمة بعيدة عن المستخدم. ولطرح سؤال ما، يجب على الجهاز إرسال رسالة عبر الإنترنت إلى هذه الخوادم البعيدة، وانتظار الرد، ثم استقبال الإجابة. تثير هذه العملية مخاوف بشأن الخصوصية، حيث تنتقل المعلومات الشخصية الحساسة عبر الشبكات العامة، كما أنها تسبب تأخيرات عندما تكون اتصالات الإنترنت بطيئة أو غير متوفرة. ولحل هذه المشكلة، اتجه الباحثون إلى نسخ أصغر وأكثر كفاءة من هذه النماذج التي يمكنها العمل مباشرة على حاسوب الشخص أو هاتفه. ومع ذلك، فإن هذه النماذج الأصغر لديها نقطة ضعف كبيرة: فهي لا تعرف بقدر ما تعرف نظيراتها الأكبر، لأنها لا تستطيع تخزين كميات هائلة من المعلومات في ذاكرتها الخاصة. ولإصلاح ذلك، يستخدم العلماء تقنية تسمى "التوليد المعزز بالاسترجاع". تعمل هذه الطريقة مثل أمين مكتبة لا يحفظ كل كتاب عن ظهر قلب، بل يحتفظ بمكتبة قريبة منه؛ فعند طرح سؤال، يبحث النظام بسرعة في المكتبة المحلية عن الصفحات الأكثر صلة، ويقدمها للنموذج الأصغر، ويطلب منه كتابة إجابة بناءً على تلك المعلومات الجديدة. وهذا يسمح لحاسوب صغير وخاص بالإجابة على أسئلة معقدة دون الحاجة أبداً للاتصال بالعالم الخارجي.
لقد أخذ باحث يدعى سيدهانت بارجاني من جامعة سانجيفاني في الهند هذا المفهوم وبنى نظاماً يعمل بالكامل لاختبار مدى إمكانية تحسينه للاستخدام المحلي. المشروع، الذي يحمل اسم FRIDAY، هو مساعد رقمي مصمم ليعمل بالكامل على جهاز كمبيوتر مكتبي واحد دون أي اتصال بالسحابة. لم يكن الهدف مجرد بناء مثل هذا النظام، بل ضبط كل جزء من محركه بعناية لضمان سرعته ودقته وأمانه. بدأ الباحث بتغذية النظام بمجموعة من اثني عشر وثيقة تقنية، يبلغ مجموعها أربع وستين صفحة، والتي كانت بمثابة المكتبة المحلية. قرأ الكمبيوتر هذه الوثائق، وقسمها إلى ثمانمائة وثلاث وأربعين قطعة نصية أصغر، وحول كل قطعة إلى تمثيل رياضي يلتقط معناها. تم تخزين هذه التمثيلات في قاعدة بيانات محلية، مما خلق فهرساً معرفياً قابلاً للبحث يعيش فقط على الآلة.
تضمن جوهر البحث اختبار طرق مختلفة للعثور على المعلومات الصحيحة بسرعة. تم إعداد النظام ليأخذ سؤال المستخدم، ويحوله إلى تمثيل رياضي مشابه، ثم يبحث في المكتبة المحلية عن قطع النص الأكثر تطابقاً. اختبر الباحث عدد قطع النص التي يجب أن يسترجعها النظام في المرة الواحدة. وتبين أن جلب الكثير من القطع لا يجعل الإجابة أفضل بالضرورة؛ بل إنه في الواقع، يضيف أحياناً ضوضاء غير ضرورية تربك النموذج الأصغر. ومن خلال التجريب بأعداد مختلفة، تعلم النظام استرجاع القدر المناسب تماماً من المعلومات للإجابة على السؤال بوضوح. أظهرت الاختبارات أن الكمبيوتر يمكنه العثور على النص ذي الصلة في أقل من ثلاثة مللي ثانية، بينما استغرقت خطوة تحويل السؤال إلى صيغة بحث حوالي عشرين مللي ثانية. أثبت هذا أن عملية البحث كانت سريعة للغاية، وأن الوقت المستغرق في انتظار الإجابة كان ناتجاً في الغالب عن تفكير الكمبيوتر في السؤال وليس البحث عن الإجابة.
كان جزء حاسم من المشروع هو ضمان بقاء النظام آمناً وخاصاً. ولأن العملية برمتها تحدث على جهاز المستخدم، فإن أي بيانات لا تغادر الغرفة أبداً. وللحماية من المحاولات الخبيثة لخداع الكمبيوتر للكشف عن تعليماته الداخلية أو تجاهل قواعد السلامة الخاصة به، يتضمن النظام طبقة أمنية تتحقق من كل سؤال قبل الإجابة عليه. اختبر الباحث ذلك من خلال محاولة تغذية النظام بأوامر مخادعة مصممة لكسر قواعده. نجح النظام في حظر هذه المحاولات، رافضاً معالجة التعليمات الضارة مع الاستمرار في الإجابة على الأسئلة العادية دون تأخير. أثبت هذا أنه من الممكن امتلاك مساعد ذكي ومفيد وفي نفس الوقت يكون خزنة آمنة للمعلومات الخاصة. أظهرت النتائج النهائية أن النظام يمكنه معالجة المجموعة الأولية من الوثائق بمعدل يقارب سبع وعشرين قطعة نصية في الثانية وتوليد استجابات دقيقة ومستندة إلى الحقائق في أقل من ثانية.
تخلص الدراسة إلى أنه من الممكن تماماً بناء مساعد متطور قائم على المعرفة يعمل محلياً على أجهزة قياسية. لم يدعِ البحث أنه حل كل مشكلة أو أنشأ نظاماً مثالياً، لكنه وضع خط أساس واضح لكيفية أداء هذه الأنظمة المحلية. ووجد أن الجزء الأكثر استهلاكاً للوقت في العملية هو فهم السؤال، وليس العثور على الإجابة، وأن استرجاع الكثير من المعلومات يمكن أن يضر بالفعل بجودة الاستجابة. ومن خلال الاختيار الدقيق لكمية المعلومات التي يتم استرجاعها وضمان دمج فحوصات الخصوصية مباشرة في سير العمل، يثبت نموذج FRIDAY الأولي أنه يمكن للمستخدمين الحصول على أدوات ذكية وواعية بالسياق تحترم بياناتهم ولا تعتمد على خوادم بعيدة. يوفر هذا العمل أساساً عملياً للجيل القادم من الذكاء الاصطناعي الشخصي، موضحاً أن الذكاء القوي يمكن أن يوجد مباشرة على المكتب، جاهزاً للمساعدة دون الحاجة أبداً لمغادرة الغرفة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.