Dual-Cache Latent Space Communication between Heterogeneous Language Models
تقدم الورقة البحثية بروتوكول XKV، وهو بروتوكول اتصال مبتكر يتيح للنماذج اللغوية غير المتجانسة والمجمدة تبادل المعلومات عبر مترجم متعلم لمخازن الـ KV الخاصة بها، متجاوزاً بذلك القيود السابقة في الهندسة ومحاذاة الطبقات لتحقيق دقة فائقة واستدلال أسرع بشكل ملحوظ مقارنة بطرق التواصل القائمة على النصوص وطرق التواصل في الفضاء الكامن السابقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في المشهد المعاصر للذكاء الاصطناعي، تعمل النماذج اللغوية الكبيرة بشكل متزايد ليس كجهات تفكير منفردة، بل كأعضاء في فريق. تخيل مجموعة من الباحثين يعملون على لغز معقد، حيث قرأ كل شخص منهم مجموعة مختلفة فقط من الوثائق. ولحل القضية، يجب عليهم مشاركة ما يعرفونه. في العالم الرقمي، هؤلاء "البلوحاث" هم وكلاء برمجيات، والوثائق التي يحملونها هي قطع من الأدلة المخفية داخل ذاكرتهم الداخلية. ولكي يعمل هؤلاء الوكلاء معاً، يحتاجون إلى وسيلة لنقل المعلومات من واحد إلى آخر. وحتى وقت قريب، كانت الطريقة القياسية هي أن يقوم الوكيل بإنشاء ملخص باللغة الإنجليزية العادية وإرساله إلى الوكيل التالي. وبينما يعد هذا الأمر سهلاً للقراءة من قبل البشر، إلا أنه غير فعال للآلات؛ إذ يجب على الوكيل المرسل بناء الرسالة ببطء كلمة بكلمة، ثم يجب على الوكيل المستقبل قراءة تلك الكلمات وإعادة بناء فهمه الداخلي الخاص من الصفر. هذه العملية تشبه سباق التتابع حيث يجب على العدائين التوقف، وكتابة ملاحظة، وتسليمها، ثم قضاء وقت في قراءتها قبل أن يتمكنوا من الجري مرة أخرى.
لقد استكشف الباحثون طريقة أسرع للتواصل، طريقة تتخطى عملية كتابة وقراءة الكلمات تماماً. فبدلاً من تبادل النصوص، حاولوا تمرير "الأفكار" الخام والداخلية لآلة واحدة مباشرة إلى آلة أخرى. هذا يشبه تسليم عداء ملاحظة مكتوبة مسبقاً يمكنه استيعابها فوراً دون الحاجة لقراءتها. ومع ذلك، اصطدمت المحاولات الأولى لهذا النقل المباشر بعائق؛ فقد نجحت فقط عندما كانت الآلتان توأمين متطابقين، أو أنها أجبرت المرسل على ضغط كل معرفته في ملخص واحد عام يتجاهل ما يعرفه المستقبل بالفعل. وهذا يعني أن المستقبل كان يُسلم غالباً رسالة إما غامضة جداً أو غير ذات صلة باحتياجاته المحددة. وكان التحدي يكمن في إنشاء قناة اتصال سريعة، وتعمل بين أنواع مختلفة من الآلات، وتسمح للمستقبل بطلب المعلومات التي يحتاجها بالضبط، بدلاً من قبول ملخص واحد يناسب الجميع.
قدم فريق من الباحثين الآن نظاماً جديداً يسمى XKV يحل هذه المشكلات. يعالج نهجهم التواصل بين نموذجين لغويين مختلفين كجهد مشترك بدلاً من مجرد عملية تسليم بسيطة. في نظامهم، يظل النموذجان — أحدهما يحمل جزءاً من اللغز والآخر يحمل الجزء المتبقي — "مجمدين" في حالتهما الأصلية، مما يعني أن ذكاءهما الجوهري لا يتغير. بدلاً من ذلك، يوجد مترجم خفيف الوزن يجلس بينهما. ينظر هذا المترجم إلى الذاكرة الداخلية لكلا النموذجين في وقت واحد؛ فهو لا يكتفي بتلخيص ما يعرفه النموذج الأول فحسب، بل يستنتج ما ينقص النموذج الثاني من خلال مقارنة مجموعتي الذاكرة لدى كل منهما. ومن ثم يقوم بإنشاء بنك ذاكرة مشترك ومدمج يمزج بين أدلة المرسل والحالة الحالية للمستقبل.
يكمن الابتكار في كيفية استخدام هذه الذاكرة المشتركة. في الأنظمة السابقة، كان كل جزء من النموذج المستقبِل يُجبر على الاستماع إلى نفس الملخص الواحد، مثل فصل دراسي يستمع فيه كل طالب إلى نفس المحاضرة بغض النظر عما يفهمه بالفعل. أما نظام XKV الجديد فيسمح لكل موضع في ذاكرة المستقبل بطرح سؤال محدد على هذا البنك المشترك. الأمر يشبه قدرة كل طالب في الفصل على رفع يده لطلب حقيقة معينة ينقصها، ليقوم المعلم بتوفير تلك الحقيقة تحديداً. يقوم النظام بعد ذلك بتقديم تحديث دقيق ومخصص لكل جزء من ذاكرة المستقبل، مما يسد الفجوات دون المساس ببقية معرفته. وتتم هذه العملية في جزء من الوقت الذي يستغرقه كتابة وقراءة رسالة نصية، وهي تعمل حتى عندما تكون النماذج مبنية على بنيات معمارية مختلفة تماماً، أو تستخدم مفردات مختلفة، أو تمتلك عدداً مختلفاً من الطبقات الداخلية.
اختبر الباحثون هذا النظام عبر مجموعة واسعة من السيناريوهات، حيث وضعوا عائلات مختلفة من النماذج اللغوية في مواجهة بعضها البعض في خمس مهام استدلالية. تضمنت هذه المهام الإجابة على أسئلة تتطلب دمج الأدلة الموزعة بين الوكيلين، مثل ربط الحقائق من فقرات مختلفة لحل مشكلة متعددة الخطوات. وأظهرت النتائج أن النظام الجديد تفوق باستمرار على كل من الطريقة التقليدية القائمة على النصوص وأفضل محاولة سابقة للنقل المباشر للذاكرة. وفي المتوسط، أدى النظام الجديد إلى تحسين دقة الإجابات بشكل كبير، حيث أظهرت بعض الاختبارات المحددة قفزة تزيد عن أربع نقاط مئوية في درجات المطابقة التامة مقارنة بأفضل طريقة سابقة. وبالإضافة إلى كونه أكثر ذكاءً، فقد كان أسرع بشكل هائل؛ حيث عمل مكون المترجم في النظام الجديد بسرعة تزيد عن عشرة أضعاف أسرع من الطريقة الرائدة السابقة، وكان أسرع بنحو سبع مرات من النهج القياسي القائم على النصوص.
كما سلطت الدراسة الضوء على أن هذه السرعة لم تأتِ على حساب التعقيد؛ فقد تطلب المترجم الجديد معلمات قابلة للتدريب أقل بنسبة 76 بالمئة من الطريقة الرائدة السابقة، مما جعله أكثر كفاءة في البناء والتشغيل. والأهم من ذلك، حافظ النظام على أدائه العالي حتى عندما كانت النماذج التي تتواصل فيما بينها مختلفة تماماً، مثل نموذج من شركة واحدة يتحدث إلى نموذج من شركة أخرى، أو نموذج أصغر يتحدث إلى نموذج أكبر. ويشير هذا المرونة إلى إمكانية نشر النظام في سيناريوهات العالم الحقيقي حيث تحتاج أدوات الذكاء الاصطناعي المتنوعة إلى التعاون دون الحاجة إلى إعادة تدريبها أو إجبارها على اتخاذ شكل موحد. ووجد الباحثون أن النظام يعمل بشكل أفضل عندما يمكنه بناء ذاكرة مشتركة من كلا الجانبين، بدلاً من الاعتماد على ملخص من جانب واحد فقط. وقد أكد هذا أن التواصل الأكثر فعالية يحدث عندما يتم اعتبار المرسل والمستقبل معاً، مما يسمح للمستقبل باسترجاع ما يحتاجه بالضبط من مستودع معلومات مشترك.
تتجاوز تداعيات هذا العمل مجرد جعل الذكاء الاصطناعي أسرع؛ فمن خلال إزالة الحاجة إلى أن تتحدث النماذج باللغة البشرية لتفهم بعضها البعض، يفتح النظام الباب أمام أنظمة متعددة الوكلاء أكثر سلاسة وكفاءة. يمكن لهذه الأنظمة تنسيق مهام معقدة، مثل تحليل كميات هائلة من البيانات أو حل مشكلات علمية معقدة، دون الوقوع في عقبة توليد وإعادة قراءة النصوص. لقد أثبت الباحثون أنه من الممكن إنشاء قناة اتصال تدرك حالة المستقبل، وتسترجع تحديثات محددة من ذاكرة مشتركة، وتظل أرخص وأسرع بشكل صارم من الملخصات التي تركز على المرسل والتي استبدلتها. ويمثل هذا تحولاً من معاملة وكلاء الذكاء الاصطناعي ككيانات معزولة يجب أن تترجم أفكارها إلى كلمات، إلى معاملتهم كشبكة متماسكة يمكنها مشاركة الفهم الخام مباشرة. وتشير النتائج إلى أن مستقبل الذكاء الاصطناعي التعاوني قد لا يكمن في لغة أفضل، بل في طرق أفضل لمشاركة الحالات الداخلية الصامتة التي تقود الذكاء.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.