Divergence Decoding: Training-Free Capability Fusion
يُعد "فك التشفير بالتباعد" (Divergence Decoding) إطار عمل لا يتطلب تدريباً، يقوم بدمج الخبرة المعرفية للنماذج المتخصصة مع القدرة على الاستنتاج المنطقي للنماذج العامة ديناميكياً عبر استخدام تباعد "جنسن-شانون" لتوجيه توليد الرموز بشكل تكيفي، مما يجعله يتفوق على النماذج المرجعية أحادية النموذج في الاختبارات المعيارية العلمية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك صديقين عبقريين يستعدان لخوض امتحان ضخم وصعب. الصديقة الأولى، ولنسمّها "المتخصصة"، قد حفظت كل حقيقة في كتاب الكيمياء؛ فهي تعرف أسماء كل جزيء والصيغة الدقيقة لكل تفاعل. ومع ذلك، فإنها أحياناً تغرق في التفاصيل لدرجة أنها تنسى التفكير بمنطق، فتتعثر في الخطوات اللازمة لحل لغز معقد. أما صديقها الآخر، "العام"، فهو بارع في المنطق والاستدلال؛ يمكنه استنتاج الخطوات اللازمة لحل أي مشكلة تقريباً، لكنه لا يعرف الأسماء أو الحقائق العلمية المحددة، وقد يخمن المكون الخاطئ لأنه لم يره من قبل.
لفترة طويلة، ظل العلماء عالقين في محاولة الاختيار بين هذين الصديقين. إذا كنت بحاجة إلى إجابة لسؤال كيميائي، فعادة ما يتعين عليك اختيار أحدهما فقط. ولكن ماذا لو استطعت جعلهما يعملان معاً في الوقت الفعلي؟ ماذا لو استطعت جعل "المتخصصة" تكتب الإجابة، بينما يقف "العام" بجانبها مباشرة، هامساً لها: "انتظري، هذه الخطوة لا تبدو منطقية"، ويقوم بالتدخل لإصلاحها عند الضرورة فقط؟ هذه هي الفكرة الجوهرية وراء طريقة جديدة تسمى "فك التشفير التباعدي" (Divergence Decoding). إنها وسيلة لدمج المعرفة العميقة للمتخصصة مع المنطق الحاد للعام دون الحاجة لتعليمهم أي شيء جديد أو تدريبهم معاً.
المشكلة: معضلة "الذكي لكن المتعثر" مقابل "المنطقي لكن الجاهل"
في عالم الذكاء الاصطناعي، لدينا نوعان رئيسيان من "الأدمغة". الأول هو نماذج اللغات الكبيرة العامة (LLMs)؛ وهي تشبه الموسوعات الشاملة للإنترنت، فهي بارعة جداً في الاستدلال، واتباع سلاسل طويلة من المنطق، والتعافي من الأخطاء، ويمكنها التحدث عن أي شيء تقريباً. ومن ناحب آخر، هناك النماذج المتخصصة في المجال؛ وهم الخبراء، فقد تم تدريبهم خصيصاً على العلوم مثل الكيمياء أو الأحياء، ويعرفون المصطلحات والحقائق أفضل من أي شخص آخر.
المشكلة هي أن أياً منهما ليس مثالياً بمفرده. فقد يكون "العام" منطقياً تماماً ولكنه يخطئ في العلم لافتقاره إلى الحقائق المحددة. بينما "المتخصصة" تعرف الحقائق ولكنها غالباً ما تفقد تسلسل تفكيرها المنطقي، مما يؤدي لارتكاب أخطاء سخيفة في منتصف شرح معقد. أراد العلماء معرفة: هل يمكننا دمج هاتين القوتين في اللحظة التي يفكر فيها الكمبيوتر، للحصول على أفضل ما في العالمين؟
الحل: رقصة "بوابة JS" و"المسودة والتحقق"
لقد ابتكر مؤلفو هذه الورقة البحثية، من جامعة بكين ومؤسسات أخرى، خدعة ذكية لا تتطلب تدريباً تسمى "فك التشفير التباعدي" (Divergence Decoding). فكر في الأمر كأنه لعبة "الهاتف المكسور" عالية السرعة يلعبها شخصان، ولكن مع إضافة مميزة.
عادةً، عندما يكتب الكمبيوتر نصاً، فإنه يخمن الكلمة التالية واحدة تلو الأخرى. في هذه الطريقة الجديدة، تأخذ "المتخصصة" (خبيرة الكيمياء) زمام المبادرة؛ فهي تقوم بـ "مسودة" بضع كلمات للأمام، مثل كاتب يدون جملة بسرعة. ولكن قبل كتابة تلك الكلمات رسمياً، يقوم "العام" (خبير المنطق) بفحصها.
وهنا يكمن السحر: النظام لا يسأل فقط، "هل وافق العام على الكلمة؟"، بل يسأل: "ما مدى اختلاف أفكارهما؟". إنه يستخدم أداة رياضية تسمى "تباعد جينسن-شانون" (Jensen-Shannon divergence). يمكنك التفكير في هذا كـ "مقياس للخلاف".
- خلاف منخفض (الضوء الأخضر): إذا كان تفكير المتخصصة والعام متشابهاً تقريباً حول الكلمة التالية، يفترض النظام أن المتخصصة على حق، فيقبل الكلمة ويمضي قدماً. هذا يحافظ على دقة الحقائق العلمية.
- خلاف مرتفع (الضوء الأحمر): إذا كانت توقعات النموذجين مختلفتين تماماً، فإن النظام يعتبر ذلك علامة تحذير. وهذا يعني أن المتخصصة قد تكون على وشك ارتكاب خطأ منطقي. في هذه الحالة، ينقل النظام السيطرة فوراً إلى "العام"، الذي يختار كلمة أفضل للحفاظ على مسار المنطق.
يحدث هذا على مستوى الكلمات الفردية (الرموز/tokens)، آلاف الممرات في الثانية، مما يخلق حواراً سلساً حيث تقدم المتخصصة الحقائق ويقدم العام شبكة الأمان.
ما وجدوه: تأثير "أ + ب > أ"
اختبر الباحثون هذه الفكرة على بعض الألغاز الكيميائية والعلمية الصعبة، بما في ذلك معايير مثل ChemBench و ChemCoTBench و GPQA. وقد قاموا بربط نماذج مختلفة، مثل سلاسل Qwen و Llama، لمعرفة ما إذا كان هذا "الاندماج" قد نجح.
كانت النتائج مثيرة للحماس. فقد تفوق النظام المدمج (Divergence Decoding) باستمرار على كل من المتخصصة والعام بمفردهما.
- في المهام الكيميائية التي تتضمن فهم الجزيئات وتحريرها، سجل النموذج المدمج درجة أعلى من كلا النموذجين اللذين يعملان بمفردهما.
- على سبيل المثال، في مهمة تسمى "نظام الحلقة الهيكلي" (تحديد هياكل الحلقات المعقدة في الجزيئات)، حقق النموذج المدمج درجة 0.70، متفوقاً على المتخصصة التي حصلت على 0.58 وعلى العام الذي حصل على 0.67.
- وفي أسئلة الكيمياء الصعبة من نوع GPQA (الأسئلة والأجوبة بمستوى الدراسات العليا التي لا يمكن الوصول إليها عبر جوجل)، حقق النموذج المدمج دقة بلغت 37.50%، بينما حققت المتخصصة 15.28% فقط، وحقق العام 23.61%.
يشير هذا إلى أنه من خلال السماح للنموذجين بالتعاون، فإنهما يخلقان "عقلاً فائقاً" أكثر ذكاءً من مجموع أجزائهما.
"متى" و"أين" يحدث السحر
نظرت الورقة البحثية أيضاً بدقة في متى يحدث هذا التبديل. ووجدوا أن النظام يتدخل غالباً في بداية الإجابة (أول 0% إلى 25% من النص). هذا هو الوقت الذي يتم فيه وضع مسار الاستدلال. إذا بدأت المتخصصة في مسار منطقي خاطئ مبكراً، يتدخل "العام" لتصحيح الاتجاه قبل أن ينتشر الخطأ.
ومن المثير للاهتمام أن الكلمات التي يتم استبدالها غالباً ما لا تكون المصطلحات العلمية الصعبة (مثل "بنزين" أو "محفز")، بل هي الكلمات الرابطة والعبارات المنطقية (مثل "لذلك"، "ومع ذلك"، أو "بمجرد التعرف على هذه الميزات"). وهذا يوضح أن المهمة الرئيسية لـ "العام" هي الحفاظ على استقامة منطق القصة، بينما تملأ "المتخصصة" الفراغات بـ الحقائق.
ما ليس عليه (وما ليس جزءاً منه)
من المهم ملاحظة ما لا تعتبره هذه الطريقة. إنها ليست "التشفير التكهني" (Speculative Decoding)، وهو تقنية شائعة تُستخدم لجعل الذكاء الاصطناعي أسرع. يحاول التشفير التكهني تخمين الكلمة التالية لتسريع العملية مع التظاهر بأنه نموذج واحد. أما "فك التشفير التباعدي" فلا يهتم بالسرعة؛ بل يهتم بـ الجودة. فهو يغير الإجابة بنشاط لتكون أفضل، حتى لو كان ذلك يعني أن الكمبيوتر سيحتاج للتفكير بجهد أكبر قليلاً.
أيضاً، تشير الورقة إلى أن هذا يعمل لأن النموذجين يرتكبان أنواعاً مختلفة من الأخطاء. فعندما يختلفان، يكون ذلك عادةً إشارة إلى أن المتخصصة تعاني من مشكلة في المنطق، وليس لأن "العام" مرتبك. يستخدم النظام هذا الاختلاف كإشارة لتبديل التروس.
الخلاصة
يعد "فك التشفير التباعدي" طريقة جديدة لبناء ذكاء اصطناٍ أكثر ذكاءً دون الحاجة لقضاء شهور في تدريب نموذج ضخم جديد. إنه ببساطة يأخذ خبيراً ومنطقياً، ويجعلهما يتحدثان معاً، ويستخدم "مقياس اختلاف" ليقرر من سيتحدث تالياً. وتشير النتائج إلى أن هذه الخدعة البسيطة التي لا تتطلب تدريباً يمكن أن تخلق نظاماً أكثر موثوقية ودقة من أي من النموذجين بمفرده، مما يوفر مساراً واعداً لبناء أدوات ذكاء اصطناعي أفضل للعلوم والاكتشاف.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.