← أحدث الأبحاث
💬 NLP

You Need Better Attention Priors

تقدم هذه الورقة البحثية GOAT، وهي آلية انتباه مبتكرة تعمم الانتباه القياسي عبر استبدال مقدمته الموحدة الضمنية بمقدمة مستمرة قابلة للتعلم عبر النقل الأمثل الإنتروبي، مما يحل مشكلة "بالوعات الانتباه" (attention sinks) ويُمكّن من ترميز مكاني قابل للتعميم عبر الأطوال مع الحفاظ على التوافق مع النوى المحسنة مثل FlashAttention.

المؤلفون الأصليون: Elon Litman, Gabe Guo

نُشر 2026-08-25
📖 7 دقيقة قراءة🧠 قراءة متعمّقة

المؤلفون الأصليون: Elon Litman, Gabe Guo

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في المشهد الواسع للذكاء الاصطناعي الحديث، أصبح نوع معين من البرامج الحاسوبية يُعرف باسم "المحول" (Transformer) هو المحرك وراء بعض أكثر أنظمة اللغة والصور قدرة في الوجود. وفي قلب هذه الأنظمة تكمن آلية تسمى "الانتباه الذاتي" (self-attention)، والتي تسمح للبرمجيات بتقرير الأجزاء الأكثر أهمية من الجملة أو الصورة للتركيز عليها في أي لحظة معينة. تخيل قارئاً يتفحص وثيقة طويلة؛ الانتباه الذاتي هو العملية الذهنية التي تتيح له ربط ضمير مثل "هو" أو "هي" فوراً بالاسم المحدد الذي يشير إليه، أو ربط فعل بفاعله، بغض النظر عن عدد الكلمات التي تفصل بينهما. لسنوات، اعتمد المهندسون على مجموعة من القواعد المعيارية، والجامدة نوعاً ما، لتوجيه عملية التركيز هذه. تعمل هذه القواعد بشكل جيد في مواقف كثيرة، لكنها تعاني عندما يصبح النص طويلاً جداً أو عندما يواجه النظام أنماطاً لم يسبق له رؤيتها، مما يؤدي غالباً إلى الارتباك أو فقدان التركيز على المعلومات الأكثر أهمية.

اقترح فريق من الباحثين في جامعة ستانفورد تحولاً جوهرياً في كيفية عمل آلية التركيز هذه. فهم يقترحون أن القواعد القياسية تستند إلى افتراض خفي مفاده أن الكمبيوتر يجب أن يعامل كل كلمة أو جزء من صورة محتمل كأنه متساوٍ في احتمالية الأهمية قبل أن ينظر حتى إلى المحتوى. ويرى الباحثون أن هذه نقطة انطلاق تبسيطية. بدلاً من ذلك، طوروا طريقة جديدة تسمى "GOAT"، والتي تسمح للنظام بتعلم مجموعة توقعاته الخاصة حول أين ينظر. وبدلاً من إجبار الكمبيوتر على البدء بلوحة بيضاء، تسمح GOAT للنظام باكتشاف وتبني عادات هيكلية محددة، مثل الميل الطبيعي للالتفات إلى بداية الجملة أو إلى الكلمات الأخيرة، دون الارتباك بسبب المعنى الفعلي للكلمات نفسها.

يكمن جوهر هذا الاكتشاف في إعادة تصور الانتباه ليس مجرد عملية حساب بسيطة للتشابه، بل كعملية لتوزيع التركيز عبر تسلسل من العناصر. في النهج القياسي، يحاول النظام توزيع انتباهه بشكل متساوٍ قدر الإمكان ما لم يوحي المحتوى بخلاف ذلك. وجد الباحثون أن افتراض "التوزيع المتساوي" هذا هو ما يتسبب في فشل النظام عندما يكون المحتوى غامضاً أو عندما يكون التسلسل طويلاً للغاية. ومن خلال استبدال هذا الافتراض الموحد بدليل مرن وقابل للتعلم، تسمح الطريقة الجديدة للنظام بالحفاظ على تركيز مستقر حتى عندما تكون المعلومات شحيحة. وهذا أمر مهم بشكل خاص لظاهرة تُعرف باسم "بالوعات الانتباه" (attention sinks)، حيث تميل النماذج في المحادثات الطويلة إلى صب قدر كبير من انتباهها على عدد قليل من الرموز (tokens)، وغالباً ما يكون الرمز الأول، لمجرد أن النظام ليس لديه مكان آخر يضع فيه تركيزه. يوضح النهج الجديد هذا السلوك ليس كخلل، بل كنتيجة منطقية لكيفية توزيع النظام لانتباهه عندما يفتقر إلى إشارات واضحة، ويوفر طريقة للتحكم في هذا السلوك بشكل متعمد.

لاختبار فكرتهم، بنى الباحثون نظاماً يفصل القواعد الهيكلية للانتباه عن المعنى الفعلي للكلمات. في الطرق السابقة، كانت قواعد مكان النظر مرتبطة غالباً بمعنى الكلمات، مما جعل من الصيغ الصعبة على النظام التعميم على أطوال أو سياقات جديدة. الطريقة الجديدة تبقي هذين الأمرين متميزين. فهي تتعلم خريطة مستمرة من التوقعات التي يمكن تعديلها أثناء تدريب النظام. ويمكن لهذه الخريطة أن تلتقط أنماطاً معقدة، مثل تفضيل النظر إلى الكلمة التي تسبق الكلمة الحالية مباشرة، أو انحياز نحو بداية التسلسل، دون تشويه معنى الكلمات نفسها. وأظهر الباحثون أنه يمكن تنفيذ هذا النظام بكفاءة باستخدام نفس الرقائق الحاسوبية عالية السرعة التي تشغل النماذج اللغوية الكبيرة الحالية، دون الحاجة إلى ذاكرة أو قوة معالجة إضافية.

كانت نتائج تجاربهم مذهلة. فعندما دربوا النماذج على كميات هائلة من النصوص، تفوقت الطريقة الجديدة على التقنيات الموجودة في فهم التسلسلات الطويلة. وفي الاختبارات التي طُلب فيها من النماذج العثًور على قطعة محددة من المعلومات مخبأة في عمق سياق طويل — وهي مهمة تُسمى غالباً "إبرة في كومة قش" — حافظ النظام الجديد على دقة تقارب الكمال حتى عندما كان السياق أطول بعدة مرات مما رآه أثناء التدريب. في المقابل، بدأت الطرق الشائعة الأخرى التي تعتمد على قواعد ثابتة للتعامل مع المواقع في الفشل بسرعة مع زيادة طول النص. كما أظهر النظام الجديد أداءً فائقاً في نمذجة التسلسلات البيولوجية، مثل الحمض النووي (DNA)، وفي معالجة الصور، حيث تعلم التعامل مع العلاقات المكانية ثنائية الأبعاد دون الحاجة إلى إخباره بذلك صراحة.

كان أحد أهم النتائج هو كيفية تعامل النظام مع مشكلة "بالوعة الانتباه". في النماذج القياسية، غالباً ما يكون الميل للتركيز بشدة على الرمز الأول أثراً جانبياً لمحاولة النموذج فهم البيانات، وهو ما يمكن أن يتداخل أحيناً مع قدرته على معالجة معلومات جديدة. أظهر الباحثون أنه من خلال تعليم النظام صراحةً أن يكون لديه تركيز افتراضي على الرمز الأول كقاعدة هيكلية، يمكنهم في الواقع تحسين الاستقرار. سمح هذا للنموذج باستخدام الرمز الأول كمرساة موثوقة عندما يكون بقية النص غير واضح، دون إفساد تمثيل الكلمات الأخرى. هذا الفصل بين الهيكل والمعنى يعني أن النظام يمكنه التكيف مع الأطوال والسياقات الجديدة بسلاسة أكبر مما سبق.

استكشف الباحثون أيضاً كيف يتصرف هذا الأسلوب الجديد عندما تتغير بيانات المدخلات بطرق غير متوقعة. في إحدى التجارب، دربوا نموذجاً على تسلسلات قصيرة ثم اختبروه على تسلسلات أطول بـستة عشر مرة. وبينما تدهور أداء الطرق الأخرى بشكل كبير، استمر النظام الجديد في العمل بدقة عالية. يشير هذا إلى أن النظام قد تعلم مجموعة قوية من القواعد لتنظيم المعلومات يمكن تطبيقها في مواقف تتجاوز بكثير بيانات التدريب الخاصة به. إن القدرة على التعميم بهذا الشكل الفعال هي خطوة حاسمة نحو بناء ذكاء اصطناعي يمكنه التعامل مع الطبيعة المتغيرة وغير المحدودة للطول في التواصل البشري الواقعي.

وفي مجال رؤية الحاسوب، أثبتت الطريقة تعدد استخداماتها بشكل متساوٍ. فعند تطبيقها على مهام التعرف على الصور، تعلم النظام فهم العلاقات المكانية بين أجزاء مختلفة من الصورة. طور تفضيلاً للنظر إلى أجزاء الصورة القريبة، وهو نمط يحاكي كيفية مسح البشر للمشاهد البصرية طبيعياً. سمح هذا للنظام بالتعرف على الأشياء والمشاهد حتى عندما قُدمت الصور بدقة لم يسبق له رؤيتها، وهي قدرة يصعب تحقيقها غالباً في النماذج الأخرى دون إعادة تدريب مكثفة. وجد الباحثون أن النظام اكتشف تلقائياً هذه الانحيازات المكانية، مما يؤكد أن النهج لا يقتقتصر على النصوص ولكن يمكن تطبيقه على أي بيانات ذات بنية تسلسلية أو مكانية.

كما قدم هذا العمل فهماً نظرياً أوضح لسبب ظهور سلوكيات معينة في النماذج اللغوية الكبيرة. من خلال صياغة الانتباه كعملية موازنة بين المحتوى والتوقعات المتعلمة، استطاع الباحثون تفسير سبب معاناة النماذج أحياناً مع السياقات الطويلة وكيفية إصلاح ذلك. وأوضحوا أن عدم الاستقرار الذي يظهر غالباً في هذه الأنظمة ليس عيباً متأصلاً في البنية، بل هو نتيجة لاستخدام نقطة انطلاق ثابتة وغير معلوماتية. ومن خلال السماح للنظام بتعلم نقطة انطلاقه الخاصة، خلقوا أساساً أكثر استقراراً وموثوقية للنماذج المستقبلية.

لا يدعي هذا البحث حل كل مشكلات الذكاء الاصطناعي، ولكنه يقدم أداة قوية لبناء أنظمة أكثر قوة. الطريقة مصممة لتكون بديلاً مباشراً لآليات الانتباه المستخدمة حالياً في النماذج المتطورة، مما يعني إمكانية دمجها في البرمجيات الحالية بأقل قدر من التغييرات. وقد أتاح المؤلفون الكود الخاص بهم، مما يسمح لباحثين آخرين باختبار نتائجهم والبناء عليها. ومع انتقال المجال نحو نماذج يمكنها التعامل مع سياقات أطول ومهام أكثر تعقيداً، فإن القدرة على التحكم في كيفية توزيع الانتباه وفهمه ستصبح على الأرجح مطلباً معيارياً. يوفر النهج الجديد طريقة للقيام بذلك بمرونة ودقة أكبر من أي وقت مضى، مما يمهد الطريق لأنظمة ليست فقط أكثر ذكاءً، بل أيضاً أكثر استقراراً وموثوقية في تفكيرها.

إن تداعيات هذا العمل تمتد إلى ما هو أبعد من مجرد جعل النماذج أفضل في القراءة أو الرؤية. فهو يقدم منظوراً جديداً حول كيفية تعلم الآلات لتنظيم المعلومات. من خلال معاملة قواعد الانتباه كشيء يمكن تعلمه وتحسينه، بدلاً من شيء يجب على المهندسين برمجته يدوياً، فتح الباحثون الباب أمام أنظمة يمكنها تكييف هياكلها الداخلية مع متطلبات المهمة المحددة. هذا التحول من القواعد الجامدة إلى التعلم المرن هو خطوة كبيرة للأمام في تطوير الذكاء الاصطناعي، مما يقربنا من أنظمة يمكنها التنقل في تعقيدات العالم الحقيقي بنفس السهولة التي يفعلها البشر. وتشير النتائج إلى أن المفتاح لبناء آلات أكثر قدرة قد لا يكمن في جعلها أكبر حجماً، بل في منحها طرقاً أفضل لتركيز انتباهها.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →