Do Language Models Converge to Themselves? Recursive Self-Refinement as Textual Relaxation
تُثبت هذه الورقة أن التحسين الذاتي المتكرر في النماذج اللغوية الكبيرة يعمل كعملية ديناميكية حيث يتقارب النص بسرعة نحو توازن مستقر يفضله النموذج، ويتميز بتضاؤل أسي في مقدار التعديل، بدلاً من الخضوع لعملية تحسين غير محدودة.
تخيل أن لديك محررًا سحريًا فائق الذكاء يمكنه إعادة كتابة أي شيء تكتبه لجعله أكثر وضوحًا وأفضل حالًا. تعطيه مسودة، فيخرج لك نسخة مصقولة، فتفكر: "رائع! لنفعل ذلك مجددًا!" لذا تعيد النسخة الجديدة إلى نفس المحرر، الذي يقوم بتعديلها مرة أخرى. تستمر في فعل هذا، مرارًا وتكرارًا، آملًا أن تجعل النص مثاليًا بشكل لا نهائي. هذا هو عالم النماذج اللغوية الكبيرة (LLMs)، وهي العقول الاصطناعية التي تقف وراء العديد من برامج الدردشة وأدوات الكتابة الحديثة. يطلق العلماء على هذه العملية اسم "التحسين الذاتي المتكرر". ولكن إليك السؤال الكبير: هل يستمر هذا الحلقة اللانهائية في جعل الأشياء أفضل للأبد، مثل شخصية في لعبة فيديو ترتقي بمستواها بلا نهاية؟ أم أن النص سيصطدم في النهاية بجدار حيث يبدأ الذكاء الاصطناعي في إجراء تغييرات طفيفة وغير ذات جدوى، مثل محرك سيارة يعمل في وضع الخمول؟ لفهم هذا، نحتاج إلى النظر في الأنظمة الديناميكية، وهو فرع من العلوم يدرس كيفية تغير الأشياء بمرور الوقت، وفكرة النقطة الثابتة، وهي حالة يتوقف فيها النظام عن التغير لأنه وجد "منطقة الراحة" الخاصة به.
قرر فريق من الباحثين معاملة عملية تحرير الذكاء الاصطناعي هذه كأنها تجربة علمية لمعرفة ما يحدث عندما تترك ذكاءً اصطناعيًا يحرر عمله الخاص بشكل متكرر. لم يكتفوا بسؤال: "هل النتيجة النهائية جيدة؟" بل سألوا: "كيف يتحرك النص أثناء تحريره؟" لقد عاملوا النص كأنه كرة تتدحرج على تلة. هل ستستمر في التدحرج للأبد، أم أنها ستستقر في النهاية في وادٍ؟
استخدم الباحثون نموذج ذكاء اصطناعي قوي لإعادة كتابة 50 ملخصًا علميًا (ملخصات قصيرة لأوراق بحثية) عشر مرات متتالية. وراقبوا عن كثب كيف تغير النص مع كل إعادة كتابة. ووجدوا أن الذكاء الاصطناعي لم يستمر في تحسين النص للأبد؛ بل إن التغييرات حدثت بسرعة في البداية، ثم استقر النص بسرعة. الأمر يشبه عندما تبدأ للتو في ضبط دوزان غيتار؛ تقوم بتعديلات كبيرة وواضحة لوضع الأوتار في مكانها الصحيح. ولكن بعد بضع دورات من تدوير المفتاح، يصبح الوتر قريبًا جدًا من النغمة الصحيحة لدرجة أنك تقوم فقط بتعديلات صغيرة غير مرئية تقريبًا. يطلق الباحثون على هذا الاستقرار اسم "الاسترخاء النصي".
إليكم ما اكتشفوه بالتفصيل:
التوقف السريع: أجرى الذكاء الاصطناعي معظم تغييراته في الجولات الأولى. وبحلول الوقت الذي وصل فيه إلى إعادة الكتابة الثالثة أو الرابعة، كان النص مستقرًا للغاية. بعد ذلك، كان الذكاء الاصطناعي يكتفي فقط بالعبث بالتفاصيل الصغيرة مثل الفواصل أو الوصلات.
الهبوط "الناعم": لم يتوقف النص عن التغيير تمامًا (مما يعني "توقفًا دقيقًا"). بدلاً من ذلك، دخل في "منطقة نقطة ثابتة ناعمة". وهذا يعني أن النص كان جيدًا لدرجة أن الذكاء الاصطناعي لم يستطع حقًا إيجاد نسخة أفضل، فقام فقط بإجراء تموجات سطحية صغيرة.
رياضيات الاستقرار: اتبع حجم التغييرات نمطًا يمكن التنبؤ به للغاية يسمى "الاسترخاء الأسي". تخيل كوبًا من القهوة الساخنة يبرد؛ فهو يبرد بسرعة في البداية، ثم يتباطأ مع اقترابه من درجة حرارة الغرفة. فعلت التغييرات في النص الشيء نفسه تمامًا؛ فقد انخفض مقدار التحرير بشكل حاد ثم استقر بالقرب من "أرضية" ضئيلة من التغييرات الصغيرة.
درجة الحرارة تفرق: اختبر الباحثون إعدادين. عندما ضبطوا الذكاء الاصطناعي ليكون صارمًا وحتميًا للغاية (درجة حرارة 0)، فقد توقف عن التغيير تمامًا ووجد "نقطة ثابتة دقيقة" بسرعة (في المتوسط، في 2.6 جولة فقط). وعندما تركوا الذكاء الاصطناعي أكثر إبداعًا وعشوائية (درجة الحرارة الافتراضية)، فإنه استقر أيضًا، لكنه استمر في التموج قليلاً، واستغرق وقتًا أطول للتوقف عن الحركة.
إنه يتحسن بالفعل: هناك قلق شائع وهو أنه إذا توقف النص عن التغيير، فإن الذكاء الاصطناعي عالق وليس في طور التحسن. لكن الباحثين تحققوا من ذلك باستخدام حكم خارجي (ذكاء اصطناعي آخر). ووجدوا أن النسخ النهائية كانت بالفعل أكثر وضوحًا وإيجازًا وأفضل كتابة من النسخ الأصلية، رغم أن الذكاء الاصطناعي توقف عن إجراء تغييرات كبيرة. لم يكن "التوقف" بسبب استسلام الذكاء الاصطناعي، بل لأنه وجد أفضل نسخة يمكنه صنعها.
حاول الباحثون أيضًا القيام بذلك على أوراق قديمة من عام 2020، وحدث الشيء نفسه. لقد استقر الذكاء الاصطناعي بسرعة بغض النظر عن سنة صدور الورقة.
إذًا، ماذا يعني هذا بالنسبة لنا؟ يشير هذا إلى أنه عندما نستخدم الذكاء الاصطناعي لإعادة كتابة عملنا، فنحن لسنا بحاجة إلى مطالبته بالتحرير مئة مرة. السحر يحدث في الجولات القليلة الأولى. بعد ذلك، يكون الذكاء الاصطناعي مجرد يدور حول نفسه. تشير الورقة البحثية إلى أنه يمكننا استخدام حجم التغييرات كإشارة: بمجرد أن تصبح التغييرات ضئيلة وتتوقف عن الصغر أكثر فأكثر، يجب أن نتوقف. لقد وصلنا إلى "التوازن النصي"، وأي تحرير إضافي هو مجرد ضجيج. هذا يحول حلقة غامضة ولانهائية من تحرير الذكاء الاصطناعي إلى عملية يمكن التنبؤ بها ذات خط نهاية واضح.
ملخص تقني: هل تتقارب النماذج اللغوية نحو ذاتها؟
بيان المشكلة
يتم نشر النماذج اللغوية الكبيرة (LLMs) بشكل متزايد في سير عمل التحسين الذاتي المتكرر (recursive self-refinement)، حيث يتم تنقيح المسودة الأولية مراراً وتكراراً بواسطة النموذج نفسه. وبينما تعد هذه المسارات شائعة في الكتابة العلمية، والبرمجة، والأنظمة الوكيلة (agentic systems)، إلا أن سلوكها الديناميكي طويل الأمد لا يزال غير مفهوم بشكل جيد. السؤال المركزي الذي يتناوله البحث هو ما إذا كان التنقيح المتكرر يؤدي إلى تحسين غير محدود، أم أن العملية تستقر نحو شكل نصي مستقر. تركز التقييمات الحالية عادةً على تحسينات الجودة في خطوة واحدة بدلاً من الديناميكيات الناجمة عن التطبيق الذاتي المتكرر، مما يترك أسئلة مفتوحة فيما يتعلق بالتقارب، والاستقرار، والنقاط الجاذبة (attractors)، ومعايير التوقف المناسبة.
المنهجية
يؤطر المؤلفون التنقيح الذاتي المتكرر كعملية ديناميكية منفصلة فوق النص، تُعرف بالتطبيق المتكرر لمؤثر التنقيح Rθ: Vt+1=Rθ(Vt) حيث تمثل Vt النص في التكرار t.
الإعداد التجريبي:
البيانات: تستخدم الدراسة 50 ملخصاً من مؤتمر ICML 2025 ومجموعة مقارنة عبر السنوات مكونة من 15 ملخصاً من ICML 2020.
النموذج: يُستخدم GPT-5.5 كمؤثر للتنقيح.
التلقين (Prompting): يتم توجيه النموذج للعمل كمحرر علمي خبير، لتحسين الوضوح، والتماسك، والإيجاز مع الحفاظ بصرامة على جميع الادعاءات التقنية، والأساليب، والنتائج، والقيم العددية.
ظروف فك الترميز (Decoding Conditions): تُجرى التجارب تحت إعدادين: درجة الحرارة الافتراضية (default-temperature) وفك الترميز الحتمي (deterministic decoding) عند درجة حرارة 0.
طول المسار (Trajectory Length): يخضع كل ملخص لـ T=10 من تكرارات التنقيح.
المقاييس والتحليل:
مقدار الانتقال (Δt): يُقاس باستخدام مسافة "ليفنشتاين" (Levenshtein edit distance) المعيارية بين النسخ المتتالية، d(Vt,Vt+1)، مقسومة على الطول الأقصى للنصين.
تعريفات النقطة الثابتة:
النقطة الثابتة الدقيقة:Vt+1=Vt.
النقطة الثابتة التقريبية: تُعرف بـ Δt<ϵedit (0.02) وتغير عدد الكلمات النسبي <ϵwc (0.03) لانتقالين متتاليين.
نمذجة الاسترخاء: يقوم المؤلفون بملاءمة نموذج اضمحلال أسي لمتوسط مقدار الانتقال: Δt≈Ae−kt+c، حيث يمثل c أرضية تقلب متبقية.
التقييم الخارجي: يتم تقييم مجموعة فرعية من المسارات بواسطة نموذج خارجي (LLM-as-a-judge) وهو Gemini 3.5 Flash، لتقييم الوضوح، والإيجاز، والأسلوب العلمي، والأمانة التقنية، لضمان أن التقارب لا يعني الركود النصي.
المساهمات الرئيسية
التأطير النظري: يقدم البحث مفهوم "الاسترخاء النصي" (textual relaxation)، مصوراً التنقيح الذاتي المتكرر كعملية ديناميكية منفصلة تدفع النص نحو "منطقة نقطة ثابتة ناعمة" يفضلها النموذج، بدلاً من كونها عملية تحسين مفتوحة النهايات.
الأدلة التجريبية على التشبع: تقدم الدراسة أدلة تجريبية على أن مسارات التنقيح تتشبع بسرعة. تحدث معظم التعديلات في التكرارات القليلة الأولى، وبعد ذلك يدخل النظام في منطقة تتميز بتقلبات سطحية متبقية صغيرة.
تأثيرات درجة حرارة فك الترميز: يوضح المؤلفون أن درجة حرارة فك الترميز تتحكم في طبيعة منطقة النقطة الثابتة. ففك الترميز الحتمي (درجة حرارة 0) يصل إلى نقاط ثابتة دقيقة بشكل أسرع مع تقلبات متبقية أقل، بينما يُظهر فك الترميز بدرجة الحرارة الافتراضية تقلبات متبقية أكبر حول منطقة نقطة ثابتة ناعمة مماثلة.
معايير التوقف العملية: يحفز العمل استخدام تشبع مقدار التعديل كمعيار توقف عملي لتدفقات العمل المتكررة، مما يشير إلى إمكانية إنهاء التنقيح المتكرر بمجرد انخفاض التغييرات عن حد معين.
النتائج
التقارب السريع: في 50 ملخصاً من ICML 2025، حقق GPT-5.5 تقارباً تقريبياً لجميع المسارات تحت كلا الإعدادين. تم الوصول إلى نقاط ثابتة دقيقة في 100% من المسارات تحت درجة حرارة 0 (متوسط وقت التقارب: 2.6 تكرار) و94% تحت درجة الحرارة الافتراضية (متوسط: 4.66 تكرار).
الاسترخاء الأسي: يتبع متوسط مقدار التعديل Δt نمط استرخاء أسي متسق (R2=0.990 لشرط درجة الحرارة الافتراضية). وهذا يشير إلى اضمحلال سريع في ضغط التعديل يليه أرضية متبقية صغيرة، مما يدعم فرضية الاسترخاء بدلاً من التحسين غير المحدود.
تحسين الجودة: أكد التقييم الخارجي بواسطة حكم Gemini أن الملخصات المتقاربة (V10) أظهرت تحسينات كبيرة في الوضوح، والإيجاز، والأسلوب العلمي مقارنة بالأصل (V0) والنسخة المنقحة الأولى (V1)، مع الحفاظ على الأمانة التقنية التامة والحفاظ على المعنى.
الاتساق عبر السنوات: كان سلوك التقارب الملاحظ في ملخصات ICML 2020 مشابهاً نوعياً لـ ICML 2025، مما يشير إلى أن الظاهرة ليست فريدة من نوعها لأسلوب الكتابة في عصر النماذج اللغوية الكبيرة الحالي، وإن كانت ملخصات 2020 قد أظهرت مسافات تعديل أولية أكبر وتقارباً دقيقاً لاحقاً.
الأهمية والادعاءات
يجادل البحث بأن التنقيح الذاتي المتكرر يُفهم بشكل أفضل كـ استرخاء نصي وليس كتحسين مفتوح النهايات. ويدعي المؤلفون أن:
المراجعة المتكررة تدفع النص نحو توازن مفضل للنموذج من أسلوب الكتابة العلمية.
بمجرد اقتراب النص من هذه المنطقة، فإن عمليات التنقيح الإضافية تعطي عوائد متناقصة، حيث تقدم أساساً تقلبات سطحية طفيفة بدلاً من تحسينات جوهرية.
التمييز بين النقاط الثابتة الدقيقة والتقريبية أمر بالغ الأهمية؛ حيث يلتقط التقارب التقريبي بشكل أفضل نقطة التوقف العملية حيث تصبح التكرارات الإضافية زائدة عن الحاجة.
النظر إلى التنقيح الذاتي للنماذج اللغوية الكبيرة من خلال عدسة الأنظمة الديناميكية (التقارب، الاستقرار، النقاط الجاذبة) يوفر إطاراً موجزاً لتحليل السلوكيات التكرارية للذكاء الاصطناعي ووضع معايير توقف قوية.
يظل المؤلفون متواضعين بشأن ادعاءاتهم، مشيرين إلى أن مقاييس التقارب الخاصة بهم هي مقاييس سطحية، وأن نموذج الاسترخاء الأسي هو وصف تجريبي وليس برهاناً على قوانين فيزيائية أو آليات الانحدار الاشتقاقي. كما يقرون بوجود قيود في النطاق (التركيز على الملخصات العلمية ونموذج واحد) ويدعون إلى مزيد من العمل لتحليل الاستقرار في فضاءات التمثيل المستمرة.