Interrupting the Loop: Periodic Subject Changes Raise Judged Surprise and Connection in Base Language Models
تُثبت هذه الورقة أن المقاطعة الدورية لتدفق توليد نموذج لغوي أساسي بمواضيع جديدة تزيد بشكل كبير من مستويات المفاجأة والترابط المُقيَّمة مقارنة بالتعود وحده، بينما تكشف في الوقت ذاته أن هذه المكاسب المحلية لا تترجم إلى وثائق متماسكة طويلة الأمد، وأن بعض الآثار الاصطناعية في التقييم يمكن أن تضخم الإبداع المتصور.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تطلب من حاسوب أن يكتب قصة دون إعطائه حبكة محددة، أو شخصية، أو هدف. أنت ببساطة تمنحه جملة واحدة وتطلب منه الاستمرار، إلى الأبد. في عالم الذكاء الاصطناعي، يعد هذا اختباراً قياسياً لكيفية تفكير الآلة عندما تُترك لتدبير أمورها بنفسها. وغالباً ما يكون التوقع هو أن تنتج الآلة شيئاً جديداً، أو مفاجئاً، أو إبداعياً. وبدلاً من ذلك، وبدون مهمة توجهها، تميل هذه الآلات إلى التعثر؛ إذ تقع في حلقات تكرارية، مكررة نفس العبارات أو تولد قوائم من الأرقام، تماماً مثل شخص نسي ما كان يقوله وبدأ يعيد نفس الجملة مراراً وتكراراً. هذا السلوك ليس خللاً في الكود البرمجي، بل هو ميل طبيعي للنظام للاعتماد على مخرجاته الأخيرة، مما يعزز ما كتبه للتو حتى تنفد منه الأفكار الجديدة.
لطالما تساءل الباحثون عما إذا كان بإمكانهم كسر هذه الحلقة لإطلاق العنان للابتكار الحقيقي. لقد حاولوا تغيير كيفية اختيار الآلة للكلمة التالية، أو تغذيتها بمطالبات غريبة، لكن المسار الأكثر واعداً بدا أنه هو "الحلقة" نفسها: العملية التي تقرأ فيها الآلة مخرجاتها وتستخدمها كمدخل للخطوة التالية. الفكرة هي أنه إذا استطاعت الآلة التجول عبر أفكارها الخاصة، فقد تعثر على اتجاه جديد، تماماً كما قد يراود الإنسان خاطر مفاجئ بعد ترك المشكلة عالقة في ذهنه لفترة. وقد وضعت دراسة جديدة حداً لهذا التساؤل باختبار هذه الفكرة بدقة متناهية، عبر تفكيك نظام معقد مصمم لمحاكاة الإبداع البشري لمعرفة أي أجزائه كانت تعمل حقاً وأيها لم يكن سوى ضجيج.
بدأ الباحثون بهندسة متطورة مستوحاة من كيفية عمل الدماغ البشري كما يُعتقد. لقد بنوا نظاماً يحتوي على "مراقب" يراقب علامات الملل أو التكرار، و"قاضٍ" يقيم النص أثناء كتابته، وآلية لإعادة ضبط ذاكرة الآلة إذا تعثرت. أطلقوا على هذا النظام اسم "السقالة" (scaffold). كان آلة معقدة مصممة لإبقاء القصة مستمرة، وتقييم تقدمها والتدخل عند الضرورة. ومع ذلك، عندما اختبروه، وجدوا أن الأجزاء المعقدة كانت عديمة الفائدة إلى حد كبير؛ فالمراقب نادراً ما يعمل، والقاضي داخل الحلقة لم يحفز تغييراً قط. كان النظام يعمل، ولكن ليس بسبب الآليات المعقدة التي بنوها.
عندما قام الفريق بتفكيك النظام، اكتشفوا أن التأثير بأكمله يعود إلى إجراءين بسيطين للغاية. الأول كان عقوبة طفيفة ضد تكرار الكلمات ذاتها بسرعة كبيرة، وهي تقنية منعت النص من العودة حرفياً إلى الوراء على نفسه. والثاني، وهو الأهم بكثير، كان انقطاعاً بسيطاً. فكل بضع مئات من الكلمات، كان الباحثون يوقفون الآلة ويحقنون جملة جديدة تغير الموضوع تماماً. كان الأمر كما لو أن الآلة تكتب عن خباز يعد الخبز، ثم قام شخص ما بهدوء بتمرير ملاحظة داخل القصة تقول: "في هذه الأثناء، في مدينة بلا اسم"، ثم ترك الآلة تستمر من هناك. هذا الفعل الوحيد المتمثل في تغيير الموضوع كل بضع مئات من الكلمات كان كافياً لجعل النص يبدو مفاجئاً ومتصلاً بالقارئ البشري، مما رفع جودة الكتابة بشكل أكبر بكثير من أي أنظمة مراقبة معقدة.
كما كشفت الدراسة أيضاً عن خلل مفاجئ في كيفية قياسنا للإبداع في الآلات. استخدم الباحثون ذكاءً اصطناعياً لتقييم القصص، حيث نظروا إلى نوافذ قصيرة من النصوص لتقرير ما إذا كانت مثيرة للاهتمام. ووجدوا أن هذا القاضي كان من السهل خداعه؛ فإذا أُعطيت الآلة نفس الجمل الأربع "الموضوعات الجديدة" لتدويرها، فإنها ستتعلم النمط وتبدأ في نسخ كتاباتها السابقة، متظاهرة بأنها جديدة. فالقاضي، الذي ينظر إلى نافذة قصيرة، لم يستطع رؤية أن النص كان إعادة لما كُتب قبل مئات الكلمات، لذا منح درجات عالية لـ "المفاجأة" و"الترابط" لنصوص كانت في الواقع مجرد نسخة مكررة. وبمجرد أن صحح الباحثون ذلك من خلال الحكم فقط على النصوص الجديدة التي لم يسبق رؤيتها من قبل، انخفضت الدرجات، لكن النتيجة الجوهرية ظلت قائمة: فعل تغيير الموضوع لا يزال يجعل الكتابة أفضل.
ومع ذلك، قدمت الدراسة أيضاً استنتاجاً مثبطاً حول ما يعنيه هذا التحسن فعلياً. فبينما جعلت الانقطاعات النص يبدو أفضل في أجزاء صغيرة، إلا أنها لم تخلق كلاً متماسكاً. فعندما قرأ الباحثون القصة بأكملها المكونة من 4500 كلمة من البداية إلى النهاية، وجدوا أن النص المتقطع لم يكن سرداً متطوراً. بدلاً من ذلك، كان مجموعة من البدايات المنفصلة؛ حيث تكتب الآلة فقرة عن خباز، ثم تقفز إلى مدينة، ثم تقفز إلى امرأة عجوز، لكنها لا تنسج هذه الخيوط أبداً في قصة واحدة متكاملة. لقد كانت الآلة جيدة في إجراء بداية جديدة، لكنها لم تكن جيدة في بناء هيكل يتماسك بمرور الوقت.
وظل هذا القصور قائماً حتى عندما اختبر الباحثون النظام في مشكلة عملية، بطلب حل لغز رياضي حول تعبئة العناصر في حاويات. تسببت الانقطاعات في جعل الآلة تولد العديد من الحلول الصالحة أكثر مما كانت ستفعله لولا ذلك، لكن لم يكن أي منها أفضل من أفضل حل يمكن للآلة إيجاده بمفردها. كانت الانقطاعات تعمل كعامل تنويع، مما خلق المزيد من الخيارات، لكنها لم تحسن جودة الخيار الأفضل. كانت الآلة بحاجة إلى طريقة لاختيار الأفكار الجيدة والبناء عليها، وهي خطوة لم يمتلكها النظام الحالي.
خلص الباحثون إلى أن التجديد الذي نراه في هذه الآلات لا يأتي من شرارة إبداعية عميقة أو تقييم داخلي معقد، بل من خدعة هيكلية بسيطة: منع الآلة من تكرار نفسها وإجبارها على بدء فكرة جديدة كل بضع مئات من الكلمات. هذا التدخل البسيط كافٍ لجعل النص يبدو مفاجئاً ومتصلاً في اللحظة الراهنة، لكنه لا يخلق قصة متطورة أو مشكلة محلولة. وتشير الدراسة إلى أنه للحصول على إبداع حقيقي، نحتاج إلى ما هو أكثر من مجرد طريقة لمنع الآلة من الشعور بالملل؛ نحن بحاجة إلى طريقة لمساعدتها على تذكر ما تعلمته والبناء عليه، وتحويل سلسلة من البدايات الجديدة إلى رحلة واحدة ذات معنى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.