Disrupting convergence in large language model generation
تُثبت هذه الورقة أن تزويد النماذج اللغوية الكبيرة بإشارات معلوماتية خارجية متباينة يعد وسيلة أكثر موثوقية وفعالية لزيادة التنوع الدلالي في مخرجاتها مقارنة بالاعتماد فقط على التعليمات الصريحة، مما يسلط الض الضوء على التمييز الجوهري بين المدخلات المعلوماتية والتوجيه السلوكي في تصميم الأوامر البرمجية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلف ولم يصادق عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً يؤدي فيه سؤال الكمبيوتر عن فكرة جديدة دائماً إلى نفس الإجابة. هذا ليس سيناريو افتراضياً، بل هو واقع متزايد لأنظمة الذكاء الاصطناعي التي نستخدمها يومياً. إن نماذج اللغات الكبيرة هذه أدوات قوية قادرة على توليد النصوص، وحل المشكلات، وتحفيز الإبداع. ومع ذلك، لاحظ الباحثون نمطاً مقلقاً: عندما يطلب الكثير من الناس من هذه الأنظمة أفكاراً، تميل الردود إلى أن تبدو متشابهة بشكل متزايد. هذه الظاهرة، المعروفة باسم "التقارب"، تعني أنه بدلاً من وجود مجموعة واسعة من الاقتراحات الفريدة، تتقلص المخرجات الجماعية لملايين المستخدمين لتصبح مجموعة صغيرة ومكررة من الإجابات. وبالنسبة لمهام مثل العصف الذهني أو التصميم، حيث تكمن القيمة في امتلاك خيارات متنوعة للاختيار من بينها، فإن هذا التجانس يمثل مشكلة كبيرة. والسؤال الذي يواجه العلماء ليس ما إذا كانت هذه الآلات قادرة على إنتاج التنوع، بل كيف يمكننا تشجيعها بشكل موثوق على القيام بذلك دون أن ينتهي الأمر بالجميع بالحصول على النتيجة ذاتها.
لقد شرع باحث في حل هذه المعضلة عبر اختبار طريقتين مختلفتين لكسر حلقة التكرار. النهج الأول هو ما قد يحاول الكثير من الناس فعله بشكل غريزي: ببساطة إخبار الكمبيوتر بأن يكون مختلفاً. يتضمن ذلك إعطاء الآلة مهمة قياسية مع إضافة تعليمات محددة لتجنب الإجابات الشائعة أو لتوليد شيء غير عادي. أما النهج الثاني فيتضمن تغيير المعلومات التي يراها الكمبيوتر قبل أن يجيب. فبدلاً من مجرد طلب إجابة مختلفة، قدم الباحث للكمبيوتر كلمة عشوائية غير مرتبطة بالموضوع لاستخدامها كمصدر للإلهام. كانت الفكرة الجوهرية هي معرفة ما إذا كان تغذية الآلة بمعلومات جديدة ومتنوعة سيؤدي طبيعياً إلى إجابات أكثر تنوعاً، أم أن المفتاح يكمن تماماً في كيفية صياغة التعليمات.
ولإيجاد الإجابة، أجرى الباحث سلسلة من ثلاث تجارب مخططة بعناية شملت أكثر من 16,000 عملية توليد للنصوص. استخدم ثلاثة نماذج مختلفة من الذكاء الاصطناعي وطلب منها تنفيذ ثلاث مهام إبداعية متميزة: تسمية شيء يوضع بجانب كرسي أحمر، واقتراح استخدام جديد لصندوق كرتوني فارغ، واقتراح تحسين لزجاجة مياه قابلة لإعادة الاستخدام. في الدراسة الأولى، قارن بين النهج القياسي المتمثل في مجرد طلب إجابة مختلفة وبين طريقة تقديم كلمة خارجية عشوائية كمصدر للإلهام. كانت النتائج واضحة ومتسقة؛ فعندما قيل للنماذج ببساطة أن تكون مختلفة، تحسن تنوع الإجابات بشكل طفيف فقط وغالباً ما فشل في كسر نمط التكرار. ومع ذلك، عندما قدم الباحث كلمة عشوائية كمصدر للإلهام، قفز تنوع الإجابات بشكل هائل، حيث أنتجت النماذج نطاقاً أوسع بكثير من الأفكار، وتوزعت عبر احتمالات عديدة بدلاً من التكتل حول نفس الإجابات القليلة.
ثم تعمق الباحث في فهم كيفية استخدام الكمبيوتر لهذه المعلومات الجديدة بدقة. أراد أن يعرف ما إذا كان الكمبيوتر بحاجة إلى أن يُقال له صراحةً استخدام الكلمة العشوائية، أم أن مجرد وجود الكلمة كافٍ. في الدراسة الثانية، أبقى الباحث الكلمة العشوائية كما هي تماماً لكنه غير التعليمات المحيطة بها. في مجموعة واحدة، قيل للنماذج تجاهل الكلمة تماماً. وفي مجموعة أخرى، قيل لها إن بإمكانها استخدامها إذا أرادت. وفي مجموعة ثالثة، طُلب منها استخدامها. كشفت النتائج عن تباين مفاجئ؛ فعندما قيل للنماذج تجاهل الكلمة العشوائية، تلاشى الفضل في التنوع وأصبحت الإجابات مكررة مثل الأساس. ومع ذلك، عندما عُرضت الكلمة على النماذج دون أي تعليمات محددة لاستخدامها، ظل التنوع مرتفعاً. والأكثر إثارة للاهتمام، أن إخبار النماذج بأنه "يجب" عليها استخدام الكلمة لم يجعل الإجابات أكثر تنوعاً مما كانت عليه بمجرد عرض الكلمة دون تعليمات. لقد كان وجود المعلومات المتنوعة هو القوة الدافعة، ولم تكن الأوامر الصريحة لاستخدامها ضرورية لإطلاق تلك الإمكانات. في الواقع، كان إخبار الكمبيوتر بتجاهل المعلومة هو الشيء الوحيد الذي نجح في إيقاف عملية التنوع.
وفي الدراسة النهائية، أبقى الباحث المعلومات ثابتة وغير التعليمات المتعلقة بالنتيجة المنشودة فقط. أعطى جميع النماذج نفس الكلمة العشوائية ونفس التعليمات لاستخدامها كمصدر للإلهام. ثم أضاف طبقة ثانية من التعليمات: بعض النماذج قيل لها أن تجعل إجابتها مختلفة عما قد يحصل عليه الآخرون، وبعضها قيل لها أن تجعل إجابتها واضحة وسهلة الفهم، والبعض الآخر قيل لها أن تجعل إجابتها مشابهة لما قد يحصل عليه الآخرون. أظهرت النتائج أن التعليمات بأن تكون "مختلفاً" قد دفعت الإجابات بالفعل بعيداً عن العادات الافتراضية للكمبيوتر، مما خلق تنوعاً أكبر. وعلى العكس من ذلك، فإن التعليمات بأن تكون "مشابهاً" سحبت الإجابات نحو المركز، مما قلل من التنوع. وقد أكد هذا أن التعليمات تعمل كدليل يمكنه إما تضخيم هذا التنوع أو كبحه، بينما توفر البيئة المعلوماتية المواد الخام للتنوع.
تخلص الدراسة إلى أن الطريقة الأكثر موثوقية لمنع الذكاء الاصطناعي من إنتاج نفس الإجابات مراراً وتكراراً هي تغيير البيئة المعلوماتية، وليس مجرد تغيير "الأمر" (Prompt). فمجرد طلب الإبداع من الكمبيوتر غالباً ما يكون غير كافٍ للتغلب على نزوعه نحو التقارب في الإجابات الأكثر وضوحاً. بدلاً من ذلك، فإن تقديم إشارات خارجية متنوعة — مثل الكلمات العشوائية، أو الأمثلة، أو وجهات النظر المختلفة — يخلق تحولاً طبيعياً في المخرجات. وهذا التأثير قوي؛ فهو يحدث حتى بدون تعليمات قسرية لاستخدام المعلومات الجديدة. ومع ذلك، وجد الباحث أيضاً أن هذا التأثير هش؛ فإذا أخبرت التعليمات الكمبيوتر صراحةً بتجاهل المعلومات الجديدة، فإن الفائدة تتلاشى. والمفتاح المستفاد هو أن الحفاظ على التنوع في المحتوى الناتج عن الذكاء الاصطناعي يتطلب تصميم السياق الذي يعمل فيه الكمبيوتر. ومن خلال ضمان وصول الآلة إلى مجموعة واسعة من المعلومات المتميزة، وتجنب التعليمات التي تأمرها بتجاهل تلك المعلومات، يمكننا تشجيع مخرجات جماعية أكثر ثراءً وتنوعاً. يوفر هذا النهج مساراً عملياً لكل من يعتمد على هذه الأدوات للابتكار، مما يضمن أن يظل مستقبل الإبداع المدعوم بالذكاء الاصطناعي متنوعاً بدلاً من أن يكون موحداً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.