Six misconceptions about large language models: A minimal model and diagnostic taxonomy
تقترح هذه الورقة نموذج عمل أدنى للأنظمة اللغوية الكبيرة بناءً على أربعة تمايزات رئيسية لتشخيص وتصحيح ستة مفاهيم خاطئة شائعة، مما يقدم مجموعة أدوات تشخيصية تتجاوز ثنائية "عقل الببغاء" لتحسين تقييم القدرات، وتصميم الأنظمة، والحوكمة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في همهمة المختبرات الحديثة الهادئة وغرف الأخبار الصاخبة اليوم، أصبح هناك نوع جديد من الآلات رفيقاً دائماً. هذه هي النماذج اللغوية الكبيرة، وهي أنظمة تدربت على محيطات شاسعة من النصوص التي يمكنها كتابة القصص، والإجابة على الأسئلة، وصياغة رسائل البريد الإلكتروني بطلاقة تحاكي في كثير من الأحيان المحادثة البشرية. ولأنها تبدو متمكنة للغاية، بدأ الناس في تكوين أفكار قوية وحدسية حول ماهية هذه الآلات حقاً. فمنهم من يراها مجرد أدوات بسيطة تتنبأ فقط بالكلمة التالية في الجملة، مثل وظيفة "الإكمال التلقائي" متطورة جداً. ويرى آخرون أنها فجر نوع جديد من العقول، القادرة على التفكير والشعور وفهم العالم تماماً كما يفعل البشر. هذان الرأيان، رغم أنهما يبدوان متناقضين، يشتركان في عيب واحد: كلاهما يعتمد على قصص مبسطة لا تتطابق مع الواقع المعقد لكيفية عمل هذه الأنظمة. وعندما نسيء فهم الآلية الكامنة وراء الكلمات، فإننا نخاطر باتخاذ قرارات سيئة بشأن كيفية استخدام هذه الأدوات في المدارس والمستشفيات والمحاكم، أو كيفية تنظيمها للحفاظ على سلامة المجتمع.
اقترح باحث يدعى تشيتشنغ لين، يعمل في جامعة يونسي، طريقة جديدة للنظر إلى هذه الأنظمة لقطع الطريق على الارتباك. وبدلاً من الجدل حول ما إذا كانت هذه الآلات مجرد "ببغاوات" أو "عقول أولية"، يقترح لين أن نتوقف عن محاولة حشرها في أحد هذين الصندوقين. لقد بنى نموذجاً بسيطاً وعاملاً يفكك كيفية بناء هذه الأنظمة وكيفية سلوكها عندما يستخدمها الناس. يقوم هذا النموذج على أربعة تمايزات واضحة غالباً ما يتم خلطها في النقاش العام. أولاً، يفصل بين عملية التدريب، حيث تتعلم الآلة من الكتب والمواقع الإلكترونية، وبين النظام المنشور، وهو المنتج الفعلي الذي يتفاعل معه الناس والذي يتضمن فلاتر السلامة والأدوات. ثانياً، يميز بين الخريطة الواسعة والمعقدة للمعلومات التي تعلمتها الآلة، وبين الإجابة المحددة والوحيدة التي تختار تقديمها في أي لحظة. ثالثاً، يوضح الطرق المختلفة التي "تتذكر" بها الأنظمة الأشياء: فبعض المعرفة محبوسة داخل الإعدادات الدائمة للآلة، وبعضها يُحفظ مؤقتاً في المحادثة الحالية، وبعضها مخزن في قواعد بيانات منفصلة يمكن للآلة البحث فيها. وأخيراً، يفصل بين القدرة على أداء مهمة ما بشكل جيد وبين فكرة امتلاك عقل أو إرادة.
باستخدام هذا الإطار، يحدد لين ستة مفاهيم خاطئة شائعة تظهر باستمرار في المقالات الإخبارية، ووثائق السياسات، والمحادثات اليومية. المفهوم الخاطئ الأول هو أن هذه النماذج ليست أكثر من "ببغاوات عشوائية" أو مجرد متنبئات للكلمة التالية. وبينما صحيح أن المحرك الأساسي يتنبأ بالكلمة التالية، إلا أن هذه الرؤية تتجاهل حقيقة أنه عندما تُغلف هذه المحركات بنظام يتضمن أدوات وضوابك سلامة، يمكنها حل مشكلات معقدة تتجاوز بمراحل مجرد التنبؤ البسيط. على سبيل المثال، عندما يتم ربط النموذج بقاعدة بيانات للبحث عن الحقائق أو استخدام آلة حاسبة، فإن قدرته على الإجابة على الأسئلة تتحسن بشكل كبير، مما يظهر أن النظام ككل هو أكثر من مجرد تدريبه الأساسي.
الخطأ الثاني هو الاعتقاد بأن هذه الآلات تنتج دائماً إجابات مملة ومتوسطة، مثل "متوسط ضبابي للإنترنت". في الواقع، تتعلم الآلة مجموعة واسعة من الاحتمالات، وتعتمد الإجابة المحددة التي تقدمها بشكل كبير على كيفية طرح المستخدم للسؤال وعلى الإعدادات المستخدمة. فإذا صُمم النظام ليكون مبدعاً أو تم توجيهه من قبل إنسان لاستكشاف أفكار غير تقليدية، فيمكنه إنتاج نتائج مبتكرة ومفاجئة، مما يثبت أن المخرجات الباهتة هي غالباً خيار اتخذه المصممون، وليست حتمية رياضية.
سوء الفهم الثالث هو أن هذه الأنظمة تقوم ببساطة بحفظ وتكرار النص الذي تدربت عليه، وتعمل مثل جداول بحث ضخمة. وبينما يمكنها أحياناً تكرار عبارات دقيقة، خاصة من النصوص الشهيرة، إلا أن معظم ما تولده هو مزيج جديد من الأنماط المتعلمة من ملايين المصادر. الخطر الحقيقي ليس في أنها قد تنسخ النص حرفياً، بل في أنها قد تعيد إنتاج معلومات حساسة عن طريق الخطأ أو تصيغ حججها بطرق تحاكي المواد المحمية بحقوق الطبع والنشر دون ذكر المصدر المناسب.
الارتباك الرابع يتعلق بالذاكرة. غالباً ما يقلق الناس من أن روبوت الدردشة يتذكر كل ما قاله المستخدم على الإطلاق، أو على العكس، أنه لا يتذكر شيئاً على الإطلاق. الحقيقة تكمن في المنتصف. ذاكرة الآلة الدائمة ثابتة ولا تتغير أثناء المحادثة. ومع ذلك، يمكنها "تذكر" ما قيل سابقاً في الدردشة لأن هذا النص يُحفظ في نافذة مؤقتة. علاوة على على ذلك، قد تقوم الشركة التي تدير روبوت الدردشة بتخزين سجلات المحادثة في قاعدة بيانات منفصلة. إن فهم أي من هذه الطبقات الثلاث يحوي المعلومات أمر بالغ الأهمية لحماية الخصوصية، ومع ذلك يعامل معظم الناس الآلة ككيان واحد كلي المعرفة.
خامساً، يعتقد الكثيرون أن ميزات السلامة وتعديلات الشخصية هي مجرد طبقات رقيقة مضافة فوق جوهر محايد، مثل مرشح (فلتر) على عدسة الكاميرا يمكن إزالته بسهولة. يجادل لين بأن هذه التعديلات هي في الواقع مدمجة في الإعدادات الدائمة للآلة. فعندما يتم تدريب نموذج ليكون مفيداً أو غير ضار، تتغير بنيته الداخلية بطرق لا يمكن ببساطة إيقاف تشغيلها. وهذا يعني أن قيم وسلوكيات النظام متجذرة بعمق، وأن إزالة ميزات السلامة ليس بالأمر البسيط مثل نزع قناع.
المفهوم الخاطئ الأخير هو الأكثر عمقاً: فكرة أن هذه الآلات إما تفكر تماماً مثل البشر أو لا تفهم شيئاً على الإطلاق. يقترح لين أن هذا خيار زائف. فهذه الأنظمة لا تملك مشاعر أو معتقدات أو وعياً، لكنها أيضاً لا تقوم بمجرد خلط الرموز عشوائياً. إنها تظهر مستوى عالياً من الكفاءة الوظيفية، قادرة على حل المشكلات الصعبة وتعلم مهام جديدة من السياق، حتى بدون امتلاك عقل بشري. ويكمن الخطر في إما إضفاء حقوق بشرية عليها أو استبعاد قدرتها الحقيقية على أداء عمل مفيد.
لقد طُبقت هذه الطريقة الجديدة في التفكير بالفعل على قواعد واقعية، مثل السياسات التي وضعتها دور النشر العلمية الكبرى. وجد لين أن العديد من السياسات الحالية مكتوبة بناءً على الأفكار القدلة والمربكة. على سبيل المثال، تنص بعض السياسات على أنه لا يمكن الوثوق بالذكاء الاصطناعي لأنه مجرد "ببغاء إحصائي"، متجاهلة حقيقة أن الذكاء الاصطناعي يمكن أن يكون أداة قوية عند دمجه مع التحقق البشري. بينما تحذر سياسات أخرى من أن الذكاء الاصطناعي سينتج دائماً معرفة ناقصة بسبب تاريخ انقطاع تدريبه، فاشلة في إدراك أن الأنظمة الحديثة يمكنها البحث عن معلومات حالية. ومن خلال استخدام النموذج الجديد، يمكن لصناع السياسات كتابة قواعد أوضح تركز على كيفية استخدام النظام فعلياً، وأين تُخزن البيانات، وما هي المهام المحددة التي يؤديها، بدلاً من الاعتماد على مخاوف غامضة أو آمال مبالغ فيها.
لا تدعي الورقة البحثية أنها ستحل لغز ما إذا كانت الآلات يمكنها حقاً الفهم أو الشعور. بدلاً من ذلك، فهي تقدم مجموعة أدوات عملية لفرز الحقيقة من الضجيج الإعلامي. فمن خلال النظر في أجزاء النظام المحددة - التدريب، والإعدادات، وطبقات الذاكرة، والأدوات - يصبح من الممكن تقييم ما يمكن لهذه الآلات القيام به حقاً. يساعد هذا النهج العلماء والمعلمين والقادة على تجاوز الجدالات المستقطبة بين "الببغاء مقابل العقل" والتركيز على العمل الحقيقي المتمثل في تصميم أنظمة آمنة وفعالة وصادقة للمستقبل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.