Concept Tokens: Learning Behavioral Embeddings Through Concept Definitions
تقدم هذه الورقة "رموز المفاهيم" (Concept Tokens)، وهي طريقة خفيفة الوزن لتوجيه النماذج اللغوية الكبيرة المجمدة عبر تعلم تضمينات سلوكية مدمجة من تعريفات المفاهيم باللغة الطبيعية، مما يثبت فعاليتها في التحكم في الهلوسة، وتحفيز إعادة الصياغة التربوية، والحفاظ على الامتثال للتعليمات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تتحدث إلى روبوت فائق الذكاء قرأ كل شيء تقريبًا على الإنترنت. هذا الروبوت، الذي يُسمى "النموذج اللغوي الكبير" (LLM)، يشبه مكتبة ضخمة يمكنها كتابة القصص، والإجابة على الأسئلة، والدردشة معك. لكن هناك عقبة: الروبوت لا "يعرف" الأشياء بالطريقة التي نعرفها نحن؛ بل هو أشبه بطاهٍ ماهر تذوق كل وصفة كُتبت على الإطلاق، لكنه لم يطبخ وجبة حقيقية قط. إنه يتنبأ بالكلمات التي يجب أن تأتي تاليًا بناءً على الأنماط التي رآها أثناء القراءة. أحيانًا، يعمل هذا بشكل رائع، ولكن في أحيان أخرى، يصبح الروبوت واثقًا جدًا ويبدأ في اختراع حقائق تبدو حقيقية ولكنها ليست كذلك. نسمي هذه الأخطاء "الهلوسة".
لقد حاول العلماء تعليم هذه الروبوتات حيلًا جديدة أو منعها من الكذب دون إعادة تدريب الروبوت بالكامل من الصال إلى البداية، وهو أمر يشبه محاولة تعليم شخص بالغ القراءة عبر إعادته إلى مرحلة الروضة. عادةً، لتغيير سلوك الروبوت، عليك إعطاؤه قائمة ضخمة من الأمثلة (مثل "عندما ترى X، افعل Y"). ولكن ماذا لو كان بإمكانك فقط الهمس بكلمة سرية واحدة للروبوت، وفجأة، فهم فكرة جديدة تمامًا؟ هذا هو السؤال الكبير الذي يستكشفه هذا البحث: هل يمكننا تعليم روبوت "مجمد" مفهومًا جديدًا بمجرد عرض تعريفات له، ثم استخدام "رمز سحري" للتحكم في سلوكه؟
يقول الباحثان، إجناسيو ساستر وآيلا روزا، إن الإجابة هي نعم. لقد قدما حيلة ذكية تسمى "رموز المفاهيم" (Concept Tokens). فكر في "رمز المفهوم" كزر جديد وخاص يمكنك إضافته إلى جهاز التحكم عن بعد الخاص بالروبوت. أنت لست بحاجة لإعادة بناء الروبوت أو تعليمه باستخدام آلاف الأمثلة؛ بدلاً من ذلك، تعرض على الروبوت مجموعة من التعريفات الشبيهة بالقاموس لمفهوم ما (مثل "ما هي الهلوسة؟" أو "كيف تعلم لغة؟"). يتعلم الروبوت ربط هذا الزر الجديد بـ "جوهر" ذلك المفهوم. وبمجرد برمجة الزر، يمكنك الضغط عليه لجعل الروبوت يتصرف بطريقة معينة. إذا ضغطت على الزر، فإن الروبوت يندمج في ذلك السلوك؛ وإذا أخبرت الروبوت ألا يضغط على الزر، فإنه يتجنب ذلك السلوك.
في تجاربهم، اختبروا هذه الطريقة في ثلاثة سيناريوهات مختلفة. أولاً، حاولوا منع الروبوت من اختلاق الأمور. لقد علموا الروبوت "رمز الهلوسة" باستخدام تعريفات لماهية الهلوسة. وعندما أخبروا الروبوت: "لا تولد هذا الرمز"، أصبح الروبوت أكثر حذرًا. لقد توقف عن اختلاق الحقائق، ومن المثير للاهتمام أنه توقف أيضًا عن الإجابة على الأسئلة التي لم يكن متأكدًا منها، مفضلاً قول "لا أعرف" بدلًا من التخمين. لم يصبح مثاليًا بشكل سحري، بل أصبح فقط أكثر صدقًا بشأن عدم يقينه.
ثانيًا، اختبروا استراتيجية تعليمية تسمى "إعادة الصياغة" (recasting)، وهي عندما يقوم المعلم بتصحيح خطأ الطالب بلطف عن طريق تكرار الجملة بشكل صحيح دون كسر تدفق المحادثة. لقد علموا الروبوت "رمز إعادة الصياغة". وعندما طلبوا من الروبوت استخدام هذا الرمز، بدأ يتصرف كمعلم لغة لطيف، حيث يقوم بتصحيح الأخطاء النحوية ببراعة ويطرح أسئلة متابعة. الأمر المذهل هو أن هذا نجح بشكل أفضل من مجرد لصق التعريف الكامل لـ "إعادة الصياغة" في الدردشة؛ فقد كان الرمز إشارة مدمجة وفعالة سمحت للروبوت باتباع التعليمات الرئيسية (كن معلمًا) دون الارتباك بسبب جدار من النصوص.
أخيرًا، لعبوا لعبة ببرجين: برج إيفل الحقيقي وبرج وهمي اخترعوه يسمى "برج أسترال". لقد علموا الروبوت عن البرج الوهمي باستخدام مقال ويكيبيديا مُختلق. تعلم الروبوت التحدث عن البرج الوهمي كما لو كان حقيقيًا، مستوعبًا "روح" معلم شهير في مونتيفيديو. ومع ذلك، عندما سُئل عن تفاصيل محددة مثل الارتفاع الدقيق أو اسم المهندس المعماري، بدأ الروبوت في اختلاق الأمور مرة أخرى. أظهر هذا أن الرمز بارع في التقاط "فكرة" وسلوك المفهوم، لكنه ليس وحدة تخزين مثالية للحقائق الجديدة. إنه أشبه بـ "خاتم تغيير المزاج" (mood ring) يغير موقف الروبوت، وليس قرص صلب لتخزين بيانات جديدة.
يشير البحث إلى أن هذه الطريقة هي وسيلة خفيفة وفعالة لتوجيه نماذج الذكاء الاصطناعي المجمدة. إنها تثبت أنه يمكنك حقن "شخصيات" سلوكية جديدة في الروبوت بمجرد تعريف مفهوم ما وتحسين رمز واحد خاص. ورغم أنها لا تحل كل المشكلات (مثل جعل الروبوت دقيقًا تمامًا بشأن الأشياء الجديدة)، إلا أنها تقدم طريقة واعدة وموجزة للتحكم في كيفية تصرف هذه النماذج القوية، مما يجعلها أكثر صدقًا أو أكثر فائدة دون الحاجة إلى إعادة تدريب النظام بأكمله.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.