Language Chain in Alignment: Cross-Lingual Ranking Preference Optimization
تقترح هذه الورقة البحثية "تحسين تفضيلات التصنيف عبر اللغات" (CRPO)، وهو إطار عمل مبتكر يستفيد من المعرفة التفضيلية باللغة الإنجليزية وهيكل تصنيف هرمي لتعزيز قدرات المحاذاة، واتباع التعليمات، واستخدام المعرفة لدى النماذج اللغوية الكبيرة عبر لغات متعددة بشكل كبير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تعد النماذج اللغوية الكبيرة هي المحركات التي تقف وراء الذكاء الاصطناዊ الحديث، وهي قادرة على كتابة القصص، وحل المشكلات، والإجابة على الأسئلة بطريقة تحاكي المحادثة البشرية. ولكي تكون هذه الأنظمة مفيدة حقًا، يجب ألا تكتفي بفهم ما يطلبه الشخص فحسب، بل يجب أيضًا أن تستجيب بطريقة تتوافق مع القيم والتوقعات البشرية. وتتضمن هذه العملية، المعروفة باسم "المحاذاة" (alignment)، عادةً عرض آلاف الأمثلة على الإجابات الجيدة والسيئة حتى يتمكن النموذج من تعلم تفضيل الإجابات المفيدة. ومع ذلك، ظهرت مشكلة كبيرة: فبينما تبرع هذه النماذج في اتباع هذه القواعد باللغة الإنجليزية، إلا أنها غالبًا ما تتعثر عندما يُطلب منها القيام بنفس الشيء بلغات أخرى. فعندما يطرح مستخدم سؤالًا باللغة الكورية أو الإندونيسية أو السواحيلية، قد يرد النموذج باللغة الإنجليزية، أو قد يولد استجابة صحيحة لغويًا ولكنها غير منطقية أو غير مفيدة. وتترك هذه الفجوة مليارات البشر دون القدرة على الوصول إلى الإمكانات الكاملة لهذه الأدوات، مما يخلق عالمًا يكون فيه الحصول على مساعدة عالية الجودة من الذكاء الاصطناعي امتيازًا محصورًا في المقام الأول بالناطقين بالإنجليزية.
وقد طور باحثون في جامعة كوريا طريقة جديدة لسد هذه الفجوة، مما يسمح للنماذج بالتعلم من نقاط قوتها في اللغة الإنجليزية وتطبيق تلك الحكمة على لغات أخرى. وتتعامل طريقتهم، التي تسمى "تحسين تفضيل التصنيف عبر اللغات" (Cross-Lingual Ranking Preference Optimization أو CRPO)، مع تعلم اللغة ليس كدروس معزولة، بل كسلسلة متصلة. فبدلاً من تعليم النموذج ببساطة اختيار أفضل إجابة في لغة واحدة وأفضل إجابة في لغة أخرى بشكل منفصل، تنشئ هذه الطريقة تسلسلًا هرميًا مهيكلًا يربط بينهما. تخيل معلمًا يعلم أن طالبه ممتاز في الرياضيات باللغة الإنجليزية ولكنه يعاني في الرياضيات باللغة الفرنسية؛ فبدلاً من تعليم المادتين من الصفر، يستخدم المعلم مهارات الطالب القوية في الرياضيات بالإنجليزية كدليل لمساعدته على فهم المفاهيم الفرنسية. وبالمثل، تستخدم طريقة CRPO فهم النموذج القوي لما يجعل الإجابة جيدة في اللغة الإنجليزية لتوجيه سلوكه في اللغات الأخرى، مما يضمن بقاء جودة الاستجابة عالية بغض النظر عن اللغة المستخدمة.
يكمن الابتكار الجوهري في كيفية تدريب النموذج على مقارنة الإجابات. فغالبًا ما تنظر الطرق التقليدية إلى خيارين فقط في كل مرة: إجابة جيدة وإجابة سيئة. وهذا النهج الثنائي يعمل جيدًا مع الإنجليزية، لكنه يفشل في استيعاب التعقيد المطلوب عند إشراك لغات متعددة. وتوسع الطريقة الجديدة هذا المنظور من خلال النظر في أربعة خيارات في آن واحد: إجابة جيدة في اللغة المستهدفة، وإجابة سيئة في اللغة المستهدفة، وإجابة جيدة في الإنجليزية، وإجابة سيئة في الإنجليزية. وقد صمم الباحثون نظام تصنيف محدد حيث يتم تعليم النموذج تقدير الإجابة الجيدة في اللغة المستهدفة أكثر من غيرها، تليها الإجابة الجيدة في الإنجليزية، ثم الإجابة السيئة في اللغة المستهدفة، وأخيرًا الإجابة السيئة في الإنجليزية. ويجبر هذا الهيكل النموذج على إدراك أنه بينما يعد التحدث باللغة الصحيحة أمرًا مهمًا، فإن جودة المحتوى هي الأكثر أهمية. فهو يتعلم أن الاستجابة عالية الجودة بالإنجليزية لا تزال أفضل من الاستجابة منخفضة الجودة في اللغة المستهدفة، لكن الهدف النهائي هو إنتاج استجابة عالية الجودة في اللغة المستهدفة.
ولاختبار هذه الفكرة، طبق الباحثون الطريقة على ثلاثة نماذج لغوية كبيرة مختلفة ودربوها على خمس لغات ذات مستويات متفاوتة من البيانات المتاحة: الصينية، والإندونيسية، والكورية، والسواحيلية، والبنجالية. وقارنوا طريقتهم الجديدة بالتقنيات القياسية التي كانت تُستخدم سابقًا لتحسين الأداء متعدد اللغات. وأظهرت النتائج ميزة واضحة ومتسقة للنهج الجديد؛ ففي معظم الاختبارات، كانت النماذج المدربة بهذه الطريقة أفضل في اتباع التعليمات وتقديم معلومات مفيدة في اللغات المستهدفة. فعلى سبيل المثال، عندما طُلب منها الإجابة على أسئلة باللغة السواحيلية أو البنغالية —وهي لغات تندر فيها البيانات وتواجه النماذج صعوبة عادةً— حققت الطريقة الجديدة نتائج أفضل بكثير من الطرق القديمة. وفي بعض الحالات، كان التحسن دراماتيكيًا، حيث حققت النماذج معدلات فوز ضد الخط المرجعي القياسي تجاوزت ستين بالمائة في تكوينات محددة، مثل السواحلية مع نموذج Llama-3، في حين فشلت الطرق القديمة غالبًا في تحقيق حتى التعادل.
كما بحثت الدراسة بعمق في سبب نجاح هذه الطريقة بهذا الشكل الكبير. فمن خلال فحص الحسابات الداخلية للنماذج، وجد الباحثون أن النهج الجديد لم يكتفِ بمجرد كبح الإجابات السيئة، بل شجع بنشاط على توليد الإجابات الجيدة. ففي العديد من المحاولات السابقة لإصلاح المشكلات اللغوية، كانت النماذج تتعلم تجنب الأخطاء ولكنها لا تتعلم بالضرورة كيفية إنتاج محتوى عالي الجودة. ومع ذلك، زادت الطريقة الجديدة من احتمالية اختيار النموذج لأفضل استجابة ممكنة مع الحفاظ على تفضيل قوي للغة الصحيحة. وقد خلق هذا نظامًا أكثر استقرارًا وموثوقية حيث يمكن للنموذج توليد محتوى مفيد بثقة في أي من اللغات المدعومة. كما تحقق الباحثون للتأكد من أن تعليم النموذج في هذه اللغات الأخرى لم يضر بأدائه في اللغة الإنجليزية، ووجدوا أن النماذج أدت أداءً أفضل قليلاً في الإنجليزية أيضًا، مما يشير إلى أن الطريقة عززت الفهم العام للنموذج بدلاً من مجرد نقل تركيزه.
يمثل هذا العمل خطوة مهمة نحو جعل الذكاء الاصطناعي عالميًا حقًا. فمن خلال إظهار أن معرفة النموذج في لغة واحدة يمكن نقلها بفعالية لتحسين أدائه في لغة أخرى، قدم الباحثون مخططًا لبناء أنظمة ذكاء اصطناعي أكثر شمولاً. وتشير النتائج إلى أن العائق أمام الذكاء الاصطناعي متعدد اللغات عالي الجودة ليس نقص البيانات، بل نقص استراتيجية التدريب الصحيحة. ومع هذا النهج الجديد، تبدأ الفجوة بين مستخدمي الإنجليزية وبقية العالم في التقلص، مما يبشر بمستقبل تتوفر فيه مساعدة الذكاء الاصطناዊ المتقدمة للجميع، بغض النظر عن اللغة التي يتحدثونها. إن نجاح هذه الطة عبر لغات متنوعة، من اللغات واسعة الانتشار مثل الصينية إلى اللغات ذات الموارد المحدودة مثل السواحيلية، يشير إلى أن الحل قوي وقابل للتوسع، مما يمهد الطريق لجيل جديد من النماذج اللغوية التي يمكنها أن تكون بارعة في كل لغة بقدر براعتها في الإنجليزية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.