Language Models for Portuguese: A Systematic Mapping Study

تخيل الإنترنت كمكتبة ضخمة تعج بالحركة، حيث كل كتاب فيها مكتوب بلغة مختلفة. لفترة طويلة، كانت أذكى الحواسيب في هذه المكتبة — تلك التي يمكنها القراءة والكتابة والدردشة مثل البشر — قد تدربت في الغالب على الكتب الإنجليزية. لقد أصبحت بارعة للغاية في اللغة الإنجليزية، ولكن عندما تسألها عن قصص من بلاد أخرى، كانت غالبًا ما تتعثر أو ترتبك أو تخترع أشياء من عندها. وذلك لأن "عقل" هذه الحواسيب مبني من الكلمات التي قرأتها؛ فإذا لم تقرأ ما يكفي من الكتب بلغة معينة، فلن تستطيع حقًا فهم الثقافة أو النكات أو التاريخ وراء تلك الكلمات. مؤخرًا، بدأ العلماء في بناء حواسيب خاصة للغة البرتغالية، وهي اللغة التي يتحدث بها مئات الملايين من الناس عبر البرازيل والبرتغال وأجزاء من أفريقيا وآسيا. ولكن تمامًا مثل مكتبة ذات كتب مبعثرة، فإن المعلومات حول هذه الحواسيب البرتغالية الجديدة فوضوية، ومخبأة في أماكن مختلفة، ويصعب العثور عليها دفعة واحدة.

هذا البحث يشبه أمين مكتبة فائق التنظيم قرر تنظيف قسم اللغة البرتغالية بأكمله. ذهب المؤلفون، وهم فريق من جامعة في البرازيل، في رحلة بحث واسعة للعثور على كل نموذج حاسوبي مصمم للتحدث باللغة البرتغالية تم نشره بين عامي 2020 و2025. لم يكتفوا بالعد فقط؛ بل فتحوا الصناديق، وفحصوا كتيبات التعليمات، وحاولوا معرفة كيف بُنيت، وبماذا تعلمت، وهل يمكن لأي شخص استخدامها بالفعل. وجدوا 46 نموذجًا مختلفًا، تتراوح من روبوتات الدردشة العامة إلى المتخصصين الذين يتحدثون فقط عن القانون أو الطب أو النفط والغاز. اكتشافهم الكبير؟ بينما يوجد تقدم مثير للاهتمام، إلا أن "المكتبة" لا تزال فوضوية نوعًا ما. فالعديد من هذه النماذج تشبه الوصفات السرية التي يعرفها الطاهي وحده (الكود غير مشترك)، وبعضها تم تعليمه باستخدام كتب مترجمة لا تلتقط النكهة المحلية تمامًا، وقليل جدًا منها تم فحصه لمعرفة ما إذا كانت عادلة أو آمنة للاستخدام. يقترح المؤلفون أنه لجعل هذه الحواسيب مفيدة حقًا لكل من يتحدث البرتغالية، نحتاج إلى التوقف عن الاعتماد على الترجمات، ومشاركة مخططاتنا (النماذج) بشكل أكثر انفتاحًا، والتأكد من أن الحواسيب تفهم التنوع الغني للغة، وليس فقط النسخة الأكثر شيوعًا منها.

رحلة البحث الكبرى عن النموذج البرتغالي

فكر في عالم الذكاء الاصطناعي (AI) كموقع بناء ضخم. لسنوات، كانت ناطحات السحاب الأكبر والأكثر إبهارًا تُبنى باستخدام طوب إنجليزي. هذه هي "نماذج اللغات الكبيرة" (LLMs)، الحواسيب الذكية التي يمكنها كتابة المقالات، والإجابة على الأسئلة، وحتى كتابة الأكواد البرمجية. ولكن العمال في موقع البناء هذا أدركوا أنه إذا بنيت فقط بالطوب الإنجليزي، فلن تتمكن من بناء منزل يشعر فيه المتحدث بالبرتغالية بأنه في بيته. لذا، بين عامي 2020 و2025، بدأ موجة جديدة من البنائين في تشييد منازل مخصصة للمتحدثين بالبرتغالية.

المشكلة هي أن هذه المنازل الجديدة كانت منتشرة في كل مكان. بعضها كان موصوفًا في مجلات علمية فاخرة، والبعض الآخر كان مجرد ملاحظات على موقع إلكتروني، وبعضها كان مخفيًا في تقارير تقنية لم يقرأها أحد. كان الأمر يشبه محاولة العثجد على لعبة معينة في غرفة حيث رُميت الألعاب في أكوام مختلفة، بعضها مُصنف والبعض الآخر غير مُصنف. قرر مؤلفو هذا البحث ترتيب الغرفة. لقد قاموا بـ "دراسة رسم خرائط منهجية"، وهي طريقة منمقة لقول إنهم أنشأوا قائمة رئيسية لكل نموذج لغة برتغالية تمكنوا من العثيد عليه.

وجدوا 46 نموذجًا في المجمل. هذا عدد كبير من الحواسيب المختلفة! لقد قاموا بفرزها مثل جامع الطوابع. نظروا إلى ما هو "النموذج الأساسي" الذي بدأ به كل واحد منها (مثل ما إذا كان مبنيًا على أساس BERT أو Llama أو T5)، وما هو الهدف من تصميمه (الدردشة العامة، النصيحة القانونية، التشخيص الطبي، أو تحليل التغريدات)، ومدى حجمه (تتراوح من نماذج صغيرة بـ 12 مليون معلمة إلى نماذج ضخمة بـ 72 مليار).

"شجرة العائلة" للذكاء الاصطناٍ البرتغالي

أحد أروع الأشياء التي قام بها المؤلفون هو رسم "شجرة تطورية". تخيل شجرة عائلة لهذه الحواسيب. بدلاً من إظهار كيف يرتبط البشر بأجدادهم، توضح هذه الشجرة كيف ترتبط هذه النماذج بـ "آبائها".

وجدوا أن معظم النماذج البرتغالية هي أحفاد لعدد قليل من النماذج "السلفية" الشهيرة. الفرع العائلي الأكبر يأتي من BERT، والذي يشبه الجد الأكبر للعديد من هذه النماذج؛ حيث تم بناء 20 نموذجًا من أصل 46 وجدوا على أساس BERT أو أقاربه مباشرة. العائلة الثانية الأكبر تأتي من عائلة Llama، وهي السلف الجديد الرائج الذي تعتمد عليه 10 نماذج.

توضح الشجرة أيضًا كيف تطورت هذه النماذج. بعضها بدأ كنماذج عامة الأغراض (جيدة في كل شيء) ثم حصلت على تدريب متخصص لتصبح خبراء في مجالات محددة. على سبيل المثال، هناك فرع حيث بدأ النموذج كقارئ عام، ثم درس الكتب الطبية ليصبح "CardioBERTpt" (ذكاء اصطناعي لطبيب قلب)، ثم نسخة أخرى درست الوثائق القانونية لتصبح "JurisBERT" (ذكاء اصطناعي لمحامٍ). إنه يشبه الطالب الذي يبدأ في مدرسة عامة ثم يذهب إلى كليات متخصصة ليصبح طبيبًا أو محاميًا.

مشكلة "الباب المفتوح"

تحقق المؤلفون أيضًا من أبواب هذه المنازل الـ 46 ليروا ما إذا كان بإمكان أي شخص الدخول. لقد بحثوا عن ثلاثة أشياء:

1. الكود (الشيفرة): هل يمكنك رؤية المخططات؟
2. النموذج: هل يمكنك تحميل "عقل" الحاسوب المكتمل؟
3. البيانات: هل يمكنك رؤية الكتب التي تدرب عليها الحاسوب؟

الأخبار هنا مختلطة نوعًا ما. من بين 46 نموذجًا، كان 11 فقط يمتلك كود المصدر (المخططات) متاحًا للجميع لرؤيته. وحوالي 5 نماذج كانت مغلقة تمامًا — لا يمكنك استخدامها على الإطلاق. وبالنسبة لبيانات التدريب (الكتب)، فقد استخدمت 17 نموذجًا فقط بيانات متاحة للتحميل بحرية. أما الباقي فقد استخدم بيانات كانت إما مخفية خلف جدار دفع، أو تتطلب إذنًا خاصًا لطلبها، أو كانت سرية من قبل الشركة التي صنعتها.

تحقق المؤلفون أيضًا مما إذا كانت هذه النماذج تأتي مع "بطاقة نموذج" (Model Card)، وهي تشبه الملصق الغذائي للذكاء الاصطناعي. تخبرك هذه البطاقة بما هو جيد في النموذج، وما هو سيء فيه، وما إذا كان لديه أي تحيزات. ومن الصادم أن 3 نماذج فقط من أصل 46 كانت تمتلك ملصقًا غذائيًا كاملًا ومثاليًا. معظم النماذج كانت تمتلك ملصقات ناقصة، و 10 نماذج لم يكن لها أي ملصق على الإطلاق. وهذا يعني أنه إذا استخدمت هذه النماذج، فقد لا تعرف بالضبط ما الذي ستواجهه.

"فخ الترجمة" والأصوات المفقودة

أحد أهم النتائج يتعلق بـ كيفية تعلم هذه النماذج التحدث. لاحظ المؤلفون أن العديد من النماذج تم تعليمها باستخدام كتب مترجمة من الإنجليزية إلى البرتغالية. تخيل أنك تحاول التعلم عن الثقافة البرازيلية من خلال قراءة كتاب كُتب في الأصل في نيويورك ثم تُرجم حرفيًا إلى البرتغالية. قد تضبط القواعد اللغوية، لكنك ستفتقد العامية، والنكات، والمشاعر المحلية.

يشير البحث إلى أن الاعتماد على البيانات المترجمة يمثل مشكلة. فهذا يعني أن هذه النماذج قد لا تفهم الفروق الثقافية الفريدة للمتحدثين بالبرتغالية في البرازيل أو البرتغال أو أفريقيا. علاوة على ذلك، يشير المؤلفون إلى أن جميع النماذج التي وجدوها تقريبًا تركز فقط على نسختين من اللغة البرتغالية: البرتغالية البرازيلية والبرتغالية الأوروبية. لقد تجاهلت تمامًا الدول السبع الأخرى التي تعتبر فيها البرتغالية لغة رسمية، مثل أنغولا وموزمبيق وكابو فيردي. يرى المؤلفون أن هذا شكل من أشكال "التحيز اللغوي" — الافتراض بأنه لمجرد أن النموذج يتحدث البرتغالية البرازيلية والأوروبية، فإنه يمكنه التحدث باسم الجميع. ويقترحون أن النماذج المستقبلية يجب أن تتدرب على بيانات تمثل حقًا تنوع جميع الدول الناطقة بالبرتغالية.

ما الخطوة التالية؟

يخلص المؤلفون إلى أنه بينما حققنا الكثير من التقدم، إلا أن أمامنا طريقًا طويلاً لنقطعه. هم يقترحون أن الجيل القادم من الذكاء الاصطناعي البرتغالي يحتاج إلى:

• التوقف عن استخدام البيانات المترجمة والبدء في استخدام كتب ومحادثات أصلية حقيقية باللغة البرتغالية من جميع أنحاء العالم.
• مشاركة مخططاتهم (الكود) حتى يتمكن العلماء الآخرون من مراجعة عملهم وتحسينه.
• تضمين المزيد من الأصوات من المتحدثين بالبرتغالية في أفريقيا وآسيا، وليس فقط من البرازيل والبرتغال.
• إضافة المزيد من الحواس. في الوقت الحالي، معظم هذه النماذج تفهم النصوص فقط. ويرى المؤلفون فرصة كبيرة لبناء نماذج يمكنها أيضًا فهم الصور والأصوات (النماذج متعددة الوسائط) خصيصًا للغة البرتغالية، مثل حاسوب يمكنه النظر إلى صورة لشارع برازيلي ووصفها بالعامية المحلية.

باخت-صار، مكتبة الذكاء الاصطناعي البرتغالية تنمو بسرعة، لكنها تحتاج إلى تنظيم أفضل، وأبواب أكثر انفتاحًا، وتنوع أكبر في الأصوات لتخدم حقًا ملايين الأشخاص الذين يتحدثون هذه اللغة.