💬 NLP

ImmigrationQA: A Source-Grounded Dataset and Small-Model Adaptation for U.S. Immigration Law

تقدم هذه الورقة ImmigrationQA، وهي مجموعة بيانات مستندة إلى مصادر تتضمن أكثر من 17,000 زوج من الأسئلة والأجوبة المستمدة من لوائح الهجرة الأمريكية، وتثبت أن الضبط الدقيق لنموذج Llama 3.2 الصغير ذي الـ 3 مليارات معلمة على هذه البيانات يحسن أداءه بشكل كبير في استعلامات إجراءات الهجرة مقارنة بالنماذج الأساسية الأكبر، كل ذلك مع الحفاظ على تكلفة حوسبة منخفضة.

المؤلفون الأصليون: Nazarii Shportun

نُشر 2026-06-01

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Nazarii Shportun

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نظام الهجرة في الولايات المتحدة كمكتبة ضخمة، متغيرة باستمرار. داخل هذه المكتبة، توجد آلاف الكتب، وكتيبات القواعد، والمنشورات المكتوبة بلغة محددة ومعقدة للغاية. إذا كنت تحاول الانتقال إلى الولايات المتحدة، فأنت بحاجة إلى العثور على الصفحة الدقيقة التي تخبرك بأي نموذج يجب تعبئته، وكم يجب أن تدفع، ومتى ترسل هذا النموذج. لكن المكتبة ضخمة، والقواعد تتغير باستمرار، ومعظم الناس لا يملكون أميناً للمكتبة (محامياً) لمساعدتهم في إيجاد طريقهم.

هذه الورقة البحثية تتحدث عن بناء دليل إرشادي ذكي وصغير الحجم (في الجيب) لمساعدة الناس على التنقل داخل تلك المكتبة، ولكن مع تحذير مهم للغاية: هو مجرد مساعد، وليس محامياً.

إليك كيف قام الباحثون ببنائه، باستخدام تشبيهات بسيطة:

١. جمع المواد الخام (عملية "مسح المكتبة")

لم يقم الباحثون بتخمين الإجابات، بل خرجوا وجمعوا كتب القواعد الرسمية الفعلية.

المصادر: جمعوا ١١ نوعاً مختلفاً من الوثائق، تتراوح بين القوانين الرسمية الثقيلة "على طراز الدستور" (مثل دليل سياسات USCIS) وصولاً إلى المنتديات المجتمعية حيث يطرح الناس الأسئلة على بعضهم البعض.
التنظيف: وجدوا أكثر من ١٠,٠٠٠ وثيقة. قاموا بتنظيفها، وإزالة النسخ المكررة (مثل العثين من نسخ الكتاب نفسه)، وتقطيعها إلى "قطع" صغيرة سهلة الإدارة (مثل تقطيع رواية طويلة إلى فصول فردية).
النتيجة: انتهى بهم الأمر بـ ١٨,٠٠٠ مقتطف نصي صغير، جميعها مصنفة بدقة توضح مصدرها.

٢. تعليم الروبوت (مصنع "السؤال والجواب")

الآن أصبح لديهم كومة من النصوص، لكن لا توجد أسئلة. كان عليهم تعليم الكمبيوتر كيفية طرح والإجابة على الأسئلة بناءً فقط على ما قرأه.

المعلم: استخدموا ذكاءً اصطناعياً ذكياً جداً (Claude Sonnet) ليعمل كمعلم. أعطوا الذكاء الاصطناعي قطعة من النص وقالوا له: "اقرأ هذا وضع سؤالاً وإجابة صحيحة بناءً فقط على هذا النص".
فحص السلامة: وضعوا مرشحاً صارماً. إذا اخترع الذكاء الاصطناعي إجابة ليست موجودة فعلياً في النص (ما يسمى بالهلوسة)، كانوا يستبعدون هذا الزوج من (السؤال والجواب). فعلوا ذلك ٢٢ مرة لضمان أن تكون البيانات صادقة.
مجموعة البيانات: أنتجت هذه العملية مجموعة ضخمة من "بطاقات الاستذكار" (Flashcards) تضم ١٧,٠٥٨ سؤالاً وجواباً تغطي ١٣ مجالاً مختلفاً من مجالات الهجرة (مثل تأشيرات العائلة، أو اللجوء، أو وثائق السفر).

٣. تدريب "الدليل الجيبي" (الطالب الصغير)

لم يحاولوا تدريب كمبيوتر خارق ضخم ومكلف. بدلاً من ذلك، قاموا بتدريب نموذج صغير وخفيف الوزن (Llama 3.2 3B). تخيل الأمر كتدريب طالب ثانوي ذكي بدلاً من تدريب بروفيسور يحمل درجة الدكتوراه.

الطريقة: استخدموا تقنية تسمى LoRA. تخيل هذا كإعطاء الطالب مجموعة من "الملاحظات اللاصقة" مكتوب عليها قواعد الهجرة الجديدة، بدلاً من إجباره على إعادة كتابة دماغه بالكامل. هذه الطريقة رخيصة وسريعة.
التكلفة: كل هذه العملية كلفت حوالي ٢٩ دولاراً فقط من رسوم الحوسبة السحابية. وهذا أقل من تكلفة عشاء لشخصين.

٤. تجربة القيادة (تقرير الدرجات)

وضعوا "الدليل الجيبي" المدرب تحت الاختبار مقابل مجموعة مخفية من ١٠١ سؤالاً.

المنافسون:
1. الطالب غير المدرب: نفس النموذج الصغير قبل أن يتعلم أي شيء (الدرجة: ٠.٨٥/٣).
2. البروفيسور الكبير: نموذج أكبر بكثير وغير مدرب (Llama 3 8B) (الدرجة: ٠.٨٥/٣).
3. الخبير: ذكاء اصطناعي رفيع المستوى (Claude Sonnet) الذي لم يدرس البطاقات المحددة ولكنه استخدم ذكاءه العام (الدرجة: ١.٥٢/٣).
4. طالبنا المدرب: النموذج الصغير بعد دراسة الـ ١٧,٠٠٠ بطاقة استذكار (الدرجة: ١.٠٨/٣).

النتائج:

حقق الطالب المدرب أداءً أفضل بنسبة ٢٧٪ من نسخته غير المدربة.
حصل على ١٦.٨٪ من الإجابات "صحيحة تماماً"، مقارنة بـ ٤٪ فقط للنسخة غير المدربة.
أين برع: كان جيداً جداً في الأسئلة "الإجرائية"، مثل "ما هو النموذج الذي أستخدمه لوثيقة سفر؟" أو "كيف أقوم بتعديل وضعي؟". هذه الأسئلة تشبه اتباع وصفة طعام.
أين واجه صعوبة: كان لا يزال ضعيفاً في الاستنتاج القانوني المعقد (مثل "لماذا حكمت هذه القضية المحكمة بهذه الطريقة؟") أو الأسئلة المتعلقة بالإحصائيات الحديثة جداً. كما ارتبك أحياناً في حالات "الإنسانية" أو "اللجوء"، والتي تتطلب دقة وتفهماً أعمق من مجرد اتباع وصفة بسيطة.

التحذيرات الكبرى (النصوص الصغيرة)

الكاتبون واضحون جداً بشأن ما ليس عليه هذا الأداة:

ليس محامياً: لا يمكنه تقديم مشورة قانونية لحالتك الخاصة.
ليس محدثاً لحظياً: مكتبة القواعد التي استخدموها كانت "مجمدة" في تاريخ محدد. إذا غيرت الحكومة رسوماً أو رقم نموذج غداً، فإن هذا الدليل لن يعرف ذلك.
يمكن أن يرتكب أخطاء: في الاختبار، خمن أحياناً تاريخاً أو رقماً يبدو صحيحاً ولكنه كان خاطئاً (مثل الخلط بين تاريخ انتهاء حرب وتاريخ تغيير قانون معين).

الخلا-صة

قام الباحثون ببناء مجموعة أدوات متاحة للجمهور ومنخفضة التكلفة تُظهر أنه يمكنك تعليم كمبيوتر صغير ورخيص فهم قواعد الهجرة المعقدة إذا زودته بـ "بطاقات استذكار" صحيحة من المصادر الرسمية. إنها خطوة رائعة للأمام لجعل المعلومات القانونية أكثر سهولة في الوصول إليها، ولكنها وسيلة مساعدة للدراسة، وليست بديلاً لمحامٍ مؤهل.

كل الأكواد، والبيانات، والنموذج متاحة مجاناً لأي شخص لتحميلها واستخدامها، تماماً مثل كتاب في مكتبة عامة.

ملخص تقني: ImmigrationQA وتكييف النماذج الصغيرة لقانون الهجرة الأمريكي

بيان المشكلة
يشكل قانون الهجرة الأمريكي مجالاً كثيف الإجراءات وذا أهمية عملية بالغة للمتقدمين، لا سيما أولئك الذين يفتقرون إلى التمثيل القانوني. المعلومات ذات الصلة مبعثرة عبر آلاف الصفحات من السياسات الرسمية (دليل سياسات USCIS)، واللوائح الفيدرالية (8 CFR)، والسوابق القضائية (قرارات BIA)، والتوجيهات الإجرائية التي تتغير بشكل متكرر. تعاني النماذج اللغوية الكبيرة (LLMs) العامة في هذا المجال، حيث تخلط كثيراً بين أرقام النماذج، وتخطئ في ذكر المواعيد النهائية، وتدمج بين المتطلبات عبر فئات التأشيرات المختلفة. تكمن الصعوبة الجوهرية المحددة في ندرة البيانات: فبينما تتوفر التوجيهات الرسمية علناً، إلا أنها شحيحة في مجموعات البيانات المستخدمة في التدريب المسبق لمعظم النماذج اللغوية الكبيرة مقارنة بتعقيدها الإجرائي، مما يؤدي إلى الهلوسة والأخطاء الواقعية.

المنهجية
يعالج البحث هذه الفجوة من خلال منهجية تتكون من جزأين: بناء مجموعة بيانات قائمة على المصادر، والتوليف الفعال للمعلمات لنموذج لغوي صغير.

بناء المتن (ImmigrationQA):
- المصادر: تم تجميع مجموعة البيانات من 11 مصدراً أولياً وثانوياً، بما في ذلك دليل سياسات USCIS، و8 CFR، وقرارات سوابق BIA، والمنتديات المجتمعية (المصنفة كغير موثوقة). نتج عن ذلك 10,056 وثيقة معتمدة و18,308 قطعة نصية.
- التوليد: تم توليد أزواج (سؤال-جواب) مهيكلة من هذه القطع النصية باستخدام نموذج Claude Sonnet 4.6 عبر Amazon Bedrock. تم تحديد خمسة أنماط للتوليد بناءً على نوع المصدر (مثل: faq للأسئلة الشائعة، rule للقواعد، form للنماذج، precedent للسوابق، statistics للإحصائيات)، ولكل منها مطالبات (prompts) متميزة.
- التحقق: رفضت عملية تصفية صارمة الأزواج التي لم يكن للجواب فيها أي تداخل لفظي مع النطاق المصدري (للحد من الهلوسة) أو كانت قصيرة جداً. نتج عن ذلك مجموعة بيانات نهائية مكونة من 17,058 زوجاً من الأسئلة والأجوبة موزعة على 13 مجالاً فرعياً للهجرة. كل زوج مزود ببيانات وصفية تشمل نوع الإجابة، والموضوع الفرعي، ومستوى السلطة، وعلامة الحساسية الزمنية.
تكييف النموذج:
- البنية: تم إجراء ضبط دقيق لنموذج Llama 3.2 3B Instruct باستخدام تقنية التكيف منخفض الرتبة (LoRA).
- الإعدادات: استخدم التدريب رتبة ( $r$ ) قدرها 32 و $\alpha$ قدرها 64، مستهدفاً جميع مصفوفات إسقاط الانتباه الأربعة. تم إجراء التدريب على مثيل AWS SageMaker من نوع ml.g5.2xlarge لمدة دورتين تدريبيتين (epochs) بمعدل تعلم قدره 5e-5.
- كفاءة التكلفة: بلغت تكلفة المسار بأكمله، بما في ذلك توليد البيانات وتدريب النموذج، حوالي 29 دولاراً من تكلفة الحوسبة السحابية.
التقييم:
- الإعداد: تم تقييم النموذج الذي خضع للضبط الدقيق مقابل مجموعة بيانات مستبعدة (held-out split) مكونة من 993 زوجاً (باستخدام عينة طبقية مكونة من 101 مثالاً للتدقيق التفصيلي).
- المقارنة المرجعية: تمت مقارنة الأداء مع نموذج Llama 3 8B الأساسي (بدون تدريب مسبق/zero-shot) ونموذج Claude Sonnet 4.6 (zero-shot).
- المقياس: تم استخدام نموذج "النموذج اللغوي كحكم" (LLM-as-judge)، حيث قام Claude Sonnet 4.6 بتقييم التنبؤات بناءً على مقياس من 0 إلى 3 وفقاً لمعايير الصحة الواقعية والاكتمال.

النتائج الرئيسية

مكاسب الأداء: حقق النموذج (3B) الذي خضع للضبط الدقيق متوسط درجة قدره 1.08/3.0، وهو تحسن نسبي بنسبة 27% عن نموذج Llama 3 8B الأساسي (0.85/3.0). كما ارتفع معدل الصحة الكاملة (درجة 3) من 4% إلى 16.8%.
تباين المجالات الفرعية: تركزت التحسينات في المجالات الإجرائية مثل وثائق السفر (+1.00 في متوسط الدرجات)، وتعديل الوضع، وتأشيرات غير المهاجرين. في هذه المجالات، تفوق النموذج المعدل بشكل كبير على النموذج الأساسي، الذي كان يسجل غالباً درجات قريبة من الصفر.
القصور: أدى النموذج المعدل أداءً أسوأ من نموذج 8B الأساسي في المجالات الفرعية المعقدة التي تتطلب استدلالاً قانونياً متعدد الخطوات أو استشهادات تنظيمية محددة، مثل الإبعاد، والحالات الإنسانية، والأهلية للدخول، واللجوء. كما واجه صعوبة في الإحصائيات الحساسة للوقت والحقائق الرقمية، حيث استبدلها غالباً بقيم تبدو منطقية ولكنها غير صحيحة.
المقارنة بالمرجع: بينما حقق النموذج المعدل تحسناً مقارنة بعائلته الأساسية، إلا أنه لم يتفوق على نموذج Claude Sonnet 4.6 (zero-shot) الذي سجل (1.52/3.0)، مما يعكس الفجوة في عدد المعلمات والتدريب المسبق.

الأهمية والادعاءات
يزعم البحث أن مساهمته الأساسية هي مجموعة بيانات ImmigrationQA والمسار القابل لإعادة الإنتاج لبناء بيانات سؤال وجواب متخصصة في مجال معين وقائمة على المصدر من المصادر الحكومية الرسمية بتكلفة سحابية زهيدة. يوضح العمل أن:

يمكن تجميع متن عالي الجودة وموثوق يتجاوز 10,000 وثيقة هجرة وتحويله إلى بيانات تدريب مهيكلة بتكلفة تقل عن 30 دولاراً.
إن الضبط الدقيق لنموذج صغير (3 مليار معلمة) على هذه البيانات يحقق تحسينات كبيرة في الدقة الإجرائية مقارنة بالنماذج الأساسية الأكبر حجماً وغير المعدلة، وتحديداً للاستفسارات المنضبطة والقائمة على القواعد.
يوفر هذا النهج أساساً للتكييف القانوني للنماذج الصغيرة، رغم أن المؤلفين يصرحون بوضوح بأن النموذج الناتج ليس بديلاً عن المستشار القانوني.

يؤكد المؤلفون أن النظام محدود بطبيعته كمتن ثابت (مجمد عند تاريخ الزحف) وبطبيعته البارامترية (التي تفتقر إلى تعزيز الاسترجاع/RAG)، مما يجعله غير مناسب للمشورة القانونية الحساسة للوقت أو الاستدلال القانوني المعقد متعدد الخطوات. تم إصدار مجموعة البيانات، والنموذج، والتعليمات البرمجية، والمطالبات (prompts) للجمهور لدعم المزيد من الأبحاث في هذا المجال.