When Machines Speak: A Unified Generative Framework for Integrating Machine-Native Symbols into Pretrained Large Language Models
تقدم هذه الورقة UniLang، وهو إطار توليدي موحد يوسع نماذج اللغات الكبيرة مسبقة التدريب لمعالجة وتوليد الرموز الأصلية للآلة بشكل أصيل إلى جانب اللغة الطبيعية، مما يسد الفجوة بين النمذجة اللغوية والتنبؤ المهيكل دون الحاجة إلى التعبير اللفظي أو بنى تحتية خاصة بالمهام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في المشهد الواسع للذكاء الاصطناعي، وُجد توتر هادئ منذ زمن طويل بين طريقتين لوصف العالم. فمن ناحية، تقبع لغتنا التي نتحدث بها، وهي وسيط مرن وغني يستخدمه البشر لمشاركة القصص والأفكار والمشاعر. وتتدرب نماذج اللغة الكبيرة، وهي برامج حاسوبية قوية يمكنها كتابة المقالات أو الإجابة على الأسئلة، على هذه اللغة البشرية؛ فهي تفهم العالم من خلال الكلمات. ومن ناحية أخرى، تقبع لغة الآلات، وهي نظام صارم وموجز من الأكواد والأرقام. غالبًا ما تخزن الحواسيب المعلومات المعقدة، مثل فيلم معين أو حكم قانوني، ليس كفقرة نصية، بل كسلسلة قصيرة وفعالة من الرموز. هذه الرموز مثالية للحساب والتخزين، لكنها غير مرئية لنماذج اللغة التي تعتمد على الكلمات البشرية. لسنوات، اضطر الباحثون للاختيار بين هذين العالمين؛ فلكي تجعل الحاسوب يفهم رمزًا آليًا، كان عليهم غالبًا ترجمته إلى جملة أولًا، مما قد يؤدي إلى فقدان تفاصيل مهمة. أو كان عليهم بناء أنظمة خاصة ومنفصلة لتلك الأكواد، تاركين وراءهم المعرفة الهائلة لنماذج اللغة.
لقد اقترح فريق من الباحثين في جوجل الآن طريقة لجمع هذين العالمين معًا دون فرض عملية ترجمة. فقد قدموا إطار عمل جديدًا يسمى "UniLang"، والذي يسمح لنموذج لغة قياسي بمعاملة الأكواد الآلية كما لو كانت كلمات. فبدلاً من تحويل رمز آلي إلى جملة مثل "فيلم من عام 1999"، يتعلم النموذج توليد الرمز نفسه كجزء مباشر من مخرجاته، تمامًا كما يفعل عند توليد كلمة "فيلم". اختبر الباحثون هذه الفكرة في مشكلتين مختلفتين تمامًا: التنبؤ بما قد يشاهده الشخص بعد ذلك بناءً على تاريخ مشاهداته، وإيجاد الجملة الدقيقة في قضية قانونية سابقة تدعم حجة قانونية جديدة. وفي كلتا الحالتين، حققت الطريقة الجديدة أداءً أفضل من الأنظمة الحالية التي اعتمدت إما على النصوص الصرفة أو الأكواد الصرفة. ومن خلال السماح للنموذج بالتحدث بكل من اللغة البشرية والرموز الآلية في وقت واحد، أظهر الباحثون أن الذكاء الاصطناعي يمكنه التعامل مع البيانات المهيكلة بدقة أكبر مع الاستمرار في استخدام المعرفة الواسعة التي تعلمها من قراءة الكتب والمواقع البشرية.
يكمن جوهر هذا العمل في كيفية تعليم الباحثين الحاسوب رؤية هذه الرموز الآلية. تخيل مكتبة حيث لكل كتاب رمز شريطي (باركود) فريد. لفترة طويلة، لم يكن بإمكان أمين مكتبة يتحدث الإنجليزية فقط فهم الرمز الشريطي؛ إذ كان عليه قراءة العنوان الموجود على الغلاف ليعرف محتوى الكتاب. تمنح الطريقة الجديدة أمين المكتبة مجموعة جديدة من الأدوات؛ فهي تأخذ الرمز الشريطي وتعلم أمين المكتبة أن هذا النمط المحدد من الخطوط يعني "الكتاب المتعلق بالسفر عبر الفضاء"، ليس عن طريق قراءة وصف، بل من خلال تعلم الارتباط المباشر بين النمط والشيء. في الدراسة، قام الباحثون بتحويل آلاف العناصر، مثل الأفلام أو القضايا القانونية، إلى هذه الأكواد الآلية الموجزة. ثم استخدموا عملية تعلم لمواءمة هذه الأكواد مع الأوصاف النصية لنفس العناصر. وهذا يعني أنه عندما يرى الحاسوب الكود الخاص بفيلم معين، فإنه يفهمه بنفس الطريقة التي يفهم بها كلمات "فيلم حركة من الثمانينيات".
بمجرد أن تعلم الحاسوب هذه المفردات الجديدة، طلب منه الباحثون تنفيذ مهام تتطلب عادةً نوعين مختلفين من التفكير. في الاختبار الأول، عمل الحاسوب كمحرك توصية؛ حيث عُرضت عليه قائمة بالأفلام التي شاهدها شخص ما، موصوفة بعناوينها وأنواعها باللغة الإنجليزية العادية، متبوعة بالأكواد الآلية لتلك الأفلام. ثم كان على الحاسوب التنبؤ بالفيلم التالي. وبدلاً من تخمين عنوان، قام بتوليد الكود الآلي للفيلم التالي، مع سنته ونوعه. حافظ هذا النهج على البنية الدقيقة للبيانات سليمة. وفي الاختبار الثاني، عمل الحاسوب كباحث قانوني؛ حيث أُعطي فقرة من نص قضية محكمة جديدة وطُلب منه إيجاد الجملة المحددة من قضية قديمة تدعم تلك الحجة. ومرة أخرى، لم يقم الحاسوب بمجرد البحث عن كلمات مفتاحية، بل قام بتوليد الكود الآلي الذي يمثل الفقرة الدقيقة من القضية القديمة التي تطابق السياق.
كانت نتائج هذه الاختبارات واضحة ومتسقة. ففي مهمة توصية الأفلام، تفوقت الطريقة الجديدة بشكل كبير على الأنظمة الأخرى التي حاولت حل المشكلة باستخدام النصوص فقط أو الأكواد فقط. وفي أكبر مجموعة بيانات للأفلام، حسنت الطريقة الجديدة دقة العثور على التوصية الصحيحة بنسبة تزيد عن مائة بالمائة مقارنة ببعض الطرق السابقة. وفي المهمة القانونية، وجدت الجملة الداعمة الصحيحة في كثير من الأحيان أكثر من الأنظمة المصممة خصيصًا للنصوص القانونية. وجد الباحثون أن مفتاح هذا النجاح لم يكن مجرد إضافة الأكواد، بل الحفاظ على اللغة البشرية في المزيج؛ فعندما أزالوا الأوصاف النصية وطلبوا من الحاسوب العمل بالأكواد فقط، تعثر النظام وفقد طريقه. لقد وفرت اللغة البشرية سياقًا ضروريًا، وهو نوع من "التأصيل" الذي ساعد الحاسوب على فهم المعنى الكامن وراء الرموز.
يشير هذا العمل إلى مسار جديد لكيفية تطور الذكاء الاصطناعي. لفترة طويلة، عامل المجال اللغة والبيانات المهيكلة كمجالات منفصلة، تتطلب أدوات مختلفة لكل منها. وقد أثبت الباحثون أن إطار عمل موحد يمكنه تعلم التحدث بكلتا اللغتين بطلاقة، ومعاملة الكود الآلي والكلمة البشرية كشريكين متساويين في المحادثة. هذا لا يعني أن الحاسوب يتوقف عن فهم اللغة البشرية، بل يعني توسيع قدرته على التفاعل مع العالم الرقمي مباشرة. أظهرت الدراسة أنه من خلال دمج هذه الرموز الأصلية للآلة في مفردات النموذج، يمكن للنظام التعامل مع المعلومات المعقدة والمهيكلة دون فقدان عالم المعرفة الغني الذي اكتسبه من قراءة النصوص البشرية. وأشار الباحثون إلى أنه بينما تفوق النظام في مهام التنبؤ هذه، فإنهم لم يختبروا ما إذا كان هذا النوع الجديد من التفكير سيؤثر على قدرة النموذج على كتابة الشعر أو سرد القصص، تاركين هذا السؤال للاستكشاف المستقبلي.
تمتد تداعيات هذا النهج إلى ما هو أبعد من مجرد الأفلام أو القضايا القانونية. فقد أظهر الباحثون أن نفس إطار العمل يمكن تطبيقه على أنواع مختلفة من البيانات المهيكلة دون الحاجة إلى تغيير البنية الأساسية للنموذج. وسواء كانت المهمة هي التنبؤ بالعنصر التالي في تسلسل ما أو البحث عن فقرة محددة في قاعدة بيانات قانونية ضخمة، فإن الطريقة ظلت كما هي. تشير هذه المرونة إلى أنه في المستقبل، قد لا تحتاج أنظمة الذكاء الاصطناعي إلى البناء من الصفر لكل نوع جديد من البيانات؛ بل بدلاً من ذلك، يمكن تعليم إطار عمل موحد فهم "اللغة" الفريدة لأي نظام، من السجلات الطبية إلى المعاملات المالية، ببساطة عن طريق تعلم توليد الرموز الصحيحة. توفر الدراسة إثباتًا للمفهوم بأن الفجوة بين اللغة البشرية والكود الآلي يمكن جسرها، مما يسمح للذكاء الاصطناعي بالعمل بشكل أكثر طبيعية داخل البيئات المهيكلة التي تدعم جزءًا كبيرًا من عالمنا الحديث.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.