OTel: Building Domain-Specialized Telecom LLM Foundations for Intelligent Networks
تقدم الورقة البحثية "Open Telco" (OTel)، وهو مورد شامل مفتوح المصدر يضم مجموعات بيانات مشتقة و30 نموذجاً مرجعياً تم تدريبها لاحقاً، مما يعزز بشكل كبير أداء الذكاء الاصطنا_ي المتخصص في المجال لمهام التضمين (embedding)، وإعادة التصنيف (reranking)، ونمذجة اللغة في قطاع الاتصالات.
المؤلفون الأصليون:Farbod Tavakkoli, Roderic Paulk, Jorden Terrazas, Kenneth Church, Mark Austin, Louis Powell, Gregory Diamos, Lina Bariah, Syed Ali Raza Zaidi, Maryam Hafeez, Ali Maatouk, Imtiaz Karim
تعتمد الحياة الحديثة على جهاز عصبي واسع وغير مرئي من الكابلات والأبراج والأقمار الصناعية التي تنقل مكالماتنا ورسائلنا وبياناتنا عبر العالم. ويتطلب الحفاظ على استمرارية هذا النظام فهماً عميقاً لآلاف الأدلة التقنية، والاتفاقيات الدولية، والقواعد المتغيرة باستمرار التي تحكم كيفية عمل الشبكات. هذه الوثائق كثيفة، ومترابطة، ومكتوبة بلغة متخصصة يجد حتى المهندسين المتمرسين صعوبة في التعامل معها. ولسنوات، عانى الذكاء الاصطناعي من أجل فهم هذا العالم المحدد؛ فبينما يمكن لنماذج الذكاء الاصطنا عامة كتابة الشعر أو تلخيص الأخبار، إلا أنها غالباً ما تفشل عندما يُطلب منها تفسير مواصفات شبكة معقدة أو استكشاف خطأ تقني وإصلاحه، لأنها تفتقر إلى بيانات التدريب الدقيقة والمتخصصة اللازمة لفهم المنطق الفريد للاتصالات السلكية واللاسلكية.
تهدف مبادرة جديدة تسمى "Open Telco" أو "OTel" إلى سد هذه الفجوة من خلال توفير أول أساس مفتوح ومشترك لبناء أنظمة ذكية تفهم حقاً مجال الاتصالات. يجمع المشروع أكثر من مائة خبير من الجامعات والصناعة والمنظمات العالمية لإنشاء مكتبة ضخمة من البيانات النظيفة عالية الجودة والنماذج الحاسوبية المدربة مسبقاً. وبدلاً من إجبار كل باحث على البدء من الصفر — والتخبط في البحث عن الوثائق، وتنظيف النصوص الفوضوية، وتدريب النماذج بمفرده — توفر OTel مجموعة أدوات كاملة. وهي تتضمن مجموعات بيانات مصممة خصيصاً لتعليم الحواسيب كيفية العثور على المعلومات الصحيحة، وكيفية ترتيب تلك المعلومات حسب الأهمية، وكيفية الإجابة على الأسئلة بناءً حصرياً على ما تجده، كل ذلك مع معرفة متى تعترف بأنها لا تعرف الإجابة.
جمع الفريق المسؤول عن OTel ما يقرب من 1.1 مليون قطعة من المعلومات الخام من المصادر العامة، بما في ذلك وثائق المعايير الدولية، والأوراق البيضاء التقنية، والبحوث الأكاديمية. ومع ذلك، غالباً ما تكون البيانات الخام مليئة بالضجيج مما يجعلها غير مفيدة لتدريب الأنظمة الذكية. وقد طبق الباحثون عملية تصفية صارمة متعددة المراحل لتنظيف هذه المعلومات، وإزالة الأخطاء والتكرارات والنماذج منخفضة الجودة. وقد قلل هذا العمل المكثف المجموعة إلى حوالي 327,000 مثال عالي الثقة جاهز للاستخدام. تم تنظيم هذه الأمثلة في أربعة أنواع متميزة من مواد التدريب: مجموعة واحدة لتعليم النماذج كيفية استرجاع الوثائق ذات الصلة، وأخرى لتعليمها كيفية ترتيب تلك الوثائق، وثالثة لتعليمها كيفية توليد الإجابات بناءً على النص المسترجع، ورابعة لتعليمها متى تلتزم الصمت إذا كانت المعلومات غير كافية أو خارج الموضوع.
باستخدام هذه البيانات المنسقة، قام الباحثون بتدريب وإصدار ثلاثين نموذجاً حاسوبياً بأحجام متفاوتة، تتراوح من الأنظمة الصغيرة والسريعة إلى الأنظمة الكبيرة والقوية. وقد اختُبرت هذه النماذج على قدرتها على التعامل مع مهام الاتصالات، وأظهرت النتائج تحسناً واضحاً مقارنة بالمحاولات السابقة. أصبحت النماذج المدربة على بيانات OTel أفضل بكثير في العثور على الوثائق الصحيحة، حيث قفزت دقة ترتيبها من حوالي 35 بالمائة إلى أكثر من 93 بالمائة في بعض الحالات. كما أصبحت أفضل بكثير في ترتيب نتائج البحث والإجابة على الأسئلة بشكل صحيح، حيث حقق النموذج الأكبر نسبة نجاح بلغت 88 بالمائة في الأسئلة التقنية. والأهم من ذلك، أن التدريب علم النماذج تجنب التخمين عندما تفتقر إلى المعلومات الكافية، وهي ميزة أمان تمنعها من اختلاق تفاصيل تقنية.
كان رد فعل المجتمع العالمي فورياً وجوهرياً. ففي غضون أشهر من الإصدار، تم تحميل هذه النماذج أكثر من 16 مليون مرة، وحظي المشروع باهتمام واسع من قطاعات الصناعة ووسائل الإعلام حول العالم. ويشير هذا المستوى من التفاعل إلى أن صناعة الاتصالات لديها حاجة عميقة وغير ملباة لأدوات مفتوحة وموثوقة يمكنها المساعدة في إدارة بنيتها التحتية المعقدة. ومن خلال توفير نقطة انطلاق مشتركة، تسمح OTel للباحثين والمهندسين بالتركيز على حل مشكلات محددة بدلاً من إعادة بناء الأساسيات. ولا يُقدم المشروع كحل نهائي، بل كأساس قابل للتكرار يمكن للمجتمع توسيعه وتحسينه وتكييفه لجعل شبكات الاتصالات أكثر أماناً وكفاءة وسهولة في الإدارة.
ملخص تقني: Open Telco (OTel) – بناء أسس نماذج لغوية كبيرة متخصصة في مجال الاتصالات
1. بيان المشكلة
بينما تقدمت النماذج اللغوية الكبيرة الرائدة بسرعة، إلا أنها تعاني بشكل كبير في المهام المتعلقة بقطاع الاتصالات. يتميز هذا المجال بـ:
التعقيد والكثافة: تمتد المعايير (مثل 3GPP وO-RAN وGSMA وIETF RFCs) عبر مئات الآلاف من الصفحات، وهي مترابطة للغاية وتخضع لمراجعات مستمرة.
البنية التحتية المجزأة: على عكس المجالات الناضجة مثل الطب أو القانون، يفتقر النظام البيئي للذكاء الاصطناعي في قطاع الاتصالات إلى مورد مفتوح موحد. يواجه الممارسون حالياً حالة من "عدم التماثل"؛ فبينما توجد اختبارات قياسية (مثل لوحة متصدرين GSMA لذكاء الاتصالات المفتوح)، لا يوجد أساس مشترك لبيانات التدريب، أو مسارات تنقية البيانات، أو خطوط أساس قابلة لإعادة الإنتاج.
عواقب الفشل: الأخطاء في هذا المجال (مثل سوء تكوين الشبكات أو التفسير الخاطئ للبروتوكولات) تحمل تكاليف باهظة. إن نمذجة اللغة العامة غير كافية؛ إذ يتطلب الأمر بيانات تدريب متخصصة في المجال، ومسارات استرجاع مضبوطة وفقاً لمصطلحات الاتصالات، واختبارات تقييم واقعية.
2. المنهجية
يعالج مشروع OTel هذه الفجوات من خلال جهد تعاوني واسع النطاق يضم أكثر من 100 خبير في المجال من الصناعة والأكاديميا. تشمل المنهجية ثلاث طبقات مترابطة:
أ. جمع البيانات وتنسيقها
يجمع متن المصادر ما يقرب من 1.1 مليون نقطة تدريب خام من ست فئات: وثائق GSMA، مواصفات 3GPP، مواد تحالف O-RAN، وثائق IETF RFC، الأوراق البيضاء الصناعية، والأوراق الأكاديمية.
مصادر البيانات: تشمل المساهمات حوالي 680 ألف ثلاثية (سؤال-جواب) من جامعة ييل (arXiv، 3GPP، ويكيبيديا، Common Crawl)، و158 ألفاً من GSMA، و100 ألف من NetoAI (مشتقة من RFC)، وأكثر من 160 ألفاً من جامعة خليفة، وجامعة ليدز، وجامعة تكساس في دالاس (O-RAN/الأوراق البيضاء).
مسار الإثراء: تم تطوير مسار مكون من ست مراحل لتحويل البيانات الخام إلى إشراف جاهز للاسترجاع، خاصة لمجموعة بيانات جامعة ييل التي كانت تفتقر إلى فقرات استرجاع صريحة. شملت الخطوات:
تجميع أزواج (السؤال-الجواب) حسب الوثيقة المصدر.
إنشاء فقرات مرشحة عبر النافذة المنزلقة والتقطيع الدلالي.
تنقيب السلبيات الصعبة (داخل الوثيقة وبين الوثائق) وإعادة التقييم.
التحقق من الادعاءات المستندة إلى الحقائق (تفكيك الإجابات إلى ادعاءات ذرية).
التقليل الجشع (Greedy minimization) لاختيار الحد الأدنى الكافي من السياق.
التنقية والفلترة: كشفت الاختبارات التجريبية عن ضجيج كبير في الأجزاء الخام (تفاوت الأداء من 71.1% إلى 3.9% في دقة Acc@1). تم تطبيق فلتر صارم من أربع مراحل:
الفلترة الاستدلالية (الأمثلة المشوهة أو ذات المعلومات المنخفضة).
الفلترة الدلالية القائمة على إعادة الترتيب (ضعف المحاذاة).
الفلترة الدلالية القائمة على التضمين (التكرار القريب أو ضعف التماسك).
إزالة التكرار العالمي.
النتيجة: تم تقليص المتن من 1.1 مليون نقطة خام إلى 326,767 مثالاً عالي الثقة.
ب. مجموعات البيانات المشتقة
يتم إصدار البيانات المنقحة في أربعة تنسيقات مخصصة للمهام، بما يتوافق مع سير عمل التوليد المعزز بالاسترجاع (RAG):
OTel-Embedding: مرساة (Anchor)، ونقطة إيجابية، وما يصل إلى خمس فقرات سلبية صعبة للتدريب التبايني على التضمين.
OTel-Reranker: أزواج (استعلام-فقرة) مع تسميات صلة ثنائية للتدريب على المشفر المزدوج (Cross-encoder).
OTel-LLM: مطالبات ضبط التعليمات المستندة إلى السياق مع إكمال مرجعي وعلامات الامتناع عن الإجابة.
OTel-Safety: بيانات لغوية موسعة خصيصاً لضبط الامتناع، لتدريب النماذج على رفض الإجابة عندما يكون السياق خارج الموضوع أو غير كافٍ.
ج. خطوط الأساس لما بعد التدريب
يصدر OTel 30 نموذجاً كاملاً لخطوط الأساس لما بعد التدريب، تم تدريبها على مجموعات بيانات OTel المطابقة باستخدام وصفة قابلة لإعادة الإنتاج:
نماذج التضمين (Embedding Models): 10 نماذج (من 22 مليون إلى 8 مليار معلمة).
نماذج إعادة الترتيب (Rerankers): 3 نماذج (من 0.6 مليار إلى 8 مليار معلمة).
النماذج اللغوية (Language Models): 17 نموذجاً (من 270 مليون إلى 32 مليار معلمة).
البنية التحتية للتدريب: موزعة على وحدات معالجة رسومية من نوع AMD MI300X/MI325X/MI355X وNVIDIA A100/H100، مع تحقيق معدل استخدام يصل إلى 94.2%.
نقاط التحقق الأساسية (Base Checkpoints): تبدأ النماذج من نقاط تحقق مفتوحة الأوزان (عائلات Gemma 3، Qwen 3، OLMo 3، Mistral 3، LFM2، RNJ-1).
إعادة الترتيب: مقياس MRR@10 (سرعة رفع الفقرات ذات الصلة).
النماذج اللغوية: الصحة عبر "النموذج كحكم" (GPT-4o mini) على توليد الإجابات المستندة إلى السياق.
اختبارات الضغط: قيمت الاختبارات التي قادها المتعاونون (جامعة تكساس في دالاس، ليدز) أداء المجالات الفرعية (O-RAN، 3GPP، RFC، إلخ)، مما كشف عن تباينات لا تلتقطها النتائج الإجمالية.
3. النتائج الرئيسية
أدى الضبط الدقيق لـ OTel إلى تحسين الأداء باستمرار عبر جميع عائلات النماذج ومقاييس المعلمات:
استرجاع التضمين: تحسن NDCG@10 بمقدار +9.6 إلى +60.2 نقطة مئوية عن النماذج الأساسية، ليصل إلى 93.5%.
إعادة الترتيب: تحسن MRR@10 بمقدار +0.535 إلى +0.598 مطلق، حيث تجاوزت جميع النماذج المضبوطة 0.944 (مقارنة بـ 0.35–0.42 للنماذج الأساسية).
النماذج اللغوية: تحسنت صحة "النموذج كحكم" بمقدار +3.7 إلى +10.0 نقطة مئوية.
OTel-LLM-27B-IT: حقق 88.2% من الصحة.
OTel-LLM-8.3B-IT: حقق 79.6%، متفوقاً على نماذج تمتلك 2-4 أضعاف عدد المعلمات.
OTel-LLM-1.2B-IT: وفر خياراً تنافسياً منخفض التأخير بنسبة 74.4%.
4. الأهمية والادعاءات
يضع البحث OTel ليس كمنتج نهائي، بل كنقطة انطلاق قابلة لإعادة الإنتاج وأساساً للمجتمع. تُصاغ أهميته حول ثلاث ركائز:
دمقرطة أبحاث ذكاء الاتصالات: من خلال توفير بيانات تدريب متوافقة، وخطوط أساس، وبروتوكولات تقييم في مورد واحد، يزيل OTel حاجز البنية التحتية الذي كان يحصر الأبحاث سابقاً في المؤسسات ذات الموارد الداخلية الضخمة. يهدف المشروع إلى ضغط سنوات من الجهود المشتتة في أجندة بحثية متماسكة، على غرار تأثير MedQA وLegalBench وFinBen في مجالاتهم.
التبني والتحقق من قبل الصناعة: يؤكد الاستجابة الفورية للمجتمع (16 مليون عملية تحميل و157+ إشارة إعلامية بحلول مايو 2026) وجود طلب واسع وغير ملبى للبنية التحتية المفتوحة لذكاء الاتصالات. إن تعدد المؤسسات المشاركة في التأليف (التي تشمل مشغلاً رئيسياً في الولايات المتحدة، وتحالفات عالمية، وأربع قارات أكاديمية) يضع OTel كمورد مملوك فعلياً للمجتمع.
النشر المسؤول: السلامة هي جوهر التصميم. يقلل إطار عمل RAG المستند إلى السياق من خطر الهلوسة من خلال إجبار النماذج على الاعتماد على السياق المسترجع. كما تعمل مجموعة بيانات OTel-Safety والنماذج المضبوطة على الامتناع على تدريب النظام صراحةً على رفض الإجابة عندما يكون السياق غير كافٍ أو خارج الموضوع، مما يمنع التخريف في الأسئلة التقنية.
5. القيود والتوجهات المستقبلية
يشير المؤلفون صراحةً إلى القيود الحالية التي تحدد أجندة البحث:
النطاق: المورد مقتصر على اللغة الإنجليزية والنصوص فقط، ويستبعد الرسوم التوضيحية والجداول والبيانات المهيكلة المركزية في وثائق الاتصالات.
التقييم: الاعتماد على تقسيمات محجوزة من متن OTel نفسه يحد من تقييم القدرة على التعميم عبر المجالات المختلفة.
تباين المجالات الفرعية: تخفي النتائج الإجمالية نقاط الضعف في مجالات معينة (على سبيل المثال، أدت الأوراق الأكاديمية ووثائق GSMA PRD أداءً أضعف من O-RAN في اختبارات الضغط).
العمل المستقبلي: تتضمن خارطة الطريق التوسع في البيانات متعددة اللغات ومتعددة الوسائط، وتحسين مجالات فرعية محددة باستخدام "السلبيات الصعبة" الأفضل، ووضع مقاييس لكل مجال فرعي، والتحقق من النماذج باستخدام معايير خارجية.
يختتم البحث بدعوة المجتمع لتوسيع البيانات، وتحسين النماذج، وبناء نماذج لغوية أقوى مستندة إلى السياق في مجال الاتصالات باستخدام الإطار القابل لإعادة الإنتاج المقدم.