ملخص تقني: الإنجليزية التلغرافية (Telegraph English - TE)

بيان المشكلة

مع تزايد نشر النماذج اللغوية الكبيرة (LLMs) في تطبيقات التوليد المعزز بالاسترجاع (RAG)، وتنسيق الوكلاء المتعددين (multi-agent orchestration)، والاستدلال طويل السياق، أصبح التوسع الخطي لتكاليف المدخلات مع عدد الرموز (tokens) عائقاً جعل من ضغط المطالبات (prompt compression) ركيزة حاسمة للتحكم في زمن الاستجابة والتكلفة. تندرج الأساليب الحالية ضمن فئتين: الطرق الاستخراجية (اختيار مجموعات فرعية من الرموز/الجمل) والطرق التجريدية (إعادة الصياغة/التلخيص).

يمثل LLMLingua-2، وهو خط الأساس الحالي في أحدث التقنيات، نموذجاً يستخدم مصنفاً لحذف الرموز منخفضة الأهمية بنسبة ثابتة. ومع ذلك، يعاني نهج حذف الرموز هذا من قيود هيكلية:

1. النسبة الثابتة: يقوم بضغط المدخلات الكثيفة والمسهبة بنفس المعدل، متجاهلاً كثافة المعلومات.
2. الضرر الهيكلي: يمكن لحذف الرموز أن يقطع سلاسل المراجع (co-reference chains) ويدمر الروابط المنطقية، مما يجبر النماذج اللاحقة على تخيل علاقات بين الأجزاء المتبقية.
3. الافتقار إلى الهيكل: المخرج هو نسخة مشوهة من المدخلات، تفتقر إلى التنظيم الداخلي المطلوب للفهرسة، أو التقليم الانتقائي، أو التحديثات الديناميكية.
4. محدودية خط الأنابيب (Pipeline): يعمل فقط كمعالج مسبق للمدخلات؛ حيث تمر المخرات المولدة دون ضغط إلى مراحل خط الأنابيب اللاحقة، مما يمنع تحقيق وفورات تراكمية في أنظمة الوكلاء متعددة الخطوات.

المنهجية: الإنجليزية التلغرافية (TE)

يقترح المؤلفون الإنجليزية التلغرافية (TE)، وهي بروتوكول لضغط المطالبات يعيد كتابة اللغة الطبيعية إلى لهجة غنية بالرموز وذات بنية رسمية بدلاً من حذف الرموز.

المبادئ الأساسية

تُحكم قواعد TE (الإصدار 5) بأربعة مبادئ ذات أولوية صارمة:

1. الأمانة فوق الإيجاز: لا يتم إسقاط أي معلومة ما لم تكن مستنتجة من الباقي.
2. بنية السطر الذرية: يحتوي كل سطر في المخرج على ادعاء واحد، أو خطوة، أو حدث، أو سؤال واحد فقط.
3. اصطلاحات الحالة (Case Conventions): استخدام الأحرف الكبيرة (Upper-case) بشكل افتراضي، باستثناء الأسماء العلم، والأكواد، ورموز الوحدات الدولية (SI).
4. الضغط التكيفي: يستهدف ضغطاً بنسبة ~5 أضعاف حيثما كان ذلك ممكناً، ولكن الأمانة والقدرة على التدقيق لها الأولوية على تقليل عدد الرموز.

القواعد والرمزية

تستخدم TE مفردات ثابتة تتكون من حوالي 40 رمزاً منطقياً وعلاقياً (مثل → للتعبير عن السببية، و ∴ للاستنتاج، و VS للمقارنة، و ↑/↓ للزيادة/النقصان). تحل هذه الرموز محل العبارات المطولة (على سبيل المثال، تصبح عبارة "أدى تطبيق... إلى" هي →).

• الوسوم (Tags): يعمل نظام الوسم (مثل :PAST و :LIKELY و :AGENT و :CTX) على دمج الأطر النحوية المطولة في رموز مفردة، مما يوفر مقابض هيكلية للاسترجاع.
• اصطلاحات النطاق: تنسيقات معيارية للكميات، والاقتباسات، والبيانات المالية، وعناوين URL لمنع الأخطاء الواقعية.

عملية الضغط

المُضغط هو نموذج لغوي كبير (تحديداً o4-mini من OpenAI في التجارب) موجه بمطالبة نظام (system prompt) مكونة من 430 سطراً تتضمن:

• التحقق الذاتي: قائمة فحص جودة مكونة من 12 نقطة مدمجة في المطالبة لضمان اتساق التنسيق والحفاظ على المعلومات.
• تسلسل التقطير: ترتيب استدلال من ست مراحل (تحديد المفاهيم ← استخراج الادعاءات ← رسم خرائط العلاقات ← إزالة الحشو ← التحقق الرقمي ← مطابقة الاقتباسات) يتم تنفيذه ضمن استدعاء استدلال واحد.

مبدأ "اضغط مرة واحدة، وأدر باستمرار"

تعد ميزة معمارية فريدة لـ TE هي أن الضغط والتقطيع الدلالي (semantic chunking) هما العملية ذاتها. ولأن كل سطر مخرج هو حقيقة ذرية، فإن التمثيل المضغوط هو في الوقت نفسه فهرس دلالي. وهذا يتيح:

• الاسترجاع الانتقائي: تسترجع الاستعلامات أسطرًا محددة ونطاقاتها دون الحاجة لتقطيع استدلالي.
• الضغط المتدرج عند القراءة: يمكن للأنظمة الاحتفاظ بالأمانة الكاملة للأسطر ذات الصلة مع إسقاط الأجزاء غير ذات الصلة تماماً.
• تحسين الحالة المستمر: يمكن تحديث الحقائق، أو دمجها، أو تقليمها في مكانها دون إعادة تشغيل المُضغط.

الإعداد التجريبي

• مجموعة البيانات: 4,081 زوجاً من (سؤال-جواب) مستمدة من 339 وثيقة طويلة من LongBench-v2 (سؤال وجواب في وثيقة واحدة، سؤال وجواب في وثائق متعددة، وسجل حوار طويل).
• النماذج المرجعية (Baselines): تمت المقارنة مع LLMLingua-2 عند معدلات احتفاظ بنسبة 50% و33%.
• النماذج التي تم تقييمها: خمسة نماذج من OpenAI (GPT-4.1، GPT-4o، GPT-4o-mini، GPT-4.1-nano، ونسخة مضبوطة بدقة).
• أدوات التقييم:
  • الحقائق الرئيسية (Key Facts): 4,081 زوجاً يستهدف المفاهيم الأساسية والادعاءات الرئيسية.
  • الحقائق الدقيقة (Fine Facts): 801 زوجاً تنافسياً يستهدف المؤهلات العددية الدقيقة، والعبارات الشرطية، والظروف الحدية.

النتائج الرئيسية

1. الحفاظ على الدقة

• الحقائق الرئيسية: عند تقليل الرموز بنسبة 50% تقريباً، تحافظ TE على دقة بنسبة 99.1% على نموذج GPT-4.1 (انخفاض قدره 0.9 نقطة مئوية فقط)، متفوقة قليلاً على LLMLingua-2 (0.990).
• الحقائق الدقيقة: تُظهر TE ميزة كبيرة في المهام كثيفة التفاصيل. على نموذج GPT-4o-mini، تنخفض TE بنسبة 9.5 نقطة مئوية مقارنة بالأصل، بينما تنخفض LLMLingua-2 بنسبة 11.8 نقطة.
• ميزة النماذج الصغيرة: تتسع الفجوة في الأداء مع النماذج الأصغر. في مهام التفاصيل الدقيقة على GPT-4o-mini، تتفوق TE على LLMLingua-2 بما يصل إلى 11 نقطة مئوية عند مقارنتهما بمعدلات ضغط متساوية.

2. إحصائيات الضغط

• متوسط نسبة الضغط هو 0.585 (تقليل بنسبة 41.5%)، لكنه تكيفي. فالوثائق التقنية الكثيفة تقاوم الضغط (نسبة قريبة من 1.0)، بينما تحقق النصوص السردية المطولة نسباً تصل إلى 5:1.
• على عكس حذف الرموز، لا تفرض TE نسبة ثابتة؛ إذ تظل الأمانة هي القيد الأساسي.

3. التكلفة على مستوى خط الأنابيب (Pipeline-Level Cost)

في خط أنابيب وكيل محاكى مكون من خمس خطوات، يحقق قدرة TE على الاستمرار كصيغة أصلية عبر المراحل وفورات كبيرة. بينما يقوم LLMLingua-2 بضغط المدخلات الأولية فقط، تقوم TE بتقليل إجمالي عدد الرموز لدفعة مكونة من 1,000 استدعاء من ~4,000 رمز (الأصل) إلى ~1,600 رمز، مما يؤدي إلى خفض التكلفة بنسبة 60% مقارنة بالأصل و36% مقارنة بـ LLMLingua-2.

الأهمية والادعاءات

تجادل الورقة بأن إعادة الكتابة الدلالية المهيكلة هي بديل متفوق لحذف الرموز لضغط المطالبات، خاصة في سيناريوهات النشر العملي.

• السلامة الهيكلية: لا تكتفي TE بتقليص النص فحسب، بل تعيد تنظيمه إلى تنسيق مهيكل وقابل للتدقيق حيث تُحدد العلاقات صراحةً بواسطة الرموز بدلاً من أن تكون ضمنية عبر السياق.
• تعويض السعة: يعوض الهيكل العلاقاتي الصريح محدودية سعة النموذج. فالنماذج الأصغر، التي تعاني في إعادة بناء العلاقات الضمنية من نص مجزأ، تستفيد أكثر من مخرجات TE المهيكلة مسبقاً.
• الإدارة الديناميكية: من خلال توحيد الضغط والتقطيع، تتيح TE سير عمل "اضغط مرة واحدة، وأدر باستمرار"، مما يسمح باسترجاع الحقائق وتحديثها بشكل انتقائي دون استدعاءات إضافية للنموذج اللغوي.
• القيود: يقر المؤلفون بأن TE تتطلب استدعاءً لنموذج لغوي لكل قطعة (مما يزيد من زمن الاستجابة/التكلفة عند وقت الضغط)، وتعتمد على نماذج تقييم مملوكة، وهي حالياً مقتصرة على اللغة الإنجليزية. علاوة على ذلك، تُقدم قدرة "الإدارة المستمرة" كحجة معمارية أكثر منها نتيجة تم اختبارها تجريبياً في جلسات متعددة الأدوار.

ختاماً، تثبت الإنجليزية التلغرافية أن الحفاظ على هيكل المعلومات من خلال إعادة الكتابة الرمزية يحقق أداءً أفضل في المهام اللاحقة وفائدة تشغيلية أكبر من مجرد حذف الرموز، خاصة للنماذج الأصغر والمهام التي تتطلب دقة عالية في التفاصيل.