ONTO: A Token-Efficient Columnar Notation for LLM Input Optimization
تقدم الورقة البحثية ONTO، وهو تنسيق تسلسل عمودي مبتكر يقلل بشكل كبير من استهلاك رموز مدخلات النماذج اللغوية الكبيرة (LLM) وزمن انتقال الاستدلال عن طريق التخلص من أسماء الحقول المتكررة مع الحفاظ على قابلية القراءة البشرية والبنية الهرمية، دون المساس بدقة المهام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول شرح قائمة ضخمة من 1,000 طلب بقالة لشيف آلي (روبوت) ذكي جداً، ولكنه جائع جداً.
هذا الروبوت (نموذج الذكاء الاصطناعي) لديه حد أقصى لما يمكنه "قراءته" في المرة الواحدة قبل أن يتعب أو يرتبك. هذا الحد يسمى ميزانية الرموز (Token Budget). كل كلمة، ورقم، وعلامة ترقيم تكلف الروبوت "طاقة" (رموز) لمعالجتها.
المشكلة: الروبوت "المُسهب في الشرح"
حالياً، عندما نرسل البيانات إلى هذه الروبوتات، نستخدم تنسيقاً يسمى JSON. فكر في JSON كأنه خادم مهذب جداً، ولكنه مسرف في الكلام، يصر على تقديم كل عنصر باسمه الكامل في كل مرة.
إذا كان لديك 1,000 طلب لـ "التفاح"، فإن خادم JSON سيقول:
"إليك طلب: تفاح. إليك طلب آخر: تفاح. إليك طلب ثالث: تفاح..."
هو يكرر كلمة "تفاح" 1,000 مرة، مع كل الأقواس المزخرفة {}، وعلامات الاقتباس ", والنقطتين الرأسيتين :.
- النتيجة: يقضي الروبوت 80% من طاقته في قراءة الملصقات ("تفاح"، "السعر"، "الكمية") وعلامات الترقية المزخرفة، تاركاً القليل جداً من الطاقة للتفكير في الأرقام والمنطق. الأمر يشبه دفع أجرة سائق تاكسي ليدور بك حول المربع السكني 1,000 مرة فقط ليقول كلمة "تاكسي" بصوت عالٍ في كل مرة تركب فيها.
الحل: Onto (الشيف "الفعّال")
مبتكر هذه الطريقة الجديدة لكتابة هذه القوائم يسمى Onto.
فكر في Onto كأنه جدول بيانات ذكي أو جدول مواعيد قطارات. بدلاً من تكرار رؤوس الأعمدة لكل صف، تكتب الرؤوس مرة واحدة في الأعلى، ثم تسرد البيانات تحتها فقط.
كيف يبدو الأمر:
بدلاً من:
{ "item": "Apple", "price": 1.00 },
{ "item": "Apple", "price": 1.00 },
{ "item": "Apple", "price": 1.00 }
يكتب Onto:
item: Apple|Apple|Apple
price: 1.00|1.00|1.00
تشبيه سحري:
تخيل أنك تحزم حقيبة سفر لرحلة.
- JSON يشبه حزم 1,000 قميص متطابق، ولكنك تغلف كل واحد منها في صندوق منفصل، وتضع ملصقاً على الصندوق مكتوب عليه "قميص"، وتضعه في صندوق أكبر مكتوب عليه "ملابس".
- Onto يشبه طي جميع الـ 1,000 قميص بانتظام في كومة واحدة، وكتابة "قمصان" فوق الكومة، ووضعها في حقيبة السفر.
ماذا وجدوا؟
اختبر الباحثون هذه الطريقة الجديدة مقابل الطريقة القديمة (JSON) وبعض التنسيقات الأخرى. إليك النتائج، مترجمة إلى لغة بسيطة:
- توفير هائل: قلل Onto من كمية النص التي يتعين على الروبوت قراءتها بنسبة تقترب من النصف (46-51%).
- التشبيه: إذا كان عقل الروبوت عبارة عن كتاب من 100 صفحة، فإن JSON جعل الروبوت يقرأ 100 صفحة من النص. أما Onto فقد سمح له بقراءة نفس المعلومات في 50 صفحة فقط.
- تفكير أسرع: لأن الروبوت كان لديه "ضجيج" أقل للقراءة، بدأ في الإجابة على الأسئلة بسرعة أكبر بنسبة 5-10%.
- التشبيه: إنه يشبه الفرق بين قراءة رواية تحتوي على حواشي في كل سطر، وبين قراءة رواية نظيفة. ستصل إلى القصة بشكل أسرع بك كثيراً.
- ذكاء مماثل: لم يرتبك الروبوت. كان لا يزال بإمكانه العثور على عناصر محددة، وعد الأشياء، وإجراء العمليات الحسابية بنفس كفاءة التنسيق القديم الضخم.
- تكلفة "الإزاحة" (Indentation): الحالة الوحيدة التي يكون فيها OntO أقل كفاءة قليلاً هي عندما تكون البيانات معقدة للغاية (مثل صندوق داخل صندوق داخل صندوق). في هذه الحالات، يستخدم Onto المسافات لإظهار "التداخل"، مما يضيف قدراً ضئيلاً من النص الإضافي. ولكن حتى في هذه الحالات، لا يزال أفضل بكثير من الطريقة القديمة.
لماذا يجب أن تهتم؟
في الوقت الحالي، استخدام الذكاء الاصطناዊ للأعمال (مثل تحليل آلاف قراءات المستشعرات من مصنع أو سجلات من موقع إلكتروني) يزداد تكلفة لأنك تدفع مقابل كل ذلك النص الضائع الخاص بـ "الملصقات".
Onto هو أداة تجرد البيانات من الحشو. إنه يخبر الذكاء الاصطناعي: "لا تضيع طاقتك الذهنية في قراءة الملصقات؛ لقد أخبرتك بالفعل ما هي الملصقات. فقط انظر إلى الأرقام وحل المشكلة."
الخلا-صة
تقدم هذه الورقة البحثية "لغة" جديدة للتحدث مع الذكاء الاصطناعي تكون أكثر رشاقة، وأسرع، وأرخص، دون جعل الذكاء الاصطناعي أقل ذكاءً. إنه انتقال بسيط من "تكرار كل شيء" إلى "إدراج كل شيء مرة واحدة"، وهو تغيير جذري لأي شخص يحاول استخدام الذكاء الاصطناعي على كميات كبيرة من البيانات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.