💬 NLP

GoCoMA: Hyperbolic Multimodal Representation Fusion for Large Language Model-Generated Code Attribution

تقدم هذه الورقة البحثية GoCoMA، وهو إطار عمل متعدد الوسائط يستفيد من الهندسة الزائدية لدمج أسلوب الكتابة البرمجية وصور المخرجات الثنائية ما قبل التنفيذية لعزو الكود المولد بواسطة النماذج اللغوية الكبيرة بدقة إلى نموذجها المصدر، متفوقاً بذلك على النماذج المرجعية أحادية الوسائط والنموذج الإقليدي.

المؤلفون الأصليون: Nitin Choudhury, Bikrant Bikram Pratap Maurya, Bhavinkumar Vinodbhai Kuwar, Arun Balaji Buduru

نُشر 2026-04-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Nitin Choudhury, Bikrant Bikram Pratap Maurya, Bhavinkumar Vinodbhai Kuwar, Arun Balaji Buduru

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك محقق تحاول معرفة من كتب قطعة برمجية معينة. في الماضي، إذا كتبها إنسان، كان بإمكانك البحث عن "خط يده" — ربًا لأنه يستخدم دائمًا أسماء متغيرات محددة، أو يضع مسافات في أماكن معينة، أو يعلق بطريقة فريدة.

ولكن الآن، تقوم نماذج اللغات الكبيرة (LLMs) مثل ChatGPT أو Copilot بكتابة كود يبدو متطابقًا تقريبًا مع الكتابة البشرية. إنها مثل مُزور بارع يمكنه محاكاة خط يدك بدقة. وهذا يخلق مشكلة كبيرة: من الذي كتب هذا؟ هل هو إنسان، أم ذكاء اصطناعي؟ وإذا كان ذكاءً اصطناعيًا، أي ذكاء اصطناعي هو؟

هنا يأتي دور أداة جديدة تسمى GoCoMA. فكر في GoCoMA كجهاز مسح جنائي عالي التقنية لا ينظر فقط إلى "خط اليد" (النص)، بل ينظر أيضًا إلى "بصمة الإصبع" التي تتركها الآلة عند تجميع الكود (compilation).

إليك كيف يعمل، مقسمًا إلى مفاهيم بسيطة:

1. القرينتان: النص والبصمة

تبحث GoCoMA في شيئين في نفس الوقت:

النص (الكود المصدري - Source Code): هذا هو النص الذي كتبه المبرمج (أو الذكاء الاصطناعي). إنه يشبه قراءة قصة؛ فهو يخبرك عن المعنى والأسلوب الخاص بالكتابة.
البصمة (الصورة الثنائية - Binary Image): عندما يتم تحويل الكود إلى برنامج يمكن للكمبيوتر تشغيله، فإنه يُجمع إلى ملف "ثنائي" (مجموعة من الأصفار والآحاد). تقوم GoCoMA بتحويل هذا الملف الثنائي الفوضوي إلى صورة.
- التشبيه: تخيل أن لديك رسالة مكتوبة بخط اليد. "النص" هو الكلمات الموجودة على الصفحة. أما "البصمة" فهي الورقة نفسها. حتى لو كتب شخصان نفس الكلمات، فإن الورقة قد تختلف في الملمس، أو بقع الحبر، أو أنماط الألياف بناءً على الآلة التي طبعتها. تقوم GoCoMA بتحويل الملف الثنائي إلى صورة لرؤية هذه "الأنسجة الآلية".

2. المشكلة مع الرياضيات العادية (الفضاء الإقليدي - Euclidean Space)

عادةً، عندما تحاول الحواسيب دمج هاتين القرينتين (النص والصورة) في نفس الوقت، فإنها تستخدم رياضيات قياسية (الفضاء الإقليدي).

التشبيه: تخيل أنك تحاول تنظيم مكتبة حيث يتم ترتيب الكتب في شبكة ثنائية الأبعاد مسطحة. إذا كان لديك عدد قليل من الكتب، فالأمر جيد. ولكن إذا كان لديك الملايين من الكتب ذات العلاقات المعقدة (مثل شجرة العائلة)، فإن الشبكة المسطحة ستصبح مزدحمة. لا يمكنك بسهولة إظهار أن "الفصل الأول" هو والد "الفصل الثاني" دون جعل الأرفف ضخمة وفوضوية.
في هذه الرياضيات المسطحة، يتم "ضغط" الاختلافات الدقيقة بين نماذج الذكاء الاصطناعي المختلفة معًا، مما يجعل من الصعب التمييز بينها.

3. الحل: الفضاء الزائدي (كرة بوانكاريه - Poincaré Ball)

تستخدم GoCoMA نوعًا خاصًا من الرياضيات يسمى الهندسة الزائدية (Hyperbolic Geometry).

التشبيه: تخيل مشرومًا (فطرًا) أو شجرة كسورية (Fractal Tree). في هذا الشكل، يكون المركز صغيرًا، ولكن كلما تحركت نحو الخارج، يتوسع الفضاء بشكل أسي.
- يمكنك وضع "الأفكار الكبيرة" (مثل الأسلوب العام للذكاء الاصطناعي) بالقرب من المركز.
- ويمكنك وضع "التفاصيل الدقيقة" (مثل أنماط البايت المحددة في الصورة الثنائية) بعيدًا عند الحواف.
- ولأن الفضاء يتوسع بسرعة كبيرة عند الحواف، يمكنك وضع ملايين التفاصيل الفريدة دون أن تصطدم ببعضها البعض. هذا يسمح لـ GoCMAs بالحفاظ على "الصورة الكبيرة" و"التفاصيل الدقيقة" منظمة تمامًا.

4. الغراء السحري: دمج GCSA

بمجرد وضع القرائن في هذا الفضاء الرياضي الخاص الذي يشبه شكل المشروم، تستخدم GoCoMA غراءً خاصًا يسمى Geodesic Cosine Similarity Attention (GCSA).

التشبيه: تخيل وجود محقق ينظر إلى "النص" ومحقق آخر ينظر إلى "البصمة". في الرياضيات العادية، يصرخ كل منهما بنتائجه للآخر. أما في GoCoMA، فهما في غرفة ذات جدران منحنية. يساعد هذا الانحناء في فهم كيفية ارتباط "النص" بـ "البصمة" بشكل فوري.
إنها تحسب "المسافة" بين أسلوب النص ونمط الصورة الثنائية بطريقة تحترم تسلسلها الهرمي. إنها تدرك: "آه، هذا أسلوب النص المحدد يأتي عادةً من هذا النمط الثنائي المحدد".

5. النتيجة: من الذي كتبه؟

بعد دمج هذه القرائن في هذا الفضاء الرياضي المنحني، تقوم GoCOMA بإسقاط الإجابة مرة أخرى إلى الرياضيات العادية حتى يتمكن الكمبيوتر من اتخاذ قرار نهائي.

لماذا هذا أفضل؟

الطرق القديمة (التي تنظر فقط إلى النص) غالبًا ما ترتبك لأن الذكاء الاصطناعي بارع في محاكاة النصوص.
الطرق الجديدة (التي تنظر فقط إلى الصورة الثنائية) جيدة، لكنها تفتقر إلى السياق.
GoCOMA تجمع بين الاثنين. إنها تدرك أنه بينما قد ينسخ الذكاء الاصطناعي كلمات الإنسان، فإنه يترك "بصمة آلية" فريدة في الملف الثنائي المجمع، وهي بصمة يصعب جدًا تزييفها.

الخلاصة

اختبر الباحثون GoCOMA على مجموعتين ضخمتين من الكود. ووجدوا أنه من خلال النظر إلى كل من الكلمات والصورة الآلية، وباستخدام الرياضيات المنحنية لتنظيم القرائن، استطاعوا تحديد أي ذكاء اصطناعي كتب الكود بدقة تزيد عن 90%+.

هذه خطوة كبيرة للأمام في أمن البرمجيات. هذا يعني أنه يمكننا أخيرًا تتبع الكود الضعيف وصولاً إلى نموذج الذكاء الاصطناعي المحدد الذي أنتجه، مما يساعدنا في إصلاح الثغرات الأمنية وحل ألغاز التراخيص. إنه يشبه منح الشرطة عدسة مكبرة فائقة القدرة ترى كل من الحبر وألياف الورق في آن واحد.

إليك ملخص تقني مفصل لورقة البحث: "GoCoMA: دمج التمثيلات متعددة الوسائط في الفضاء الزائدي لنسب الكود المولد بواسطة النماذج اللغوية الكبيرة."

1. بيان المشكلة

يمكن للنماذج اللغوية الكبيرة (LLMs) المدربة على مجموعات ضخمة من الأكواد البرمجية توليد كود يكاد لا يمكن تمييزه عن الكود الذي يكتبه البشر. وتثير هذه القدرة مخاوف بالغة تتعيد على:

الأمن: قد تولد النماذج اللقية كوداً يحتوي على ثغرات أو تبتكر حزم برمجية غير موجودة (Hallucination).
الترخيص والسرقة الأدبية: الغموض بشأن أصل الكود (بشري أم نتاج نموذج لغوي محدد) يخلق مخاطر قانونية وأخلاقية.
التحقيق الجنائي الرقمي: هناك حاجة ملحة لآلية قوية لـ نسب ملكية الكود (CAA) لتتبع الكود وإرجاعه إلى النموذج الذي ولّده.

محددات النهج الحالية:

الاقتصار على الكود المصدري فقط: الاعتماد فقط على سمات الكود المصدري (مثل الأسلوب أو أشجار الإعراب المجردة ASTs) يغفل الإشارات السلوكية الأعمق.
العلامات المائية (Watermarking): غالباً ما تكون غير موثوقة لأنها تتطلب قيام مزود النموذج بتنفيذها بنشاط، وتفشل مع الأكواد الموجودة مسبقاً.
فجوات التمثيل العميق: تعاني طرق التعلم العميق الحالية مع الإعدادات متعددة اللغات، وتفشل في الاستفادة من الإشارات منخفضة المستوى المستمدة من المخلفات الثنائية ما قبل التنفيذية (BPEA) (مثل ملفات الكائنات المجمعة own object files، أو bytecode).
الدمج الإقليدي: غالباً ما يفشل الدمج متعدد الوسائط القياسي في الفضاء الإقليدي في الحفاظ على العلاقات الهرمية الجوهرية بين دلالات الكود عالية المستوى والأنماط البنيوية الثنائية منخفضة المستوى.

2. المنهجية: إطار عمل GoCoMA

يقترح المؤلفون GoCoMA (الاهتمام المتقاطع القائم على تشابه جيب التمام الجيوديسي - Geodesic Cosine similarity-based cross-Modal Attention)، وهو إطار عمل متعدد الوسائط مدرك للهندسة يقوم بدمج الكود المصدري والمخلفات الثنائية داخل فضاء زائدي (Hyperbolic space).

أ. تمثيل البيانات

وسيط الكود (عالي المستوى):
- يتم معالجة الكود المصدري باستخدام نماذج لغوية مسبقة التدريب للكود (Code PLMs) مثل CodeT5+، وQwen2.5-Coder، وUniXcoder، وCodeBERT.
- تستخرج هذه النماذج تمثيلات (embeddings) معجمية، ونحوية، ودلالية عالية المستوى.
وسيط الصورة (منخفض المستوى):
- يتم تجميع الكود المصدري إلى مخلفات ثنائية ما قبل تنفيذية (BPEA) (مثل .o أو .class أو .pyc).
- تُحول هذه الملفات الثنائية إلى صور RGB عن طريق تجميع البايتات المتتالية في ثلاثيات بكسل.
- تقوم نماذج رؤية مسبقة التدريب (Vision PMs) مثل ViT-Base، وConvNeXT، وEfficientNetV2-M، وMaxViT-T بتحليل هذه الصور لالتقاط بصمات التجميع منخفضة المستوى، وتخطيطات البايت، وأنماط التحسين.

ب. استراتيجية الدمج الزائدي

الابتكار الجوهري هو إسقاط التمثيلات في كرة بوانكاري (Poincaré ball) (فضاء زائدي ذو انحناء سلبي ثابت) لنمذجة الهرمية الخارجية بين الكود والمخلفات الثنائية.

الإسقاط (إقليدي $\leftarrow$ زائدي):
- يتم رسم خرائط التمثيلات الإقليدية ( $h^{(E)}$ ) من نماذج PLM وPTM إلى كرة بوانكاري ( $D^n_c$ ) باستخدام الخريطة الأسية الريمانية:
  $h^{(H)} = \tanh(\sqrt{c} \|h^{(E)}\|) \frac{h^{(E)}}{\sqrt{c} \|h^{(E)}\|}$
الاهتمام القائم على تشابه جيب التمام الجيوديسي (GCSA):
- بدلاً من الاهتمام القياسي بضرب النقطة (dot-product attention)، يستخدم GoCoMA تشابه جيب التمام الجيوديسي لحساب أوزان الاهتمام بين تمثيلات الكود وتمثيلات الصور داخل المنوع الزائدي.
- يستخدم هذا النهج خرائط موبيوس الخطية لتحويلات الاستعلام (Query)، والمفتاح (Key)، والقيمة (Value) لضمان اتساق الانحناء.
- يُعرف مقياس التشابه بـ: $GCS(x, y) = \cos(\frac{\sqrt{c}}{2} d_c(x, y))$ ، حيث $d_c$ هي المسافة الجيوديسية.
التجميع وإعادة الإسقاط:
- يتم تجميع الميزات باستخدام إضافة موبيوس ( $\oplus_c$ ) للحفاظ على التبعيات الهرمية.
- يتم رسم خريطة التمثيل الزائدي المدمج عائداً إلى الفضاء الإقليدي عبر الخريطة اللوغاريتمية لأجل التصنيف النهائي.

3. المساهمات الرئيسية

منظور متعدد الوسائط: أول إطار عمل يجمع بين الكود المصدري وصور BPEA كإشارات متكاملة، مما يؤسس لـ "هرمية خارجية" حيث يلتقط الكود الدلالات عالية المستوى بينما تلتقط BPEA الأنماط الهيكلية/التحسينية منخفضة المستوى.
الدمج المدرك للهندسة: تقديم GoCoMA، الذي يستفيد من الهندسة الزائدية (كرة بوانكاري) و GCSA لدمج الوسائط. يحافظ هذا النهج نظرياً على النمو الشجري والعلاقات الهرمية بشكل أفضل من الدمج أو الاهتمام الإقليدي.
التحقق التجريبي: أثبت تفوقاً مستمراً على النماذج القوية أحادية الوسائط، والنماذج متعددة الوسائط الإقليدية، وطرق التلقين (prompting) المتقدمة للنماذج اللغوية الكبيرة على اثنين من المعايسات الرئيسية.

4. النتائج التجريبية

تم تقييم الإطار على معيارين مفتوحي المصدر:

CoDET-M4: مجموعة بيانات ضخمة، متعددة اللغات (C++، Java، Python)، ومتعددة المجالات، تحتوي على كود بشري مقابل كود مولد بالذكاء الاصطناعي.
LLMAuthorBench: نسب دقيق بثماني فئات عبر نماذج لغوية حديثة وثيقة الصلة (مثل GPT-4o، وClaude-3.5، وLlama 3.3).

النتائج الرئيسية:

أداء فائق: حقق GoCoMA أعلى درجات الدقة ودرجة F1 الكلية (Macro-F1).
- في LLMAuthorBench، حقق أفضل تكوين (CodeT5+ + ViT مع GCSA) دقة بلغت 98.92% ودرجة Macro-F1 بلغت 93.82%.
- في CoDET-M4، حقق التكوين نفسه دقة بلغت 88.67%.
المقارنة مع النماذج المرجعية:
- مقابل أحادي الوسائط: تفوق الدمج متعدد الوسائط بشكل كبير على النماذج أحادية الوسيط.
- مقابل الدمج الإقليدي: تفوق الدمج الزائدي (إضافة موبيوس) على الدمج الإقليدي والاهتمام المتقاطع (cross-attention). كما تفوق GoCoMA (GCSA) على عمليات الدمج الزائدي القياسية.
- مقابل النماذج اللغوية الكبيرة: تفوق GoCoMA بشكل كبير على النماذج اللغوية العامة (مثل GPT-5.1، وDeepSeek) المستخدمة في سياقات Zero-shot وFew-shot. على سبيل المثال، في CoDET-M4، تفوق GoCoMA (89.00%) بفارق شاسع على GPT-5.1 (75.20%) في حالة Few-shot.
رؤى الاختبارات الاستبعادية (Ablation):
- نماذج Code PLM وحدها قوية، لكن صور BPEA توفر إشارات مكملة منخفضة المستوى.
- نقل عملية الدمج إلى الفضاء الزائدي يحقق أكبر المكاسب، مما يؤكد أن العلاقة الهرمية بين الكود والمخلفات الثنائية تُفهم بشكل أفضل في الفضاء ذي الانحناء السلبي.

5. الأهمية والمحدودية

الأهمية:

القدرة الجنائية: يوفر طريقة قوية ومستقلة عن النموذج لتتبع الكود وإرجاعه إلى نماذج لغوية محددة، مما يعالج مخاوف الأمن والترخيص.
التقدم النظري: يثبت أن الهندسة الزائدية أفضل لدمج البيانات متعددة الوسائط ذات الهياكل الهرمية (الدلالات عالية المستوى مقابل البايتات منخفضة المستوى).
التطبيق العملي: يقدم "وصفة" لنسب دقيق وعالي الجودة: اقتران نموذج Code PLM عالي السعة مع مشفر صور يعتمد على ViT مدمج عبر GCSA.

المحدودية:

التعميم: النتأجات مبنية على معيارين محددين؛ ولم يتم إثبات القدرة على التعميم على لغات أخرى أو أنظمة بناء (build systems) أخرى.
الحساسية لسلسلة الأدوات (Toolchain): عملية تحويل الثنائي إلى صورة حساسة للمترجمات (compilers)، وعلامات التحسين (optimization flags)، والروابط (linkers)، والتي يمكن أن تغير تخطيطات البايت.
التحليل الساكن فقط: يحلل المنهج المكونات الثابتة ويغفل آثار وقت التشغيل (runtime traces) أو البيانات الوصفية لعملية البناء.
المتانة: لم يتم اختبار الأداء ضد تعمية الأسلوب (style obfuscation)، أو توحيد التنسيق (formatting normalization)، أو حشو البايتات (binary padding).

ختاماً، يمثل GoCoMA خطوة هامة للأمام في مجال التحقيق الجنائي للبرمجيات من خلال الربط الفعال بين دلالات الكود عالية المستوى والمخلفات الثنائية منخفضة المستوى عبر منظور الهندسة الزائدية.