🤖 machine learning

Forward-Forward Autoencoder Architectures for Energy-Efficient Wireless Communications

تقترح هذه الورقة البحثية وتقيم بنيات المشفرات التلقائية ذات الانتشار الأمامي (Forward-Forward) للاتصالات اللاسلكية الموفرة للطاقة، وتثبت قدرتها التنافسية مع الأنظمة المدربة بطريقة الانتشار العكسي (backpropagation) في سيناريوهات القنوات المختلفة، بينما توفر وفراً كبيراً في الذاكرة ووقت المعالجة.

المؤلفون الأصليون: Daniel Seifert, Onur Günlü, Rafael F. Schaefer

نُشر 2026-02-17

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Daniel Seifert, Onur Günlü, Rafael F. Schaefer

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت إرسال رسائل سرية عبر محيط هائج. يتكون الروبوت من جزأين: المرسل (المشفر) الذي يكتب الرسالة، والمستقبل (فك التشفير) الذي يحاول قراءتها بعد أن تعبث بها الأمواج (الضجيج).

لعقود من الزمن، كانت الطريقة القياسية لتعليم هذا الروبوت تسمى الانتشار العكسي (Backpropagation - BP). فكر في الانتشار العكسي كمعلم صارم وبطيء يعمل بطريقة محددة:

يحاول الروبوت إرسال رسالة.
يحاول المستقبل قراءتها ويجد أخطاءً.
يرسل المستقبل "ملاحظة تصحيحية" عائدة إلى المرسل، طبقة تلو الأخرى، تقول له: "لقد فعلت هذا بشكل خاطئ، قم بإصلاحه".
المشكلة: يجب على المرسل الانتظار حتى ينتهي المستقبل من فحص كل شيء قبل أن يتعلم. كما يحتاج المعلم لتذكر كل تفصيل صغير من الرحلة لكتابة هذه الملاحظات التصحيحية. وهذا يتطلب الكثير من القدرات الذهنية (الذاكرة) والطاقة، ويتعطل إذا كان المحيط (القناة) فوضوياً للغاية بحيث لا يمكن قياسه بدقة.

الفكرة الجديدة: التعلم الأمامي-الأمامي (Forward-Forward - FF)

يقدم هذا البحث طريقة جديدة وأكثر كفاءة لتعليم هذا الروبوت تسمى التعلم الأمامي-الأمامي (FF). بدلاً من معلم صارم يرسل ملاحظات إلى الوراء، تخيل مدرباً يستخدم لعبة "الجيد مقابل السيئ".

إليك كيف يعمل مدرب الـ FF:

1. تدريبات "الجيد" و"السيئ"

بدلاً من النظر إلى الخطأ النهائي والعمل بشكل عكسي، يقوم المدرب بتشغيل تدريبين منفصلين لكل طبقة من طبقات الروبوت:

تدريب "الجيد" (التمرير الإيجابي): يعرض المدرب على الروبوت رسالة يُفترض أن تنجح (مثلاً: "أرسل كلمة 'مرحباً' واستقبل 'مرحباً'"). يحاول الروبوت جعل نشاطه الداخلي يبدو "جيداً" (نشطاً وواثقاً).
تدريب "السيئ" (التمرير السلبي): يعرض المدب على الروبوت رسالة لا ينبغي أن تنجح (مثلاً: "أرسل 'مرحباً' ولكن تظاهر بأنك استقبلت 'وداعاً'"). يحاول الرباط جعل نشاطه الداخلي يبدو "سيئاً" (ضعيفاً أو مرتبكاً).
يتعلم الروبوت ببساة من خلال محاولة تعظيم الشعور بـ "الجيد" وتقليل الشعور بـ "السيئ" عند كل خطوة، دون الحاجة لانتظار حكم نهائي من النهاية.

2. لا مزيد من "القفل العكسي"

في الطريقة القديمة (BP)، كان على الفريق بأكمله الوقوف والانتظار حتى ينهي آخر شخص تقييمه قبل أن يتمكن أول شخص من التحرك. لقد كان ذلك يشبه ازدحام المرور.
في طريقة FF، يمكن لكل طبقة من طبقات الروبوت أن تتعلم بشكل مستقل ومتزامن. إنه يشبه سباق التتابع حيث يتدرب كل عداء على الجزء الخاص به في نفس الوقت، بدلاً من الانتظار لرؤية خط النهاية لمعرفة كيف كان أداؤه. هذا يجعل التدريب أسرع ويسمح بـ "التدفق المستمر" (pipelining).

3. التعامل مع المحيط "غير القابل للتعليم"

أحياناً، يكون المحيط هائجاً لدرجة أنه لا يمكنك وصف الأمواج رياضياً (قنوات غير قابلة للتفاضل). معلم الـ BP القديم يتعثر لأنه لا يستطيع حساب "ميل" الخطأ.
أما مدرب الـ FF فلا يهتم بالميول. هو فقط يسأل: "هل بدا هذا كرسالة جيدة أم رسالة سيئة؟" هذا يسم يسمح للروبوت بالتعلم حتى عندما تكون قناة الاتصال فوضوية أو تتضمن خطوات صعبة وغير متغيرة (مثل إجبار الإشارة على أن تكون نوعاً معيناً من المفاتيح الرقمية، المعروف باسم التكميم/quantization).

ماذا وجد الباحثون؟

قام الباحثون ببناء هذا الروبوت الجديد واختبروه مقابل الروبوت القديم:

إنه يعمل بنفس الكفاءة: في الظروف العادية (بحار هادئة أو هائجة)، أدى روبوت الـ FF أداءً يقارب تقريباً أداء روبوت الـ BP القديم.
يتفوق في المهام الصعبة: عندما أجبروا الروبوت على استخدام مفاتيح رقمية "صعبة" (التي يكرهها المعلم القدي)، تفوق روبوت الـ FF في الواقع على القديم. فقد عانى المعلم القديم للتعلم عبر هذه المفاتيح، لكن مدرب الـ FF استمر ببساطة في لعب لعبة "الجيد مقابل السيئ" وفهم الأمر.
يوفر الطاقة والذاكرة: بما أن روبوت الـ FF لا يحتاج لتخزين قائمة ضخمة من "الملاحظات التصحيحية" لكل خطوة، فإنه يستخدم ذاكرة أقل بكثير. وهذا أمر بالغ الأهمية للأجهزة التي تعمل بالبطارية (مثل هاتفك أو مستشعر في حقل بعيد).
أسرع: بما أن الطبقات لا تضطر للانتظار لبعضها البعض، فإن عملية التدريب أكثر كفاءة بكثير.

الصورة الكبيرة

فكر في الانتشار العكسي (Backpropagation) كحاسوب خارق باهظ الثمن يحتاج إلى خريطة مثالية للعالم لكي يتعلم. إنه قوي ولكنه ثقيل وبطيء.

أما التعلم الأمامي-الأمامي (Forward-Forward) فهو يشبه طائرة بدون طيار ذكية ومنخفضة الطاقة تتعلم من خلال التجربة والخطأ في الوقت الفعلي. هي لا تحتاج إلى خريطة مثالية؛ بل تحتاج فقط لمعرفة ما يشعر بأنه "صحيح" وما يشعر بأنه "خاطئ".

لماذا يهم هذا؟
بينما ننتقل نحو الجيل السادس (6G) و"إنترنت الأشياء"، نحتاج إلى أنظمة اتصالات تتسم بكفاءة عالية جداً في استهلاك الطاقة وتعمل في بيئات غير متوقعة. يوضح هذا البحث أنه يمكننا بناء هذه الأنظمة باستخدام أسلوب تعلم جديد أخف وأسرع ولا يتعثر عندما تصبح الأمور فوضوية. إنها خطوة نحو جعل شبكاتنا اللاسلكية أكثر ذكاءً وأكثر رفقاً بالبيئة.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "بنى المشفرات التلقائية بنظام (Forward-Forward) للاتصالات اللاسلكية الموفرة للطاقة."

1. بيان المشكلة

واجه تطبيق التعلم العميق (DL) في الاتصالات اللاسلكية، وتحديداً للترميز والتشكيل (modulation) المتعلم من طرف إلى طرف، عقبات كبيرة بسبب اعتمادها التقليدي على خوارزمية الانتشار العكسي (Backpropagation - BP). ومع ذلك، تواجه خوارزمية BP تحديات جوهرية في أنظمة الاتصالات العملية:

متطلب القابلية للاشتقاق: تتطلب BP مساراً قابلاً للاشتقاق بالكامل عبر الشبكة بأكملها، بما في ذلك القناة. وغالباً ما تكون القنوات في العالم الحقيقي غير قابلة للاشتقاق أو يمكن ملاحظتها فقط عبر عينات المدخلات والمخرجات، مما يستلزم نماذج مبسطة أو حلولاً معقدة (مثل الشبكات التنافسية التوليدية GANs أو التعلم التعزيزي RL مع روابط تغذية راجعة).
عدم كفاءة الذاكرة والطاقة: تتطلب BP تخزين المشتقات الجزئية لكل عقدة أثناء مرحلة المرور الخلفي. وهذا يخلق حالة من "القفل الخلفي" (backward lock)، حيث يجب على الطبقات انتظار التدرجات من الطبقات اللاحقة، مما يعيق عملية التوصيل المتسلسل (pipelining). ويعد هذا أمراً بالغ الأهمية بشكل خاص في تطبيقات الأجهزة العصبية (neuromorphic) والتماثلية (مثل الممرستورات/memristors) حيث يكون تخزين المشتقات مستهلكاً للطاقة وصعباً من الناحية الفيزيائية.
القيود العتادية: تعتمد تطبيقات العتاد الحالية غالباً على التدريب الخارجي (ex-situ) يليه رسم الأوزان، وهو ما يعاني من تدهور الأداء بسبب العيوب العتادية. كما يصعب إجراء التدريب الداخلي الحقيقي (in-situ) باستخدام BP بسبب متطلبات المرور الخلفي.

2. المنهجية

يقترح المؤلفون استبدال خوارزمية الانتشار العكسي (BP) بخوارزمية (Forward-Forward - FF)، وهي نموذج تعلم مستوحى من البيولوجيا، لتدريب المشفرات التلقائية (autoencoders) من طرف إلى طرف للاتصالات اللاسلكية.

البنية (Architecture)

النموذج: مشفر تلقائي يتكون من مشفر (Encoder) وفك تشفير (Decoder)، وكلاهما يتكون من طبقات متصلة بالكامل (FC) مع تنشيط ReLU (باستثناء الطبقة الأخيرة).
القناة: تم اختبار النظام عبر قنوات الضوضاء البيضاء الغاوسية المضافة (AWGN) وقنوات تلاشي رالي الكتلي (Rayleigh Block Fading - RBF).
التعامل مع عدم القابلية للاشتقاق: تدعم البنية السيناريوهات التي يتم فيها تكميم مخرجات المشفر (على سبيل المثال، إلى رموز BPSK)، وهي عملية غير قابلة للاشتقاق تكسر عملية BP القياسية.

آلية تدريب (Forward-Forward)

على عكس BP، التي تستخدم مروراً أمامياً يتبعه مرور خلفي، تقوم خوارمية FF بإجراء مرورين أماميين لكل خطوة تدريب:

المرور الإيجابي (Positive Pass): تعالج الشبكة بيانات "إيجابية" (الرسالة الحقيقية $m$ مدمجة مع نفسها). الهدف هو تعظيم مقياس "الجودة" ( $g_i = \|a_i\|^2$ ) عند كل طبقة.
المرور السلبي (Negative Pass): تعالج الشبكة بيانات "سلبية" (الرسالة الحقيقية $m$ مدمجة مع رسالة أخرى عشوائية ومختلفة $\bar{m}$ ). الهدف هو تقليل مقياس الجودة.
دالة الخسارة (Loss Function): تمتلك كل طبقة $i$ $i$ دالة خسارة فردية بناءً على عتبة $\tau_i$ $τ_{i}$ :
- $L_i = \zeta(-(g_i - \tau_i))$ للبيانات الإيجابية (لتشجيع النشاط العالي).
- $L_i = \zeta(g_i - \tau_i)$ للبيانات السلبية (لتشجيع النشاط المنخفض).
- هنا، $\zeta$ هي دالة (softplus).
المصنف (Classifier): يتم تدريب طبقة تصنيف منفصلة (مع Softmax) باستخدام خسارة الإنتروبيا المتقاطعة (Cross-Entropy Loss) القياسية على البيانات "المحايدة" (الرسالة $m$ مدمجة مع أصفار) لربط أنشطة فك التشفير بالرسالة الأصلية.

بناء المدخلات

الإيجابي: $v = (1_m || 1_m)$
السلبي: $v = (1_m || 1_{\bar{m}})$ حيث $\bar{m} \neq m$
المحايد (الاستدلال): $v = (1_m || 0)$

3. المساهمات الرئيسية

أول مشفر تلقائي للاتصالات يعتمد على FF: صمم الباحثون وقيموا عددياً مشفرات تلقائية متعلمة من طرف إلى طرف باستخدام خوارزمية FF حصرياً لعمليات القنوات اللاسلكية.
التعامل مع القنوات غير القابلة للاشتقاق: أثبت المؤلفون أن FF تتعامل بشكل طبيعي مع العمليات غير القابلة للاشتقاق (مثل التكميم الصلب لـ BPSK) دون الحاجة إلى تدرجات بديلة (مثل تقدير الممر عبر الحالة - STE المستخدم في BP) أو روابط تغذية راجعة.
المقارنة المرجعية للأداء: تم إجراء مقارنة شاملة ضد الأنظمة المدربة بـ BP والنهج القائمة على التعلم التعزيزي (RL) (التي تستخدم تغذية راجعة خالية من الضوضاء) عبر قنوات AWGN وRBF.
تحليل الموارد: يحدد البحث المقايضات، موضحاً أنه بينما قد تتطلب FF عرض شبكات أكبر لتحقيق أداء مماثل، إلا أنها توفر مزايا كبيرة في وقت المعالجة (التوصيل المتسلسل) واستخدام الذاكرة (عدم الحاجة لتخزين التدرجات).

4. النتائج الرئيسية

الأداء في AWGN: في سيناريوهات المخرجات المستمرة، تحقق مشفرات FF معدلات خطأ في الكتل (BLER) قريبة من الأنظمة المدربة بـ BP، مع فجوة طفيفة في الأداء (~1 ديسيبل) عند مستويات SNR عالية.
الأداء في RBF: تنافس أنظمة FF بفعالية مع أنظمة BP والأنظمة القائمة على RL في بيئات تلاشي رالي.
المخرجات المكممة (BPSK): هذه هي النتيجة الأكثر أهمية. عندما تُجبر مخرجات المشفر على أن تكون غير قابلة للاشتقاق (BPSK):
- تعاني أنظمة BP من تدهور الأداء ما لم تستخدم تدرجات بديلة (STE)، والتي تقرب التدرج بشكل غير كامل.
- يمكن لأنظمة BP-RL سد الفجوة ولكنها تتطلب آليات تغذية راجعة معقدة.
- تتفوق أنظمة FF على كل من BP وBP-RL في هذا السيناريو لأن الخوارزمية لا تعتمد على نشر التدرجات عبر المكمم.
التقارب (Convergence): تتقارب شبكات FF بسرعة تماثل سرعة BP، وبسرعة أكبر بكثير من النهج القائمة على RL.
حجم الشبكة: تتطلب شبكات FF عموماً طبقات أعرض (سعة أعلى) لمضاهاة أداء شبكات BP. ومع ذلك، فإن زيادة العمق وحدها لا تحقق نفس الفوائد كما في BP.
الكفاءة:
- الوقت: تقلل FF من وقت المعالجة عن طريق إلغاء "القفل الخلفي". لشبكة مكونة من $N$ طبقة، تستغرق BP وحدتين زمنيتين لكل طبقة ( $2N$ )، بينما تستغرق FF مقدار ( $N+1$ ).
- الذاكرة: تلغي FF الحاجة لتخزين التدرجات للمرور الخلفي، مما يقلل بشكل كبير من بصمة الذاكرة وحركة البيانات، وهو أمر حاسم للأجهزة الطرفية الموفرة للطاقة.

5. الأهمية

يؤسس هذا العمل لخوارزمية (Forward-Forward) كبديل قابل للتطبيق وموفر للطاقة لانتشار الخلفية (Backpropagation) في أنظمة الاتصالات اللاسلكية. وتكمن أهميته في:

تمكين العتاد التماثلي/العصبي: من خلال إزالة الحاجة لتخزين التدرجات الخلفية والقنوات القابلة للاشتقاق، تجعل FF التدريب الداخلي (in-situ) على الأجهزة التماثلية منخفضة الطاقة (مثل الممرستورات) أمراً ممكناً.
المتانة تجاه القيود الواقعية: تحل مشكلة "القناة غير القابلة للاشتقاق" بشكل طبيعي، مما يسمح بتدريب الأنظمة ذات القيود الصارمة (مثل مخططات التشكيل الثابتة) مباشرة دون تقريبات معقدة.
القابلية للتوسع: توفر القدرة على توصيل التدريب (معالجة الطبقات بشكل مستقل دون انتظار التدرجات العالمية) مساراً لتدريب ونشر أسرع على الأجهزة ذات الموارد المحدودة.

في الختام، بينما قد تتطلب FF بنيات شبكية أكبر لمضاهاة دقة BP الخام في الظروف المثالية، فإن تفوقها في التعامل مع القيود غير القابلة للاشتقاق ومكاسبها الهائلة في كفاءة الذاكرة والطاقة يجعلها مرشحاً واعداً لأنظمة الاتصالات اللاسلكية القادمة الموفرة للطاقة.