CR^2: Cost-Aware Risk-Controlled Routing for Wireless Device-Edge LLM Inference
تقترح هذه الورقة البحثية إطار عمل CR^2، وهو إطار توجيه ثنائي المراحل بين الجهاز والحافة للاستدلال اللاسلكي للنماذج اللغوية الكبيرة (LLM)، والذي يجمع بين بوابة هامش خفيفة الوزن على الجهاز وبين التحكم في مخاطر التوافق (conformal risk control) لتحسين المقايضة بين زمن الاستجابة والطاقة والدقة مع إدارة مخاطر القبول الخاطئ صراحةً تحت قيود الموارد.