💻 computer science

An Optimized Stacking Ensemble Model for Forecasting Student Dropout

Cette étude présente un modèle d'ensemble de type stacking optimisé intégrant des classifieurs K-Plus Proches Voisins et Réseau Bayésien, amélioré par un ajustement des hyperparamètres et un rééquilibrage basé sur la méthode SMOTE, lequel atteint une précision de 85,9 % et surpasse les méthodes existantes pour fournir un outil d'alerte précoce efficace pour la prévision du décrochage scolaire.

Auteurs originaux : Jackson Kisuule, Anthony Bua

Publié 2026-09-23

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jackson Kisuule, Anthony Bua

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Chaque année, les universités du monde entier sont confrontées à une crise discrète mais persistante : les étudiants qui commencent leurs études mais ne les terminent jamais. Cet attrition n'est pas seulement une tragédie personnelle pour les individus concernés ; elle épuise les ressources des institutions, fait baisser les taux de diplomation et prive les communautés des professionnels qualifiés dont elles ont besoin. Pendant des décennies, les établissements ont tenté de résoudre ce problème en examinant manuellement les notes et l'assiduité, à la recherche d'étudiants qui semblent décliner. Cependant, ces méthodes sont souvent trop lentes pour aider un étudiant avant qu'il ne soit trop tard. Ces dernières années, les chercheurs se sont tournés vers l'apprentissage automatique, une branche de l'informatique où le logiciel apprend à reconnaître des modèles dans les données sans être explicitement programmé avec des règles. En injectant dans ces systèmes les dossiers historiques de milliers d'étudiants, les ordinateurs peuvent identifier des signes avant-coureurs subtils que les observateurs humains pourraient manquer, offrant ainsi une chance d'intervenir tôt et de maintenir les étudiants sur la voie de l'obtention de leur diplôme.

Une équipe de chercheurs de la Victoria University in Kampala, Uganda et de l'Université Unity à Hargeisa, au Somaliland, a franchi une étape supplémentaire en développant un nouveau type de système de prédiction conçu spécifiquement pour ce défi. Au lieu de s'appuyer sur un seul algorithme informatique pour rendre un jugement, ils ont construit un système qui combine les forces de deux méthodes différentes. La première méthode, connue sous le nom de K-plus proches voisins (K-Nearest Neighbors), fonctionne en examinant le dossier d'un étudiant et en trouvant les étudiants passés les plus similaires pour voir ce qui leur est arrivé. La seconde méthode, un réseau bayésien, calcule la probabilité qu'un étudiant abandonne ses études en fonction du réseau complexe de relations entre ses notes, sa situation financière et ses circonstances personnelles. Bien que chaque méthode soit utile individuellement, les chercheurs ont constaté qu'elles perçoivent parfois des choses différentes dans les mêmes données. Pour résoudre cela, ils ont créé un modèle de « stacking » (empilement), une structure où un troisième programme plus intelligent écoute les prédictions des deux premiers et rend la décision finale. Ce programme final agit comme un éditeur chevronné, pesant les preuves provenant des deux sources pour produire un verdict plus fiable que ce qu'aucun des deux ne pourrait accomplir seul.

Les chercheurs ont testé ce système en utilisant une vaste collection de dossiers réels d'étudiants de l'Université Unity, couvrant les années 2021 à 2025. Le jeu de données comprenait plus de 4 400 étudiants et suivait trente-six facteurs différents, allant du nombre de cours réussis par un étudiant à sa situation financière et son profil démographique. Un obstacle majeur dans ce type de recherche est que la plupart des étudiants restent à l'école, tandis qu'un nombre beaucoup plus faible abandonne, créant un terrain de jeu inégal pour l'ordinateur. Pour corriger cela, l'équipe a utilisé une technique pour équilibrer artificiellement les données, garantissant que le système apprenne à reconnaître les signes avant-coureurs d'abandon aussi bien qu'il apprend à reconnaître les étudiants qui sont en sécurité. Ils ont ensuite divisé les données, utilisant la majeure partie pour enseigner au système et en réservant une partie pour tester ses performances sur des étudiants qu'il n'avait jamais vus auparavant.

Les résultats ont montré que le nouveau système combiné était effectivement supérieur aux méthodes individuelles. Lors des tests, le modèle de stacking a correctement identifié si un étudiant allait abandonner ou rester à l'école environ 86 % du temps. Plus important encore, il était très efficace pour détecter les étudiants qui étaient réellement à risque. Il a correctement signalé 81 % des étudiants qui ont fini par partir, une métrique cruciale pour les établissements tentant d'intervenir. En comparaison, les méthodes uniques et une façon plus simple de combiner les données (appelée vote mou ou "soft voting") étaient moins précises, manquant plus d'étudiants à risque ou signalant à tort ceux qui étaient en sécurité. L'analyse a également révélé quels facteurs comptaient le plus : la performance académique, spécifiquement le nombre de cours approuvés et les notes cumulées, était le prédicteur le plus fort, suivie de près par les indicateurs financiers comme le statut des frais de scolarité et le fait qu'un étudiant doive de l'argent à l'institution.

Cette étude démontre qu'en tissant ensemble différents types d'apprentissage automatique, les universités peuvent construire un filet de sécurité plus robuste pour leurs étudiants. Le modèle ne remplace pas les conseillers humains, mais leur fournit un outil puissant pour prioriser leurs efforts. En identifiant les étudiants les plus susceptibles de partir avant qu'ils ne le fassent réellement, les institutions peuvent offrir une aide financière, un tutorat académique ou un soutien psychologique au moment précis où cela est nécessaire. Bien que les chercheurs notent que leur modèle a été entraîné sur les données d'une seule université et que les travaux futurs devraient le tester dans différentes régions et avec des techniques plus avancées, les conclusions offrent une voie claire à suivre. Ils prouvent qu'avec la bonne combinaison de données et d'algorithmes, il est possible de renverser la tendance de l'attrition étudiante, transformant un processus réactif de gestion des abandons en une stratégie proactive pour maintenir les étudiants à l'école.

Résumé Technique : Un Modèle d'Ensemble de Stacking Optimisé pour la Prévision de l'Abandon des Étudiants

Énoncé du Problème
L'abandon des étudiants demeure un défi critique pour les établissements d'enseignement supérieur, impactant négativement la réussite académique, la performance institutionnelle et l'utilisation des ressources. Dans les régions en développement, les taux d'abandon sont persistamment élevés, avec des projections suggérant que jusqu'à 40 % des nouveaux étudiants universitaires pourraient ne pas obtenir leur diplôme sans une intervention ciblée. Les méthodes d'identification existantes reposent souvent sur un suivi manuel et des revues académiques périodiques, qui sont lentes et inefficaces pour une intervention opportune. Bien que des modèles statistiques traditionnels et des algorithmes d'apprentissage automatique individuels (tels que la régression logistique, les K-plus proches voisins et les réseaux bayésiens) aient été appliqués pour prédire l'attrition, ils souffrent souvent de limitations telles que des frontières de décision linéaires, une complexité computationnelle avec des ensembles de données volumineux, ou une difficulté à modéliser l'incertitude dans des données de haute dimension. Il existe un besoin démontré pour un cadre prédictif intelligent et automatisé, capable d'identifier précocement les étudiants à risque en exploitant les données historiques afin de soutenir une prise de décision proactive.

Méthodologie
L'étude propose un modèle d'ensemble de stacking optimisé, conçu pour prévoir l'abandon des étudiants en intégrant les forces complémentaires de classificateurs hétérogènes. La recherche a utilisé un ensemble de données de 4 424 dossiers d'étudiants historiques provenant de l'Université Unity à Hargeisa, Somaliland, couvrant la période de 2021 à 2025. L'ensemble de données comprenait 36 variables prédictives englobant des attributs démographiques, académiques, financiers et institutionnels.

Le pipeline technique comprenait les étapes suivantes :

Prétraitement et Ingénierie des Données : Les variables catégorielles ont été soumises à un codage par étiquetage (label-encoding) et les caractéristiques continues ont été normalisées. Une ingénierie des caractéristiques a été réalisée pour dériver des attributs significatifs.
Équilibrage des Classes : Pour remédier au déséquilibre naturel entre les étudiants poursuivant leurs études et ceux abandonnant, la technique de suréchantillonnage synthétique des minorités (SMOTE) a été appliquée pour équilibrer la distribution des classes.
Apprenants de Base (Base Learners) : L'architecture d'ensemble a employé deux classificateurs de base distincts :
- K-Plus Proches Voisins (KNN) : Configuré avec $K=11$ et une pondération par distance pour capturer les modèles de similitude locale parmi les étudiants.
- Réseau Bayésien (BN) : Implémenté sous la forme d'un classificateur Naive Bayes Gaussien pour modéliser les relations probabilistes et gérer l'incertitude parmi les variables éducatives.
Ensemble de Stacking : Un méta-apprenant Naive Bayes Gaussien a été entraîné sur les probabilités de prédiction hors échantillon (out-of-fold) générées par les apprenants de base (via une validation croisée à 5 plis) pour produire la classification finale. Cette approche a permis au méta-apprenant d'intégrer les modèles de décision des modèles de base sans utiliser les données d'entraînement pour le méta-apprenant.
Optimisation : Le réglage des hyperparamètres a été effectué pour les apprenants de base, et le modèle a été évalué à l'aide de métriques de classification standards.

Principales Contributions

Architecture d'Ensemble Novatrice : L'étude introduit une configuration de stacking spécifique combinant KNN et réseaux bayésiens avec un méta-apprenant Naive Bayes Gaussien, répondant à la suggestion de la littérature antérieure d'incorporer ces algorithmes spécifiques pour une meilleure robustesse dans les contextes à ressources limitées.
Évaluation Complète : Le modèle a été rigoureusement évalué par rapport aux apprenants de base individuels (KNN, BN) et à un ensemble de vote doux (Soft Voting Ensemble) en utilisant l'exactitude, la précision, le rappel, le score F1 et la spécificité.
Application Contextuelle : La recherche fournit une application empirique de l'apprentissage d'ensemble avancé à la rétention étudiante dans une région en développement (Somaliland), démontrant la faisabilité de tels modèles dans des institutions dotées d'infrastructures numériques contraintes.

Résultats
Le modèle d'ensemble de stacking proposé a démontré une performance supérieure par rapport aux classificateurs individuels et à l'ensemble de vote doux. Les métriques de performance spécifiques obtenues sont :

Exactitude (Accuracy) : 85,9 %
Précision : 76,4 %
Rappel (Recall) : 81,3 %
Score F1 : 78,8 %
Spécificité : 81,3 %

L'analyse de l'importance des caractéristiques a révélé que les indicateurs de performance académique (spécifiquement le nombre d'unités curriculaires approuvées et la réussite cumulative), le statut des frais de scolarité et les indicateurs financiers étaient les prédicteurs les plus influents de l'abandon. L'analyse de la matrice de confusion a confirmé que le stacking d'ensemble réduit plus efficacement les faux positifs et les faux négatifs que les modèles de base, améliorant ainsi l'identification des étudiants à risque.

Signification et Revendications
Les auteurs affirment que l'étude a réussi à développer un outil d'alerte précoce efficace qui soutient des interventions opportunes pour améliorer la rétention des étudiants. Les conclusions confirment que l'intégration d'algorithmes d'apprentissage automatique hétérogènes au sein d'une structure de stacking produit des prédictions plus précises et plus robustes que les classificateurs individuels. Le modèle sert de système de support à la décision pratique pour les administrateurs universitaires afin d'identifier les étudiants à risque avant leur retrait.

L'article maintient une portée modeste concernant ses revendications, notant que le modèle a été validé sur le jeu de données d'une seule institution. Les auteurs suggèrent que les travaux futurs devraient se concentrer sur la validation du modèle à travers plusieurs institutions, l'incorporation de variables comportementales et de gestion de l'apprentissage supplémentaires, et la comparaison de l'approche avec des techniques d'apprentissage profond plus avancées. Ils soulignent également la nécessité d'évaluer l'impact à long terme de telles interventions pilotées par le ML dans des environnements éducatifs réels.

Articles similaires