Validating the Crystal Ball: Retrospective Evaluation and Uncertainty-Aware Forecasting of Severe Housing Cost Burden in New York City

Dans le paysage complexe des villes américaines, où le prix d'un logement dicte souvent la forme d'une communauté, il existe un chiffre unique que les décideurs politiques surveillent avec une attention intense : la part des ménages locataires consacrant plus de la moitié de leurs revenus au logement. Lorsqu'une famille atteint ce seuil, elle est considérée comme étant sous un « fardeau de coût de logement sévère », une condition qui laisse peu de place pour l'alimentation, les soins de santé ou l'épargne. Pendant des décennies, les responsables municipaux se sont appuyés sur des enquêtes gouvernementales pour suivre ce fardeau, mais ces enquêtes arrivent avec un retard important, racontant souvent aux dirigeants le passé plutôt que le présent. Pour combler cette lacune, les chercheurs se sont tournés vers l'apprentissage automatique, entraînant des ordinateurs pour prédire les coûts futurs du logement en se basant sur des modèles historiques. L'espoir était que ces prévisions numériques puissent agir comme une boule de cristal, guidant les ressources vers les quartiers qui en ont le plus besoin avant qu'une crise ne s'installe pleinement.

Une nouvelle étude menée par des chercheurs issus d'institutions comprenant l'Université des sciences et technologies de Shahjalal et l'Université Wesleyan d'Indiana met cette boule de cristal à l'épreuve. L'équipe a revisité un modèle spécifique d'apprentissage automatique qui avait précédemment généré des prévisions pour la ville de New York, projetant l'évolution du fardeau sévère du coût du logement de 2023 à 2025. Le modèle original avait été loué pour sa capacité à s'ajuster aux données passées, mais il n'avait jamais été confronté à ce qui s'est réellement passé. Maintenant que les données réelles pour ces années sont arrivées, les chercheurs ont effectué une évaluation rétrospective, comparant directement les prédictions du modèle avec les résultats réels enregistrés par le gouvernement. Le résultat fut un échec clair et systématique : le modèle s'était montré systématiquement trop optimiste. Il prédisait que le logement resterait plus abordable qu'il ne l'était en réalité, sous-estimant la gravité du fardeau dans chaque arrondissement de la ville.

La divergence n'était pas une petite fluctuation ; c'était un fossé grandissant. En moyenne, les prévisions originales manquaient la cible de 3,4 points de pourcentage. Cela signifie que si le modèle prédisait que 30 % des locataires seraient sévèrement chargés, la réalité était plus proche de 33,4 %. L'erreur ne restait pas constante ; elle s'élargissait avec le temps. En 2023, le modèle affichait un écart d'environ 2 points de pourcentage, mais en 2025, cet écart avait presque doublé pour atteindre 4,7 points de pourcentage. La situation était plus aiguë dans le Bronx, l'arrondissement présentant la plus forte concentration de stress lié au logement, où le modèle a sous-estimé le fardeau de 5,4 points de pourcentage. Les chercheurs ont imputé cet échec non pas à l'algorithme d'apprentissage automatique lui-même, qui performait bien lors de l'examen des données passées, mais aux hypothèses qui lui ont été injectées. La prévision originale supposait que les loyers augmenteraient de façon constante de 3 % par an et que les revenus croîtraient de 2,5 %. Dans le monde réel, cependant, les loyers ont accéléré plus rapidement que prévu après la pandémie tandis que les revenus stagnaient, provoquant une dérive des projections du modèle par rapport à la réalité chaque année supplémentaire.

Reconnaissant qu'une seule prédiction est rarement suffisante pour capturer la volatilité des marchés du logement, l'équipe a reconstruit le cadre de prévision pour inclure une mesure de l'incertitude. Au lieu d'offrir un chiffre unique, la nouvelle approche propose une plage de résultats possibles, semblable à une prévision météorologique qui donne une probabilité de pluie plutôt qu'un simple oui ou non. Ils ont utilisé une technique statistique appelée prédiction conforme pour créer une bande de confiance de 90 % autour de chaque prévision, garantissant que la valeur réelle tomberait dans cette plage la plupart du temps. Ils ont également tenu compte des marges d'erreur naturelles des données gouvernementales elles-mêmes. Ce système recalibré a ensuite été utilisé pour générer de nouvelles prévisions pour les années 2025 à 2028 selon trois scénarios : un scénario de base, un scénario de « parité loyer-revenu » où les revenus rattrapent enfin les loyers, et un scénario défavorable où les loyers montent en flèche tandis que les revenus stagnent.

Les conclusions de ces nouvelles prévisions tenant compte de l'incertitude dressent un portrait sombre de l'avenir de la ville de New York. Même dans le scénario le plus optimiste, où la croissance des revenus correspond à la croissance des loyers, l'étude suggère que les fardeaux sévères du coût du logement resteront plus élevés en 2028 qu'ils ne l'étaient en 2022 dans tous les arrondissements. Le changement post-pandémique sur le marché du logement semble avoir créé une nouvelle base de coût plus élevée qui n'est pas facilement réversible. Sous le scénario défavorable, où les loyers continuent de dépasser les revenus, la situation devient critique, particulièrement dans le Bronx, où près de 4 de 45 % des ménages locataires pourraient faire face à des fardeaux de coût sévères d'ici 2028. Les chercheurs ont également démontré que l'ajout de données spécifiques sur les bâtiments individuels, telles que le nombre d'unités régulées par le loyer ou le volume de plaintes relatives au code du logement, améliorait considérablement la précision des prédictions, validant ainsi la nécessité de données plus granulaires pour les futurs modèles.

En fin de compte, ce travail constitue une correction vitale pour le domaine de la prévision urbaine. Il prouve que si les modèles d'apprentissage automatique peuvent être des outils puissants, ils ne sont aussi fiables que les hypothèses sur lesquelles ils sont construits. Un modèle incapable de percevoir un changement soudain du paysage économique produira inévitablement une prévision qui semble bonne sur le papier mais qui échoue en pratique. En exposant ces angles morts et en introduisant des méthodes pour quantifier l'incertitude, les chercheurs ont fourni aux urbanistes un outil plus honnête et plus utile. La voie à suivre ne consiste pas seulement à améliorer les algorithmes, mais aussi à accepter de publier les hypothèses derrière chaque prédiction et à vérifier régulièrement ces prévisions par rapport à la réalité qu'elles sont censées décrire. Pour New York, et potentiellement pour d'autres grandes villes confrontées à des pressions similaires, cela signifie se préparer à un avenir où le stress lié au logement restera élevé, quelle que que soit la rapidité avec laquelle les revenus pourraient éventuellement augmenter.