Validating the Crystal Ball: Retrospective Evaluation and Uncertainty-Aware Forecasting of Severe Housing Cost Burden in New York City

Nel complesso panorama delle città americane, dove il prezzo di una casa spesso detta la forma di una comunità, esiste un singolo numero che i decisori politici osservano con intensa scrutinio: la quota di nuclei familiari in affitto che spendono più della metà del proprio reddito per l'alloggio. Quando una famiglia raggiunge questa soglia, viene considerata in una condizione di "grave onere abitativo", una condizione che lascia poco spazio per il cibo, l'assistenza sanitaria o il risparmio. Per decenni, le autorità cittadine si sono affidate ai sondaggi governativi per monitorare questo onere, ma tali sondaggi arrivano con un ritardo significativo, parlando spesso ai leader del passato piuttosto che del presente. Per colmare questo divario, i ricercatori si sono rivolti al machine learning, addestrando i computer a prevedere i futuri costi abitativi basandosi su schemi storici. La speranza è stata che queste previsioni digitali potessero agire come una palla di cristallo, guidando le risorse verso i quartieri che ne hanno più bisogno prima che una crisi si instauri pienamente.

Un nuovo studio condotto da ricercatori di istituzioni tra cui la Shahjalal University of Science and Technology e la Indiana Wesleyan University mette alla prova questa palla di cristallo. Il team ha rivisitato un modello specifico di machine learning che aveva precedentemente generato previsioni per New York City, proiettando come l'evoluzione degli oneri abitativi gravi sarebbe progredita dal 2023 al 2025. L'originale modello era stato lodato per la sua capacità di adattarsi ai dati passati, ma non era mai stato verificato rispetto a ciò che è effettivamente accaduto. Ora che i dati reali per quegli anni sono arrivati, i ricercatori hanno eseguito una valutazione retrospettiva, confrontando direttamente le previsioni del modello con gli esiti effettivi registrati dal governo. Il risultato è stato un chiaro e sistematico fallimento: il modello era stato costantemente troppo ottimista. Prevedeva che l'alloggio sarebbe rimasto più accessibile di quanto non sia in realtà, sottostimando la gravità dell'onere in ogni singolo distretto della città.

La discrepanza non era una piccola fluttuazione; era un divario crescente. In media, le previsioni originali mancavano il bersaglio di 3,4 punti percentuali. Ciò significa che se il modello prevedeva che il 30 percento degli inquilini sarebbe stato gravemente gravato, la realtà era vicina al 33,4 percento. L'errore non è rimasto costante; si è ampliato nel tempo. Nel 2023, il modello era fuori di circa 2 punti percentuali, ma entro il 2025, quel divario era quasi raddoppiato a 4,7 punti percentuali. La situazione era più acuta nel Bronx, il distretto con la più alta concentrazione di stress abitativo, dove il modello ha sottostimato l'onere del 5,4 punti percentuali. I ricercatori hanno attribuito questo fallimento non all'algoritmo di machine learning in sé, che si era comportato bene guardando i dati passati, ma alle assunzioni che vi sono state inserite. La previsione originale assumeva che gli affitti sarebbero aumentati in modo costante del 3% ogni anno e che i redditi sarebbero cresciuti del 2,5%. Nella realtà, tuttavia, gli affitti sono accelerati più velocemente del previsto dopo la pandemia mentre i redditi sono stagnati, causando lo scostamento delle proiezioni del modello dalla realtà con ogni anno che passava.

Riconoscendo che una singola previsione è raramente sufficiente a catturare la volatilità dei mercati immobiliari, il team ha ricostruito il quadro di previsione per includere una misura dell'incertezza. Invece di offrire un singolo numero, il nuovo approccio fornisce un intervallo di possibili risultati, molto simile a una previsione meteorologica che indica la probabilità di pioggia piuttosto che un semplice sì o no. Hanno utilizzato una tecnica statistica chiamata previsione conforme (conformal prediction) per creare una banda di confidenza del 90% attorno a ogni previsione, garantendo che il valore reale rientri in quell'intervallo la maggior parte delle volte. Hanno anche tenuto conto dei margini di errore naturali nei dati governativi stessi. Questo sistema ricalibrato è stato poi utilizzato per generare nuove previsioni per gli anni dal 2025 al 2028 sotto tre diversi scenari: uno scenario di base, uno scenario di "parità affitto-reddito" in cui il reddito riesce finalmente a raggiungere l'affitto, e uno scenario avverso in cui gli affitti aumentano bruscamente mentre i redditi ristagnano.

I risultati di queste nuove previsioni, consapevoli dell'incertezza, dipingono un quadro deprimente per il futuro di New York City. Anche nello scenario più ottimistico, in cui la crescita del reddito eguaglia la crescita degli affitti, lo studio suggerisce che gli oneri abitativi gravi rimarranno più alti nel 2028 rispetto al 2022 in tutti i distretti. Il cambiamento post-pandemico nel mercato immobiliare sembra aver creato un nuovo livello base di costo più elevato che non è facilmente reversibile. Nello scenario avverso, in cui gli affitti continuano a superare i redditi, la situazione diventa critica, particolarmente nel Bronx, dove quasi il 45 percento dei nuclei familiari in affitto potrebbe affrontare oneri eccessivi entro il 2028. I ricercatori hanno inoltre dimostrato che l'aggiunta di dati specifici sugli edifici individuali, come il numero di unità con affitto regolamentato o il volume di reclami relativi al codice edilizio, ha migliorato significativamente l'accuratezza delle previsioni, convalidando la necessità di dati più granulari nei modelli futuri.

In definitiva, questo lavoro serve come una vitale correzione per il campo della previsione urbana. Dimostra che, sebbene i modelli di machine learning possano essere strumenti potenti, sono affidabili solo quanto le assunzioni su cui sono costruiti. Un modello che non può vedere un cambiamento improvviso nel panorama economico produrrà inevitabilmente una previsione che sembra buona sulla carta ma fallisce nella pratica. Esponendo questi punti ciechi e introducendo metodi per quantificare l'incertezza, i ricercatori hanno fornito ai pianificatori urbani uno strumento più onesto e utile. La strada da seguire non richiede solo algoritmi migliori, ma anche la volontà di pubblicare le assunzioni dietro ogni previsione e di controllare regolarmente tali previsioni rispetto alla realtà che intendono descrivere. Per New York City, e potenzialmente per altre grandi città che affrontano pressioni simili, questo significa prepararsi a un futuro in cui lo stress abitativo rimarrà elevato, indipendentemente da quanto velocemente i redditi possano eventualmente aumentare.