Auditing Recorded Predictive Lead Service-Line Classifications Against Physical Verification: A Statewide Study of New York

In den Vereinigten Staaten schreibt eine Bundesvorschrift namens „Lead and Copper Rule Revisions“ vor, dass jedes kommunale Wasserversorgungssystem eine vollständige Karte seiner Versorgungsleitungen erstellen muss – jene Rohre, die das Wasser von der Straße zu den einzelnen Häusern führen. Das Ziel ist es, Rohre aus Blei aufzuspüren und zu ersetzen, einem giftigen Metall, das schwere Gesundheitsprobleme verursachen kann, insbesondere bei Kindern. Jahrzehntelang wussten die Versorgungsunternehmen, wo Bleirohre vorhanden waren, weil sie alte Papierunterlagen hatten oder weil sie die Rohre ausgegraben hatten, um nach ihnen zu suchen. Doch für Millionen von Adressen, für die keine Aufzeichnungen existierten, erlaubten die neuen Regeln den Wasserwerken, Computermodelle zu verwenden, um das Material des Rohrs zu erraten, anstatt zu graben. Diese Modelle analysieren Daten wie das Alter des Hauses und die Nachbarschaft, um vorherzusagen, ob ein Rohr wahrscheinlich aus Blei, Kupfer oder Kunststoff besteht. Die Idee dahinter war, Geld und Zeit zu sparen, da das Ausgraben jedes einzelnen Rohrs unglaublich teuer ist. Da diese Modelle jedoch bloße Vermutungen sind, schreiben die Regeln vor, dass die Versorgungsunternehmen ihre Genauigkeit überprüfen müssen, indem sie eine Stichprobe der klassifizierten Rohre physisch inspizieren. Das öffentliche Interesse hängt davon ab, ob diese Computervorhersagen zuverlässig genug sind, um der öffentlichen Gesundheit zu vertrauen, oder ob sie eine gefährliche Anzahl von Bleirohren unter einer Schicht statistischer Konfidenz verbergen.

Ein Forscher namens Muhammad Sarmad Sohail beschloss, dieses System zu testen, indem er die öffentlichen Aufzeichnungen untersuchte, die von Wasserversorgungsunternehmen in ganz New York State eingereicht wurden. New York ist einzigartig, da es eine detaillierte Liste für jede einzelne Adresse veröffentlicht, die genau zeigt, wie das Versorgungsunternehmen das Rohr-Material bestimmt hat: ob sie es ausgegraben, einen Papierbeleg geprüft oder ein Computermodell verwendet haben. Sohail versuchte nicht zu beweisen, dass die Computermodelle im Allgemeinen falsch waren; stattdessen untersuchte er die spezifischen Zahlen, die die Versorgungsunternehmen einreichten, um zu sehen, ob sie Sinn ergaben. Er konzentrierte sich auf die 153 Kommunen in New York, die diese Computermodelle für mindestens 100 Adressen verwendeten. Sein erster Schritt war eine einfache Prüfung: Er zählte, wie viele verschiedene Antworten die Modelle lieferten. In einem gesunden System sollte ein Modell manchmal „Blei“, manchmal „Kupfer“ und manchmal „unbekannt“ sagen, je nach spezifischem Haus. Aber in 75 dieser Kommunen, die fast 126.000 Adressen abdeckten, lieferte das Modell für jedes einzelne Haus nur eine einzige Antwort. Es war, als würde ein Wettervorhersager für jedes einzelne Tage des Jahres Regen vorhersagen, ungeachtet der Jahreszeit oder des Standorts.

Dieser Mangel an Vielfalt ist nicht automatisch ein Zeichen für Betrug, aber es ist ein Warnsignal dafür, dass etwas nicht stimmt. Sohail verglich diese „Ein-Antwort-Listen“ dann mit den physischen Inspektionen, die dieselben Wasserversorgungsunternehmen in denselben Städten durchgeführt hatten. In den meisten Fällen stimmte die einzelne Antwort, die das Modell gab, mit dem überein, was die Arbeiter im Boden fanden. In sieben spezifischen Orten widersprach die einzelne Antwort des Modells jedoch direkt dem, was die Arbeiter sahen. Das auffälligste Beispiel war New York City. Die Stadt verwendete ein Computermodell, um 43.215 Adressen zu klassifizieren. Für jede dieser Adressen gab das Modell an, das Rohr sei „Known Other“ (Bekanntes Anderes), eine Kategorie, die bedeutet, dass das Rohr definitiv nicht aus Blei besteht, obwohl das spezifische Material unbekannt ist. Die Stadt hatte an tausenden anderen Stellen Bleirohre durch andere Methoden gefunden und hatte die Kategorie „unbekannt“ für über 120.000 andere Adressen verwendet. Doch für diese massive Gruppe von 43.000 Häusern deutete das Modell nie auch nur einmal darauf hin, dass ein Rohr aus Blei sein könnte oder auch nur unbekannt sei. Es war ein perfekter, ununterbrochener Datensatz von „Nicht-Blei“ für eine Gruppe von Häusern, die viele Gebäude aus der Zeit vor 1940 enthielt, als Bleirohre üblich waren.

Der Widerspruch war nicht nur ein statistischer Zufall; er wurde durch die eigenen Mitarbeiter der Stadt bestätigt. In den fünf Boroughs von New York City hatten Arbeiter physisch zehntausende Rohre ausgegraben und inspiziert und dabei in signifikanten Zahlen Blei gefunden. Wenn das Computermodell korrekt funktioniert hätte, hätte es einige dieser 43.000 Adressen als potenziell aus Blei bestehend markiert. Stattdessen gab es sie alle frei. Das gleiche seltsame Muster trat in East Rochester auf, einem kleinen Dorf 550 Kilometer entfernt mit einem völlig anderen Wasserunternehmen. Dort lieferte das Modell ebenfalls eine einzige „Nicht-Blei“-Antwort für jedes Haus, das es klassifizierte, obwohl Arbeiter in diesem Dorf Rohre ausgegraben und in fast 10 % von ihnen Blei gefunden hatten. Der Forscher entdeckte auch, dass die öffentlichen Aufzeichnungen der Stadt für diese Rohre nicht unabhängig erstellt worden waren. Die Daten zeigten, dass die Stadt einfach die Computervorhersage für die Kundenseite des Rohrs kopiert und auf die öffentliche Seite übertragen hatte, obwohl die öffentliche Seite ein anderes, der Stadt gehörendes Rohr ist. Dies deutet darauf hin, dass die Bestimmung keine frische Analyse war, sondern ein Kopierfehler, der jegliche Unsicherheit, die das Modell gehabt haben mochte, ausgelöscht hatte.

Um zu verstehen, wie viele Bleirohre sich in jener Gruppe von 43.215 Adressen verbergen könnten, untersuchte der Forscher das Alter der Gebäude. Das Modell war hauptsächlich auf neuere Häuser angewendet worden, die natürlicherweise weniger Bleirohre besitzen. Doch selbst nach Anpassung an das Alter der Gebäude ergaben die Zahlen keinen Sinn. In älteren Gebäuden, in denen andere Methoden Blei fanden, fand das Modell nichts. Durch die Verwendung der Ergebnisse der physischen Inspektionen aus denselben Nachbarschaften als Leitfaden schätzte der Forscher, dass zwischen 1.150 und 1.450 dieser 43.215 Adressen wahrscheinlich Bleirohre besitzen, die fälschlicherweise als sicher deklariert wurden. Diese Schätzung stützt sich auf die Annahme, dass die Arbeiter, die die Rohre ausgegraben haben, nicht voreingenommen waren, aber selbst mit dieser Unsicherheit ist die Lücke zwischen der perfekten Bilanz des Modells und der Realität im Boden zu groß, um ignoriert zu werden.

Die Studie behauptet nicht, dass Computermodelle niemals funktionieren können, noch sagt sie, dass jedes Versorgungsunternehmen versagt. Sie stellte fest, dass die Modelle an vielen Orten eine Mischung aus Antworten produzierten, die mit der physischen Realität übereinstimmten. Das Problem war spezifisch für die Art und Weise, wie die Daten an sieben Orten gemeldet wurden. Der Forscher argumentiert, dass das Problem nicht unbedingt der Computercode selbst ist, sondern wie die Ergebnisse vor der Veröffentlichung gehandhabt wurden. Es ist möglich, dass das Modell durchaus eine Bandbreite an Antworten lieferte, aber ein Computerprogramm oder ein menschlicher Prozess alles herausgefiltert hat, was kein eindeutiges „Sicher“-Ergebnis war, bevor es beim Staat eingereicht wurde. Dies würde bedeuten, dass die öffentliche Aufzeichnung eine saubere, konfidente Liste zeigt, die die Unsicherheit verbirgt, die das Modell tatsächlich hatte. Die eigenen Regeln des Staates schreiben vor, dass Versorgungsunternehmen ein Konfidenzintervall angeben – ein Maß dafür, wie sicher sie sich sind – und einen Plan zur Überprüfung der Ergebnisse haben müssen. Die eingereichten Unterlagen dieser Versorgungsunternehmen zeigten nichts davon.

Dieses Audit war nur möglich, weil New York die Methode für jede einzelne Adresse veröffentlicht. In den meisten anderen Bundesstaaten weiß die Öffentlichkeit nicht, ob eine Rohrklassifizierung von einem Spaten oder einer Tabellenkalkulation stammt. Der Forscher schlägt vor, dass die Anforderung dieses Detailgrades landesweit nichts kosten würde, aber es ermöglichen würde, zu prüfen, ob ein Versorgungsunternehmen Unsicherheit hinter einer einzigen, unveränderlichen Antwort verbirgt. Die Ergebnisse dienen als Warnung: Wenn ein Modell ein perfektes, unveränderliches Ergebnis über tausende von Häusern hinweg produziert, ist dies wahrscheinlich kein Zeichen eines perfekten Modells, sondern ein Zeichen dafür, dass der Prozess seine Fähigkeit verloren hat, die Wahrheit zu sehen. Die Daten zeigen, dass die Einreichung im größten Fall nicht die Bedingungen erfüllte, die der Staat für die Verwendung dieses spezifischen Labels festgelegt hatte. Die Forscher kommen zu dem Schluss, dass Inventare die Unsicherheit des Modells aufzeichnen sollten, nicht nur dessen endgültige Vermutung, und dass Regulierungsbehörden eine Liste mit null Varianz als Warnsignal behandeln sollten, das eine sofortige Untersuchung erfordert.