Geographical targeting of active case finding for tuberculosis in Pakistan using artificial intelligence software: a qualitative study embedded within the SPOT TB trial

Tuberkulose bleibt einer der hartnäckigsten Killer der Welt, eine Krankheit, die sowohl in den Schatten überfüllter Städte als auch in abgelegenen Dörfern gleichermaßen gedeiht. In Ländern wie Pakistan, wo die Krankheitslast außergewöhnlich hoch ist, stehen die Gesundheitshelfer vor einer gewaltigen Herausforderung: Millionen von Menschen zu finden, die krank sind, aber noch nicht diagnostiziert wurden. Um diese verborgenen Fälle aufzuspüren, entsenden Programme mobile Teams in die Gemeinden, um Screening-Camps einzurichten, wobei sie Röntgengeräte nutzen, um Anzeichen einer Infektion in der Lunge der Menschen zu suchen. Jahrelang hing die Entscheidung, wo diese Camps errichtet werden, dem menschlichen Urteilsvermögen, lokalen Karten und der Erfahrung des Außendienstpersonals an. Doch als das Datenvolumen wuchs, begannen die Gesundheitsbehörden sich zu fragen, ob Computer eine bessere Arbeit leisten könnten. Sie wandten sich der Künstlichen Intelligenz zu, einer Technologie, die in der Lage ist, riesige Mengen an Informationen zu durchforsten, um Muster zu erkennen, die Menschen entgehen könnten. Die Hoffnung war, dass ein intelligentes Computerprogramm die Gesundheitshelfer direkt zu den Stadtvierteln führen könnte, in denen kranke Menschen am wahrscheinlichsten zu finden sind, um die Suche schneller und effektiver zu machen.

Diese Frage trieb ein groß angelegtes Experiment in Pakistan voran, bekannt als die SPOT-TB-Studie. Forscher wollten sehen, ob die Verwendung eines KI-Tools namens MATCH-AI zur Auswahl von Camp-Standorten mehr Tuberkulosefälle finden würde als die traditionelle Methode, Standorte basierend auf lokalem Wissen auszuwählen. Das Tool analysierte routinemäßige Gesundheitsdaten und lokale Bedingungen, um eine Liste empfohlener Standorte zu erstellen. Doch eine Empfehlung eines Computers ist nur so gut wie die Realität vor Ort. Um zu verstehen, warum die Studie keine klare allgemeine Verbesserung beim Auffinden von Fällen zeigte, führte ein separates Forscherteam eine Tiefenanalyse der menschlichen Seite des Projekts durch. Sie sprachen mit den Ärzten, Supervisoren und Koordinatoren, die tatsächlich die Vans fuhren und die Zelte aufbauten, und fragten sie nach ihren täglichen Erfahrungen mit der neuen Technologie. Ihr Ziel war es nicht nur zu sehen, ob die Software auf einem Bildschirm funktionierte, sondern zu verstehen, wie sie in der komplexen, chaotischen Realität des pakistanischen Gesundheitssystems funktionierte.

Die Forscher fanden heraus, dass das KI-Tool ein zweischneidiges Schwert war. Einerseits schätzte das Außendienstpersonal die Software dafür, dass sie ihrer Arbeit ein Gefühl von Fairness und Struktur verlieh. Vor dem Einsatz des Tools konnte die Wahl des Standorts für ein Camp durch persönliche Verbindungen, politischen Druck von lokalen Anführern oder die einfache Gewohnheit, immer wieder an dieselben vertrauten Orte zurückzukehren, beeinflusst werden. Die Software eliminierte diese menschliche Voreingenommenheit, indem sie eine Liste von Standorten rein auf Basis von Daten generierte. Dies half dem Personal, dem Druck von Beamten zu widerstehen, die Camps aus eigenen Gründen in bestimmten Gebieten haben wollten. In einigen Fällen führte das Tool Teams zu abgelegenen oder zuvor übersehenen Dörfern, in denen sie Cluster von Tuberkulosefällen entdeckten, die andernfalls unentdeckt geblieben wären. Ein Team zum Beispiel folgte einer Empfehlung zu einem entfernten Haushalt in Faisalabad und fand fünf infizierte Personen, die zusammenlebten – eine Entdeckung, die sie der Fähigkeit der Software verdankten, über die üblichen Grenzen hinauszublicken.

Doch die Erfolgsgeschichte des Tools wurde durch die harten Realitäten der Landschaft und die Grenzen der Technologie selbst erschwert. Die Software war zwar gut darin, Zahlen zu verarbeiten, besaß aber nicht den gesunden Menschenverstand, der mit dem Leben in der Gemeinschaft einhergeht. Sie schlug manchmal Standorte vor, die physisch unerreichbar waren, wie etwa schneebedeckte Berggipfel oder Gebiete, die durch Flüsse abgeschnitten waren, ohne zu realisieren, dass ein mobiler Van dort nicht hinfahren konnte. In anderen Fällen wies sie auf Orte hin, die aufgrund lokaler Sicherheitsrisiken unsicher waren oder in denen kulturelle Normen es Frauen unmöglich machten, weit zu reisen oder ein öffentliches Camp zu besuchen. In konservativen Regionen beispielsweise könnten Frauen beispielsweise sich weigern, fünf Kilometer weit zu einem Camp auf einem belebten Markt zu reisen, besonders wenn der Screening-Bereich keinen Schutz der Privatsphäre bot. Die Software verstand diese sozialen Barrieren nicht; sie sah nur einen Punkt auf einer Karte. Das Außendienstpersonal, das das Gelände und die Menschen kannte, musste die Vorschläge des Computers oft überstimmen und sein eigenes Urteilsvermögen nutzen, um Orte zu finden, die zugänglich und für die Gemeinschaft akzeptabel waren.

Die Kluft zwischen dem digitalen Plan und der physischen Welt wurde durch die Infrastruktur, die zum Betrieb des Systems erforderlich war, weiter vergrößert. Die Software verließ sich auf eine digitale Plattform, um Daten in Echtzeit zu erfassen, doch in vielen abgelegenen Gebieten war die Internetverbindung unzuverlässig oder gar nicht vorhanden. Wenn das Signal abriss, fror das System ein oder die im Feld eingegebenen Daten konnten nicht mit dem zentralen Server synchronisiert werden. Dies zwang die Gesundheitshelfer dazu, zu den altmodischen Papieraufzeichnungen zurückzukehren, die sie später bei der Rückkehr in die Stadt in den Computer eintippen mussten. Diese Doppelarbeit erzeugte Frustration und Ermüdung, was genau den Prozess verlangsamte, den die Technologie eigentlich beschleunigen sollte. Darüber hinaus verstanden die Menschen an der Front oft nicht vollständig, wie die Software ihre Entscheidungen traf. Ihnen wurde gesagt, sie sollten der Liste der Standorte folgen, aber es wurde selten eine klare Erklärung der dahinterstehenden Logik gegeben. Dieser Mangel an Verständnis erschwerte es ihnen, dem Tool zu vertrauen oder ein Gefühl der Eigenverantwortung für das neue System zu entwickeln, was dazu führte, dass einige seine Empfehlungen zugunsten ihrer eigenen Erfahrung ignorierten.

Die Studie kam zu dem Schluss, dass Künstliche Intelligenz zwar echtes Potenzial bietet, die Tuberkulose-Screenings zu organisieren und zu verbessern, sie aber das tiefe, kontextbezogene Wissen der Menschen vor Ort nicht ersetzen kann. Die Technologie ist ein leistungsstarker Assistent, der helfen kann, Voreingenommenheit zu reduzieren und Gebiete hervorzuheben, die sonst übersehen würden, aber sie ist kein Ersatz für menschliches Urteilsvermögen. Sie kann weder die Sicherheit eines Viertels, die kulturellen Sensibilitäten einer Gemeinschaft noch den Zustand einer unbefestigten Straße berücksichtigen. Damit das Tool effektiv arbeiten kann, muss es durch eine zuverlässige Infrastruktur, wie etwa stabile Internetverbindungen, unterstützt werden, und es muss mit gründlichen Schulungen eingeführt werden, die dem Personal nicht nur erklären, was zu tun ist, sondern auch das Warum. Die Forscher fanden heraus, dass der erfolgreichste Ansatz ein hybrider war, bei dem der Computer einen Ausgangspunkt liefert und das menschliche Team sein lokales Fachwissen nutzt, um diese Empfehlungen an die reale Welt anzupassen. Letztendlich ist die Technologie nur so stark wie das System, das sie stützt, und die Menschen, die sie nutzen.