Population representativeness cannot be assessed for most FDA-authorized AI medical devices targeting high-disparity conditions
Diese Studie zeigt auf, dass für 76,6 % der FDA-autorisierten KI-Medizinprodukte, die auf Bedingungen mit hoher Disparität abzielen, die Repräsentativität der Bevölkerung aufgrund nicht gemeldeter Rassendaten aus öffentlichen Aufzeichnungen nicht bewertet werden kann, eine Lücke, die selbst bei der Durchsicht der zugrunde liegenden Peer-Review-Literatur bestehen bleibt und das Versagen der aktuellen Offenlegungsrichtlinien zur Gewährleistung der Bewertbarkeit von Gerechtigkeit verdeutlicht.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Künstliche Intelligenz ist im modernen Medizinsystem still und heimlich zu einem Standardwerkzeug geworden, das Ärzten dabei hilft, Röntgenbilder zu lesen, Tumore zu entdecken und Herzrisiken vorherzusagen. Diese Werkzeuge sind keine Magie; es sind Computerprogramme, die mit riesigen Mengen an Patientendaten trainiert wurden, um Muster zu erkennen. Damit ein Programm für alle gut funktioniert, muss es an einer Mischung von Menschen trainiert werden, die den Patienten ähneln, die es letztendlich behandeln wird. Wenn ein Werkzeug nur an einem bestimmten Typ Mensch lernt, kann es versagen, wenn es bei jemand anderem eingesetzt wird, was potenziell zu Fehldiagnosen oder falschen Behandlungen führen kann. Dies ist eine Frage der Fairness und Sicherheit. Wenn ein Medizinprodukt zur Verwendung zugelassen wird, veröffentlicht die staatliche Behörde, die es reguliert – die Food and Drug Administration –, eine Zusammenfassung der Beweise. Diese Dokumente sollen die öffentliche Akte sein, die zeigt, wer getestet wurde und wie das Gerät abgeschnitten hat. Die entscheidende Frage ist, ob diese Zusammenfassungen die ganze Geschichte darüber erzählen, an wem das Gerät getestet wurde, insbesondere bei Krankheiten, die bestimmte rassische und ethnische Gruppen schwerer treffen.
Ein Team von Forschern setzte sich zum Ziel, diese Frage zu beantworten, indem sie nahezu jedes bis Ende 2025 in den USA zugelassene KI-Medizinprodukt untersuchten. Sie betrachteten 1.428 Geräte, die von Werkzeugen zum Scannen von Gehirnbildern bis hin zu jenen reichten, die Herzrhythmen analysieren. Ihr Ziel war es zu sehen, ob die öffentlichen Dokumente es jedem ermöglichen, zu beurteilen, ob die an den Geräten getesteten Personen mit den Menschen übereinstimmten, die tatsächlich an den Krankheiten leiden, für die die Geräte bestimmt sind. Die Forscher stellten eine erhebliche Informationslücke fest. Bei etwa drei von vier Geräten, die für Zustände entwickelt wurden, bei denen bekannte ethnische Disparitäten bestehen, gaben die öffentlichen Dokumente das Geschlecht oder die ethnische Zugehörigkeit der Menschen in den Testdaten nicht an. Ohne diese grundlegenden Informationen ist es unmöglich zu sagen, ob das Gerät an einer fairen Mischung von Patienten getestet wurde oder ob es nur an einer Gruppe getestet wurde, die nicht die breitere Bevölkerung repräsentiert.
Die Forscher entwickelten eine spezifische Checkliste, um diese Dokumente zu bewerten, wobei sie auf Details wie die ethnische Zugehörigkeit, das Alter und den Standort der an den Tests beteiligten Patienten achteten. Sie fanden heraus, dass zwar einige Informationen vorhanden waren, die entscheidendsten Daten bezüglich der ethnischen Zugehörigkeit und Herkunft jedoch in der großen Mehrheit der Fälle fehlten. Diese fehlenden Informationen waren nicht nur eine Frage davon, dass die Zusammenfassungen zu kurz waren; die Forscher gruben tiefer und untersuchten die ursprünglichen wissenschaftlichen Studien hinter den Geräten. Selbst als sie die vollständigen Forschungspapiere fanden, fehlten die Daten in den meisten Fällen immer noch. Dies deutet darauf hin, dass das Problem nicht nur in der Art und Weise liegt, wie die Regierung die Informationen zusammenfasst, sondern in der Forschung selbst. Die Studien, die beweisen sollen, dass diese Geräte funktionieren, enthalten oft nicht genügend Details über die Demografie der beteiligten Patienten.
Die Studie zeigte auch, dass die Daten, wenn sie vorhanden waren, oft zeigten, dass die Testgruppen nicht mit den Gruppen übereinstimmten, die am stärksten von der Krankheit betroffen sind. Zum Beispiel wurden einige Geräte zur Erkennung von Hautkrebs – eine Erkrankung, die bei Menschen mit dunklerer Haut schwieriger zu diagnostizieren sein kann – fast ausschließlich an Menschen mit heller Haut getestet. In anderen Fällen wurden Geräte für Herzerkrankungen an Populationen getestet, die nicht die höheren Raten an Herzkrankheiten widerspiegelten, die in bestimmten Minderheitengemeinschaften vorkommen. Die Forscher merkten an, dass einige Geräte zwar hervorragende, detaillierte Informationen über ihre Testgruppen lieferten, dies jedoch die Ausnahme und nicht die Regel war. Meistens enthielt die öffentliche Akte einfach nicht die Zahlen, die für ein faires Urteil notwendig waren.
Einer der auffälligsten Befunde war, dass die Forscher die Fairness der Geräte allein anhand des Textes nicht zuverlässig bewerten konnten. Sie stellten fest, dass Experten oft uneinig waren, wenn sie gebeten wurden, vage Beschreibungen zu interpretieren oder zu beurteilen, wie gut eine Patientengruppe zu einer Krankheit passte. Sie konnten jedoch über einfache, binäre Fakten zuverlässig übereinstimmen: ob eine Zahl gemeldet wurde oder nicht. Dies führte das Team zu dem Schluss, dass das derzeitige Berichterstattungssystem unzureichend ist, um Gerechtigkeit zu gewährleisten. Die Dokumente schweigen viel zu oft zu genau den Details, die für die Fairness am wichtigsten sind. Die Forscher schlagen einen neuen, einfachen Standard für diese Berichte vor, der von den Herstellern verlangt, spezifische Zahlen über die ethnische Zugehörigkeit, das Alter und den Hintergrund der getesteten Personen aufzuführen, anstatt nur allgemeine Aussagen zu treffen.
Die Auswirkungen dieser Arbeit sind klar für Patienten, Ärzte und Krankenhäuser. Wenn ein Krankenhaus ein neues KI-Werkzeug kaufen möchte, um eine Krankheit zu diagnostizieren, kann es derzeit die öffentlichen Zulassungsdokumente nicht nutzen, um zu sehen, ob dieses Werkzeug an Menschen getestet wurde, die den eigenen Patienten ähneln. Sie bleiben im Dunkeln gelassen. Die Studie zeigt, dass für die häufigsten und tödlichsten Krankheiten die eingesetzten Werkzeuge oft auf Daten basieren, die nicht die Realität der Menschen widerspiegeln, die sie am dringendsten benötigen. Die Forscher betonen, dass dies kein Problem ist, das durch das bloße Fordern von mehr Text gelöst werden kann; die Branche muss damit beginnen, spezifische, strukturierte Daten zu melden. Bis dahin bleibt die öffentliche Akte unvollständig und lässt eine kritische Lücke in der Sicherheit und Fairness der Medizintechnik, die die amerikanische Gesundheitsversorgung zunehmend prägt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.