Governance, Accountability and Post-Deployment Monitoring Preferences for AI Integration in West African Clinical Practice: A Mixed-Methods Study
Diese Mixed-Methods-Studie über westafrikanische Kliniker und technische Experten zeigt eine starke Präferenz für eine unabhängige regulatorische Aufsicht, transparente Rechenschaftsmechanismen und Echtzeit-Überwachung auf, um eine sichere und gerechte KI-Integration in die klinische Praxis zu gewährleisten, während sie gleichzeitig erhebliche Bedenken hinsichtlich der Kontrolle durch Anbieter und der Haftung von Klinikern hervorhebt.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich die Welt der Medizin als eine riesige, geschäftige Küche vor, in der Köche (Ärzte) versuchen, eine hungrige Stadt zu verköstigen. Jahrelang haben sie mit ihren eigenen Händen gekocht und sich auf Erfahrung und Intuition verlassen. Doch nun ist ein neuer Sorte Sous-Chef eingetroffen: Künstliche Intelligenz, oder KI. Betrachten Sie die KI nicht als einen Roboter mit eigenem Verstand, sondern als ein superschnelles, superschlaues Rezeptbuch, das in der Lage ist, Millionen von Mahlzeiten in einer Sekunde zu scannen, um Ihnen zu sagen, ob ein Gericht großartig schmecken wird oder ob es anbrennen wird. In reichen Ländern helfen diese digitalen Sous-Chefs bereits dabei, Köchen zu helfen, winzige Fehler in Rezepten zu entdecken (wie etwa das frühzeitige Erkennen einer Krankheit), die Menschen vielleicht übersehen würden. Aber in Westafrika, wo die Küche oft überfüllt ist, die Zutaten anders sind und die Köche unter großem Druck stehen, reicht es nicht aus, einfach nur ein schickes neues Rezeptbuch auf die Arbeitsplatte zu legen. Man braucht ein System, um sicherzustellen, dass das Buch auch wirklich für Ihre Küche geeignet ist, dass es keine schlechten Ratschläge gibt, wenn sich das Wetter ändert, und dass jeder weiß, wer verantwortlich ist, wenn eine Mahlzeit misslungen ist. Dies ist die Geschichte davon, wie man eine sichere, faire und vertrauenswürdige Küche für die Zukunft baut.
Dieses Papier ist wie eine riesige Bürgerversammlung, bei der sich die Köche aus Westafrika zusammen mit den Menschen, die die Rezeptbücher erstellt haben (die Tech-Experten), zusammengesetzt haben, um eine sehr wichtige Frage zu stellen: „Wie wollen wir diese neue Küche führen?“ Die Forscher haben nicht einfach geraten; sie haben 136 Ärzte gefragt und 72 Experten interviewt, um genau herauszufinden, was sie brauchen, um sich bei der Nutzung von KI sicher zu fühlen. Sie fanden heraus, dass die Köche vor einer Sache große Angst haben: dafür verantwortlich gemacht zu werden, wenn das Rezeptbuch einen Fehler macht. Sie sind auch sehr misstrauisch gegenüber den Unternehmen, die die Rezeptbücher verkaufen, aus Sorge, dass diese Unternehmen versuchen könnten, die Küche zu sehr zu kontrollieren. Stattdessen wollen die Ärzte einen strengen, unabhängigen Schiedsrichter – jemanden, der weder der Chef noch der Krankenhausleiter oder der Verkäufer des Rezeptbuches ist – der über alles wacht. Sie wollen die Leistung des Rezeptbuches auf einem Live-Bildschirm sehen, wie eine Anzeigetafel beim Sport, damit sie Probleme sofort erkennen können, anstatt auf einen Bericht am Ende des Jahres zu warten.
Die Studie ergab, dass es darum geht, wer der Schiedsrichter sein sollte, wählten die Ärzte überwältigend einen unabhängigen Gremium (Independent Body). Etwa 40,4 % der Ärzte sagten, dass dies die beste Option ist, und gaben ihr eine Vertrauensbewertung von 4,3 von 5. Im Gegensatz dazu vertrauen sie den Unternehmen, die die KI-Tools herstellen, kaum dabei, sich selbst zu überwachen; nur 3,7 % der Ärzte wollten, dass der „Anbieter“ (Vendor) das Sagen hat, und gaben diesen Unternehmen eine niedrige Vertrauensbewertung von nur 2,4 von 5. Die Ärzte stimmten zudem ab, dass 94,1 % von ihnen einen klaren Weg dafür, wer verantwortlich ist, wenn etwas schiefgeht, absolut essenziell halten. Sie sind besorgt, dass sie ohne diese Regelung ungerechtfertigterweise für KI-Fehler verantwortlich gemacht werden könnten – eine Angst, die von 76,5 % der Befragten geteilt wurde.
Wenn es darum geht, wie sie prüfen wollen, ob die KI funktioniert, wollen die Ärzte nicht auf einen langsamen, jährlichen Zeugnisbericht warten. Sie wollen ein Echtzeit-Dashboard (Real-time Dashboard), das 41,9 % von ihnen als ihre bevorzugte Methode zur Überwachung der Werkzeuge nannten. Das ist wie ein Live-Feed der Küchentemperatur und der Qualität jedes Gerichts, während es gerade gekocht wird, anstatt erst Wochen später das Essen probieren zu müssen. Die interviewten Experten stimmten dem zu und sagten, dass KI wie ein Auto ist, das mit der Zeit langsam die Lenkung verlieren kann; wenn man nicht ständig nachprüft, könnte es vom Weg abkommen. Sie betonten, dass die Überwachung kontinuierlich erfolgen muss, um zu prüfen, ob die KI weiterhin genau, fair und sicher für alle ist, einschließlich Menschen in verschiedenen Städten oder unterschiedlichen Alters.
Das Papier hebt auch hervor, was passiert, wenn die KI einen Fehler macht. Die Experten schlagen einen klaren „Stopp-und-Fix“-Plan vor: Wenn die KI beginnt, sich seltsam zu verhalten, pausiert man sie sofort, findet heraus, warum das passiert ist (waren es schlechte Daten? eine neue Krankheit?), korrigiert das Modell und informiert alle darüber, was passiert ist. Die Forscher schlagen vor, dass wir für die Arbeit der KI in Westafrika ein mehrschichtiges System benötigen: einen unabhängigen Schiedsrichter, eine Live-Anzeigetafel für die Leistung und klare Regeln darüber, wer die Schuld trägt, wenn etwas schiefgeht. Die Studie deutet darauf an, dass ohne diese Schutzmaßnahmen die Ärzte vielleicht zu viel Angst hätten, diese mächtigen Werkzeuge zu nutzen, und das Versprechen der KI, Patienten zu helfen, verloren gehen könnte. Die Autoren weisen vorsichtig darauf hin, dass diese Ergebnisse zwar fundiert sind, aber auf den Präferenzen der von ihnen befragten Personen basieren und die Ergebnisse in anderen Teilen Westafrikas, in denen die Ärzte in der Umfrage weniger repräsentiert waren, etwas anders aussehen könnten. Aber die Botschaft ist klar: Damit die KI ein hilfreicher Sous-Chef sein kann, braucht sie einen Schiedsrichter, dem sie vertrauen kann, und sie muss jeden einzelnen Tag genau beobachtet werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.