From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

In der modernen Welt der Gesundheitsforschung verlassen sich Wissenschaftler oft auf Computerprogramme, die aus riesigen Mengen an Informationen lernen, um Muster zu finden, Krankheiten vorherzusagen oder Behandlungen vorzuschlagen. Diese Programme, bekannt als künstliche Intelligenz, sind leistungsstarke Werkzeuge, aber sie funktionieren anders als die traditionellen Experimente, die Forscher seit Jahrzehnten nutzen. In einer Standardstudie bittet ein Wissenschaftler vielleicht eine Gruppe von Menschen um Erlaubnis, deren Krankenakten für eine spezifische Frage zu verwenden, führt die Analyse durch und veröffentlicht die Ergebnisse. Sobald die Studie abgeschlossen ist, gilt die Arbeit normalerweise als beendet. Die künstliche Intelligenz verändert jedoch diesen Zeitplan. Diese Systeme können mit Daten trainiert, dann aktualisiert, verbessert und für völlig neue Aufgaben wieder eingesetzt werden. Sie können auch neue Informationen aus alten Datensätzen erstellen oder von Unternehmen außerhalb des Forschungsteams genutzt werden, was Fragen aufwirft, wer verantwortlich ist, wenn etwas schiefgeht. Kanada verfügt über einen hochgeschätzten Satz von Regeln, den sogenannten Tri-Council Policy Statement, der regelt, wie Forscher mit menschlichen Teilnehmern umgehen. Diese Regeln basieren auf drei soliden Ideen: den Respekt vor den Menschen, die Sorge um ihr Wohlergehen und die Gewährleistung von Fairness. Obwohl diese Prinzipien stark sind, wurden sie verfasst, bevor künstliche Intelligenz ein übllicher Bestandteil der Gesundheitsforschung wurde. Die große Frage, vor der Kanadas Forschungsgemeinschaft steht, ist, ob diese alten Regeln ausreichen, um die neue, sich verändernde Natur dieser intelligenten Computersysteme zu bewältigen.

Ein Forscher namens Abdolreza Babamahmoodi setzte sich zum Ziel, diese Frage zu beantworten, indem er genau untersuchte, wie Kanadas aktuelle Regeln auf künstliche Intelligenz im Gesundheitswesen Anwendung finden. Dies war keine Studie, die neue Medikamente testete oder Patienten befragte; stattdessen war es eine sorgfältige Untersuchung bestehender Richtlinien, Gesetze und Leitlinien aus Kanada und der Welt. Der Forscher sammelte achtundzwanzig verschiedene Dokumente, darunter Kanadas wichtigste Ethikrichtlinie für die Forschung, internationale Leitlinien der Weltgesundheitsorganisation sowie Regeln aus Australien und der Europäischen Union. Das Ziel war es zu sehen, ob die aktuellen kanadischen Regeln Forschern und Ethikkommissionen klare Anweisungen geben, was zu tun ist, wenn künstliche Intelligenz involviert ist. Die Analyse konzentrierte sich auf sechs Kernbereiche: die Entscheidung darüber, was als Forschung gilt, woher die Daten stammen, ob das Computermodell fair funktioniert, wie Menschen die Kontrolle behalten, wie mit späteren Änderungen am System umzugehen ist und wie die Rechte indigener Gemeinschaften gewahrt werden.

Die Studie ergab, dass Kanadas bestehende Regeln zwar gut darin sind, den moralischen Ton anzugeben, aber nicht detailliert genug sind, um die täglichen Entscheidungen von Forschern und Ethikräten zu leiten. Die aktuelle Richtlinie besagt, dass Forscher Menschen respektieren und Fairness gewährleisten müssen, aber sie spezifiziert nicht, welche Beweise ein Forscher vorlegen muss, um zu beweisen, dass ein Computermodell fair ist. Sie sagt nicht, was passiert, wenn ein Modell sechs Monate nach der Genehmigung aktualisiert wird, oder wer verantwortlich ist, wenn ein Drittunternehmen die Daten auf eine Weise nutzt, die der Forscher nicht erwartet hat. Der Forscher stellte fest, dass Ethikkommissionen ohne diese spezifischen Anweisungen im Unklaren gelassen werden. Einige könnten zu viele Informationen verlangen, was wichtige Arbeit verlangsamt, während andere kritische Risiken übersehen könnten, weil sie nicht wissen, wonach sie suchen müssen. Das Papier argumentiert, dass die Prinzipien ausreichen, um zwischen Richtig und Falsch zu unterscheiden, aber nicht operativ adäquat sind, um Menschen genau zu sagen, was sie tun sollen.

Um dies zu lösen, schlug der Forscher eine neue Art der Betrachtung vor, die „Lifecycle Review“ (Lebenszyklus-Überprüfung) genannt wird. Anstatt Forschung als ein einzelnes Ereignis zu behandeln, das endet, wenn die Studie veröffentlicht wird, betrachtet dieser Ansatz sie als eine kontinuierliche Reise mit sechs deutlichen Kontrollpunkten. Der erste Kontrollpunkt ist der Zweck: genau zu definieren, was die künstliche Intelligenz tun wird und wem sie helfen wird. Der zweite ist die Datenlage: die Kartierung, woher die Informationen stammen und wer das Recht hat, sie zu nutzen. Der dritte ist die Entwicklung: die Überprüfung, wie das Computermodell gebaut und getestet wurde. Der vierte ist die Validierung: sicherzustellen, dass das Modell für verschiedene Gruppen gut funktioniert und nicht nur für den Durchschnitt. Der fünfte ist die Bereitstellung (Deployment): sicherzustellen, dass ein Mensch die Vorschläge des Computers verstehen und ihn stoppen kann, wenn er einen Fehler macht. Der letzte Kont었습니다 ist Änderung und Ausmusterung: die Planung dessen, was passiert, wenn das Modell aktualisiert, an einen neuen Ort verschoben oder abgeschaltet wird.

Dieser neue Rahmen schlägt vor, dass Forscher in jeder dieser sechs Phasen einen spezifischen Satz an Informationen einreichen sollten. Wenn beispielsweise ein Modell zuerst vorgeschlagen wird, muss der Forscher dessen beabsichtigte Verwendung erklären. Wenn später das Modell aktualisiert wird oder sich die Datenquellen ändern, muss der Forscher dies der Ethikkommission melden, um zu prüfen, ob die Änderung signifikant genug ist, um eine neue Überprüfung zu erfordern. Das Papier betont, dass es nicht darum geht, einen Berg an Papierarbeit zu schaffen, sondern sicherzustellen, dass die richtigen Personen zur richtigen Zeit die richtigen Entscheidungen treffen. Es legt nahe, dass eine Studie mit geringem Risiko nur wenige Details benötigt, während eine Hochrisikostudie, die die Patientenversorgung betrifft, einen viel gründlicheren Plan braucht.

Ein entscheidender Teil des Papiers befasst sich mit den Rechten der indigenen Völker in Kanada. Die aktuellen Regeln erkennen bereits an, dass indigene Gemeinschaften kollektive Rechte an ihren Daten haben, nicht nur individuelle Rechte. Der Forscher fand heraus, dass die bestehende Richtlinie dies zwar anerkennt, aber nicht erklärt, wie diese Rechte auf künstliche Intelligenz Anwendung finden. Wenn zum Beispiel ein Computermodell mit Daten aus einer indigenen Gemeinschaft trainiert wird, hat die Gemeinschaft dann ein Mitspracherecht, wenn dieses Modell später an ein Unternehmen verkauft oder für einen anderen Zweck verwendet wird? Das Papier argumentt, dass diese Fragen nicht durch eine allgemeine Richtlinie beantwortet werden können, die von Außenstehenden geschrieben wurde. Stattdessen stellt der Forscher explizit fest, dass diese spezifischen Governance-Fragen von den indigenen Gemeinschaften selbst geleitet werden müssen. Der vorgeschlagene Rahmen lässt Raum für diese Gemeinschaften, ihre eigenen Regeln dafür festzulegen, wie ihre Daten und die daraus resultierenden Computermodelle behandelt werden, um sicherzustellen, dass ihre Autorität respektiert wird, ohne von einer Einheitslösung überschrieben zu werden.

Der Forscher untersuchte auch, wie andere Länder diese Themen handhaben. Die Weltgesundheitsorganisation und Australien haben begonnen, spezifische Leitfäden für künstliche Intelligenz zu erstellen, und die Europäische Union hat Gesetze, die eine strenge Überwachung von Hochrisikosystemen erfordern. Das Papier schlägt vor, dass Kanada diese Gesetze nicht exakt kopieren muss, aber von deren Struktur lernen kann. Durch die Einführung eines ähnlichen „lebenden“ Leitfadens, der aktualisiert werden kann, wenn sich die Technologie ändert, kann Kanada seine Kernethikprinzipien stabil halten und gleichzeitig die notwendigen Details hinzufügen, um neue Herausforderungen zu bewältigen. Die Studie kommt zu dem Schluss, dass das aktuelle System nicht kaputt ist, aber unvollständig ist. Es benötigt eine Brücke zwischen seinen starken moralischen Prinzipien und der praktischen Realität der Funktionsweise künstlicher Intelligenz.

Die vorgeschlagene Lösung ist ein Arbeitsmodell, das getestet und verbessert werden kann. Der Forscher behauptet nicht, dass dieser Rahmen perfekt ist oder alle Probleme sofort löst. Stattdessen wird er als ein Werkzeug für Diskussionen und zukünftige Validierung präsentiert. Das Papier schlägt vor, dass dieser Rahmen, bevor er zu einer Standardregel wird, mit echten Forschern und Ethikkommissionen getestet werden sollte, um zu sehen, ob er ihnen tatsächlich hilft, bessere Entscheidungen zu treffen, ohne unnötige Verzögerungen zu verursachen. Das ultimative Ziel ist es, ein System zu schaffen, in dem künstliche Intelligenz zur Verbesserung der Gesundheit eingesetzt werden kann, wobei die beteiligten Personen geschützt sind, die Daten verantwortungsbewusst genutzt werden und die betroffenen Gemeinschaften eine echte Stimme in der Steuerung der Technologie haben. Durch die Aufteilung des Prozesses in klare, handhabbare Schritte zielt der Rahmen darauf ab, die komplexe Welt der Forschung mit künstlicher Intelligenz für alle Beteiligten transparenter und rechenschaftspflichtiger zu machen.