Agents of ViTAL: Ethics Missions -- A Narrative-Centered Learning Environment with a Co-Designed Conversational Agent for Middle School AI Ethics

Im modernen Klassenzimmer ist Technologie nicht mehr nur ein Werkzeug zur Vermittlung von Unterrichtsstunden; sie wird zunehmend zu einem Teilnehmer am Lernprozess selbst. Systeme der künstlichen Intelligenz sind immer besser in der Lage, das Verhalten von Schülern zu analysieren, Feedback zu geben und sogar die zukünftige Leistung vorherzusagen. Während diese Werkzeuge Effizienz und Personalisierung versprechen, werfen sie auch komplexe Fragen zu Privatsphäre, Fairness und den verborgenen Kosten der Rechenleistung auf. Für junge Menschen, die in einer Welt aufwachsen, die von Algorithmen gesättigt ist, wird das Verständnis darüber, wie diese Systeme funktionieren und welche ethischen Kompromisse sie beinhalten, so essenziell wie Lesen oder Schreiben. Die Herausforderung für Pädagogen besteht nicht einfach darin, die Mechanik des Codes zu lehren, sondern den Schülern dabei zu helfen, die schwierigen Entscheidungen zu navigieren, die entstehen, wenn Technologie auf menschliche Werte trifft. Dies erfordert einen Raum, in dem Lernende in die Lage von Entscheidungsträgern schlüpfen, gegensätzliche Interessen abwägen und die Kunst der ethischen Argumentation in einem Umfeld üben können, das sich real anfühlt, auch wenn das Szenario imaginär ist.

Ein Team von Forschern von Universitäten in den USA hat einen neuen Weg entwickelt, um diese abstrakten Konzepte in den Mittelstufenschulunterricht zu bringen. Sie haben eine digitale Lernumgebung namens „Agents of ViTAL: Ethics Missions“ geschaffen, eine browserbasierte Erfahrung, bei der Schüler gemeinsam ein fiktives Problem lösen. In diesem Szenario erwägt eine Mittelschule, ob sie ein neues System der künstlichen Intelligenz namens PresenterPal einführen soll, das darauf ausgelegt ist, sofortiges Feedback zu Klassendiskussionen zu geben. Die Schüler sind keine passiven Zuhörer; sie sind die Entscheidungsträger. Sie betreten einen virtuellen Raum, der die stille Ordnung einer Bibliothek mit der experimentellen Natur eines Labors verbindt, bekannt als das „Libratory“. Hier treffen sie auf digitale Wegweiser, die die Bühne für ihre Mission bereiten: zu untersuchen, ob die Schule mit dieser Technologie fortfahren sollte.

Sob wenn die Untersuchung beginnt, erkunden die Schüler eine simulierte Version der Schule und sammeln Informationen von verschiedenen Personen, die durch das neue System betroffen wären. Sie sprechen mit Lehrern, Schülern, Administratoren und IT-Personal und sammeln Beweise wie Nachrichtenberichte über Datenschutzverletzungen oder Notizen zu Budgetbeschränkungen. Während sie sich durch die Simulation bewegen, begegnen ihnen spezifische Situationen, die sie zwingen, sich mit den drei Hauptdimensionen der künstlichen Intelligenz auseinanderzusetzen: Privatsphäre, Voreingenommenheit (Bias) und Umweltauswirkungen. Wenn sie beispielsweise das System konfigurieren, müssen die Schüler entscheiden, ob sie die Interaktionsdaten der Schüler auf lokalen Servern innerhalb der Schule oder auf Cloud-Servern an einem anderen Ort speichern. Diese Wahl ist nicht bloß technischer Natur; sie hat Gewicht. Das Speichern von Daten lokal könnte die Privatsphäre schützen, aber das begrenzte Budget der Schule belasten, während die Nutzung der Cloud eine bessere Sicherheit bieten könnte, aber Bedenken darüber aufwirft, wer sonst noch Zugriff auf die Informationen hat. Diese Momente sind darauf ausgelegt, zu zeigen, dass es selten eine perfekte Lösung gibt, sondern nur eine Reihe schwieriger Kompromisse.

Nachdem sie ihre Beweise gesammelt haben, gehen die Schüler in eine kollaborative Phase über, die als „Ranking Challenge“ bezeichnet wird. In diesem Teil der Erfahrung muss die Gruppe einen Konsens darüber finden, welche Risiken und Vorteile des KI-Systems am wichtigsten sind. Sie nutzen ein gemeinsames digitales Board, um diese Faktoren zu ranken, und diskutieren ihre Begründungen in einem integrierten Chatfenster. Dieses Board dient als visuelles Protokoll ihres kollektiven Denkens und hilft ihnen zu sehen, wie sich ihre individuellen Ansichten ändern, während sie einander zuhören. Das Ziel ist nicht, eine einzige „richtige“ Antwort zu finden, sondern die Fähigkeit zu üben, Kompromisse unter Verwendung der zuvor gefundenen Beweise zu rechtfertigen. Sie müssen artikulieren, warum sie Privatsphäre gegenüber Bequemlichkeit bevorzugen oder warum sie glauben, dass Umweltkosten wichtiger sind als unmittelbare Effizienz, und dann eine endgültige Empfehlung für die Schule festlegen.

Dieses gesamte Prozesses wird von einem digitalen Begleiter namens EthicsBot unterstützt. Im Gegensatz zu einem traditionellen Lehrer oder einer Suchmaschine, die Antworten liefert, ist EthicsBot darauf ausgelegt, als ein Art ebenbürtiger Denkpartner zu fungieren. Er sagt den Schülern nicht, was sie denken sollen; stattdessen stellt er Fragen, die sie dazu anregen, alternative Perspektiven in Betracht zu ziehen, ihre eigene Argumentation zu klären und über das ethische Gewicht ihrer Entscheidungen nachzudenken. Das System wurde mit einem einzigartigen Ansatz bei seiner Erstellung gebaut: Die Schüler selbst haben den Bot mitgestaltet. Durch einen Prozess des Co-Designs gaben Oberstufenschüler Feedback, das die Art und Weise prägte, wie der Bot spricht, was er vorschlägt und welche Sicherheitsgrenzen er einhält, um zu verhindern, dass er irreführende Informationen gibt. Dies stellt sicher, dass sich das Werkzeug für die Lernenden relevant anfühlt und ihre Stimme bei der Entwicklung der Technologie, die sie untersuchen, respektiert.

Die Forscher testeten diese Umgebung mit vier neunten Klassen, an denen achtzig Schüler teilnahmen, die ihre Zustimmung gegeben hatten. Die Ergebnisse zeigten, dass die Schüler tief in das Material vertieft waren. Sie spielten nicht nur ein Spiel; sie demonstrierten die Fähigkeit zu einer substanziellen ethischen Argumentation und verknüpften die fiktiven Szenarien der Simulation mit ihren eigenen realen Erfahrungen mit Technologie. Die Schüler waren in der Lage, komplexe Themen wie Datensicherheit und algorithmische Voreingenommenheit mit einer Nuancierung zu diskutieren, die darauf hindeutet, dass der narrative Ansatz effektiv ist. Indem das System die Schüler in die Rolle aktiver Teilnehmer statt in die der passiven Informationsempfänger versetzt, hilft es ihnen, das Selbstvertrauen und die Fähigkeiten aufzubauen, die nötig sind, um in einer zunehmend automatisierten Welt zu navigieren. Das Projekt legt nahe, dass junge Menschen, wenn ihnen der Raum gegeben wird, diese Dilemmata kollaborativ zu erforschen, ein differenziertes Verständnis der ethischen Landschaft der künstlichen Intelligenz entwickeln können.