Who Designs the Designer? Behavioural Architecture for GenAI in Education
Dieses Paper schlägt eine „behaviorale Architektur“ für generative KI im Bildungswesen vor, die die Design-Autorität von den Anbietern hin zu einem Modell der geteilten Governance zwischen Lehrenden, Lernenden und dem System verschiebt, wobei argumentiert wird, dass eine Aufsicht auf EU-Ebene essenziell ist, um es Studierenden zu ermöglichen, ihre Lernprofile mitzugestalten und zu kontrollieren, während gleichzeitig die derzeit unbesetzte Rolle des „Designers“ adressiert wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das Problem: Der „Böse Cop“ und der „Robo-Tutor“
Stellen Sie sich vor, die aktuelle Debatte über KI in Schulen steckt zwischen zwei kaputten Spielzeugen fest.
- Der „Böse Cop“ (KI verbieten): Einige Schulen versuchen, KI komplett zu verbieten, wie ein strenger Elternteil, der ein Handy beschlagnahmt. Sie nutzen Detektoren, um Schüler beim Betrug zu erwischen. Aber diese Detektoren sind wie fehlerhafte Metalldetektoren an einem Flughafen; sie schreien oft „Gefahr!“, wenn ein Schüler eigentlich unschuldig ist (wie etwa ein neurodivergenter Schüler, der in seinem eigenen, einzigartigen Stil schreibt). Dies führt zu ungerechten Anschuldigungen und Rechtsstreitigkeiten.
- Der „Robo-Tutor“ (Inhaltsorientierte KI): Andere Schulen begrüßen KI, nutzen sie aber nur, um Fakten zu liefern, wie ein Verkaufsautomat, der das richtige Lehrbuchkapitel ausgibt, basierend darauf, was man falsch gemacht hat. Die KI ist klug darin, was man lernt, aber es ist ihr egal, wie man sich fühlt, was einen motiviert oder wie die eigene Persönlichkeit ist.
Die Realität: Schüler nutzen KI bereits (95 % von ihnen), aber sie tun dies auf eigene Faust, ohne Regeln. Sie nutzen kommerzielle Apps, die im Geheimen Profile über ihre Gewohnheiten erstellen, ohne sie zu fragen. Die Arbeit argumentiert, dass sowohl der „Böse Cop“ als auch der „Robo-Tutor“ scheitern, weil sie das menschliche Element ignorieren: Persönlichkeit, Motivation und Emotionen.
Die Lösung: „Behavioral Architecture“ (Verhaltensarchitektur)
Der Autor schlägt einen neuen Weg vor, KI zu bauen, genannt Behavioral Architecture.
Die Analogie: Der Co-Autor vs. der Stalker
Stellen Sie sich vor, Ihre Lernreise ist ein Buch.
- Aktuelle KI (Der Stalker): Die KI beobachtet Sie aus dem Schatten heraus. Sie errät Ihre Persönlichkeit, indem sie misst, wie schnell Sie klicken oder wie lange Sie auf einen Bildschirm starren. Sie erstellt ein geheimes Profil über Sie, das Sie nicht sehen können, und nutzt dies, um den Unterricht anzupassen. Sie haben keinerlei Mitspracherecht.
- Die neue Architektur (Der Co-Autor): Die KI und der Schüler setzen sich gemeinsam hin, um das Buch zu schreiben.
- Der Lehrer setzt das Ziel (die Lernziele).
- Der Schüler ist der Co-Autor. Sie sagen der KI: „Ich lerne besser, wenn ich Pausen mache“ oder „Ich werde bei Mathe nervös, lass uns einen anderen Ansatz versuchen.“
- Die KI fungt als Schreiber. Sie zeichnet auf, was der Schüler sagt, schlägt Änderungen vor, aber sie errät niemals Ihre Gefühle, ohne zu fragen.
Wichtige Regel: Der Schüler kann das Profil jederzeit lesen, bearbeiten oder löschen. Die KI darf nicht entscheiden, was über den Schüler „wahr“ ist; der Schüler darf mitentscheiden.
Der große Haken: Wer hält den Stift?
Dies ist der kritischste Teil der Arbeit. Der Autor warnt, dass selbst ein „nettes“ System gefährlich sein kann, wenn das Machtgefüge nicht stimmt.
Die Analogie: Der Richter und der Angeklagte
Im Moment ist die Schule sowohl der Richter (der Sie bewertet) als als auch der Angeklagte (der Ihre Daten hält). Wenn ein Schüler versucht, sein Profil zu bearbeiten, um zu sagen: „Ich lerne besser auf diese Weise“, die Schule aber das automatisierte System ignoriert und den Schüler trotzdem durchfallen lässt, hat der Schüler keine Macht.
Die Arbeit argumentiert, dass dieses System nur dann ethisch funktioniert, wenn die Rolle des „Designers“ (derjenige, der entscheidet, was die KI über einen glaubt) geteilt wird. Es darf nicht nur die KI-Firma sein, und es darf nicht nur die Schule sein. Es muss eine Partnerschaft zwischen dem Lehrer, dem Schüler und dem System sein.
Das „Solaria-Risiko“
Die Arbeit führt ein beängstigendes Konzept ein, das Solaria-Risiko genannt wird.
- Die Analogie: Stellen Sie sich eine futuristische Welt vor, in der jeder allein in einem perfekten Haus lebt. Ein Roboter-Diener weiß genau, was Sie mögen, gibt Ihnen genau das, was Sie wollen, und stört Sie nie. Es ist perfekt für Sie, aber Sie sprechen nie mit jemand anderem. Sie verlieren die Fähigkeit, in einem Team zu arbeiten oder Konflikte zu bewältigen.
- Die Warnung: Wenn die KI sich zu perfekt an jede Persönlichkeit anpasst, könnten Schüler vielleicht nicht mehr in die Klasse kommen wollen. Sie könnten alles alleine mit ihrem Roboter lernen. Die Arbeit warnt davor, dass dies zwar dem Einzelnen hilft, aber den „kollektiven“ Teil der Bildung (das gemeinsame Lernen) zerstört.
Das fehlende Puzzleteil: Wer ist der Designer?
Die Arbeit kommt zu dem Schluss, dass derzeit niemand den Designer entwirft.
- Die KI-Firmen bauen die Werkzeuge.
- Die Schulen nutzen sie.
- Die Schüler stecken dazwischen fest.
Der Autor sagt, wir brauchen eine neue Ebene der Governance (speziell auf der Ebene der Europäischen Union), um die Regeln zu bauen. Genau wie wir Gesetze für Gesundheitsdaten haben, brauchen wir Gesetze für „Verhaltensdaten“ in Schulen. Wir müssen sicherstellen, dass:
- Schüler ihre Daten besitzen und sie mitnehmen können.
- Die KI keine psychologischen Urteile fällt (wie „dieser Schüler ist depressiv“), ohne dass ein menschlicher Experte involviert ist.
- Wir testen, ob dieses System Schülern tatsächlich besser beim Lernen hilft, als ihnen nur bessere Lehrbücher zur Verfügung zu stellen.
Zusammenfassung
Die Arbeit stellt die Frage: Wer entscheidet darüber, was die KI über einen Schüler als wahr ansieht?
Derzeit errät die KI dies im Geheimen. Die Arbeit schlägt ein System vor, in dem der Schüler und der Lehrer diese Wahrheit gemeinsam verfassen (Co-Authoring), unter strengen Regeln, um zu verhindern, dass die KI spioniert oder Schüler isoliert. Aber damit dies sicher ist, brauchen wir neue Gesetze und eine neue Art von „Meta-Literacy“ (Schülern beizubringen, wie sie ihre eigenen KI-Profile verwalten), bevor wir dies implementieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.