Human-in-the-loop GenAI advising for community college pathway decision-making: a design-based case study of requirement-group modeling and privacy-preserving student-support design
Diese designbasierte Fallstudie adressiert die Forschungslücke im Bereich der Beratung an Community Colleges in Bezug auf generative KI, indem sie ein datenschutzfreundliches Framework und acht Gestaltungsprinzipien vorschlägt, die KI als eine erklärende Ebene für die Wegeplanung positionieren, während gleichzeitig die menschliche Aufsicht gewahrt, die Studentendaten geschützt und die Handlungsfähigkeit der Lernenden gefördert wird.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das GPS, das das Auto nicht fährt
Stellen Sie sich vor, Sie versuchen, sich in einer riesigen, weitläufigen Stadt zurechtzufinden, in der sich die Straßen jedes Mal ändern, wenn Sie blinzeln. Einige Straßen sind Einbahnstraßen, einige sind nur dienstags offen, und manche sind bloße Vorschläge, die sich in Autobahnen verwandeln, wenn man den richtigen geheimen Code kennt. So fühlt sich die Navigation durch eine Ausbildung an einem Community College für Studenten oft an. Sie wählen nicht nur Kurse aus; sie versuchen, eine Karte durch ein Labyrinth aus Anforderungen, Transferregeln und zukünftigen Karrierezielen zu erstellen. Lange Zeit haben Forscher Computern beigebracht, Studenten beim Schreiben von Essays oder beim Lösen von Matheaufgaben zu helfen, aber sie haben diesem „Navigations“-Aspekt der Schule wenig Aufmerksamkeit geschenkt.
Hier kommt Generative KI (oder GenAI) ins Spiel. Stellen Sie sich das als einen superintelligenten, gesprächigen Roboter vor, der Millionen von Büchern lesen und in Sekundenschnelle eine Geschichte schreiben kann. Er ist großartig darin, Dinge zu erklären, aber er kann auch Fehler machen oder Fakten erfinden, wenn man nicht vorsichtig ist. Dann gibt es Human-in-the-Loop, was nur eine schicke Art zu sagen ist: „Der Roboter hilft, aber ein Mensch trifft die endgültige Entscheidung.“ Und schließlich ist Datenschutz die Regel, die besagt, dass der Roboter nicht in Ihr geheimes Tagebuch (Ihre persönlichen Noten und Aufzeichnungen) schauen darf, nur um Ihnen Ratschläge zu geben. Dieses Papier stellt eine große Frage: Wenn wir diesen superintelligenten Roboter nutzen wollen, um Studenten bei der Planung ihrer college-bezogenen Wege zu helfen, wie stellen wir sicher, dass er sich nicht verirrt, die Privatsphäre nicht verletzt und den Studenten nicht versehentlich in einen Abgrund steuert?
Das Dilemma des Kartografen
Die Autorin dieser Studie, Emery Peck von der Ivy Tech Community College of Indiana, beschloss, einen Prototyp – eine Testversion eines Werkzeugs – zu bauen, um zu sehen, ob wir GenAI nutzen können, um Studenten bei der Planung ihrer college-bezogenen Wege zu helfen, ohne dem Roboter das Steuer zu überlassen. Die Studie hat das Werkzeug nicht an echten Studenten getestet, um zu sehen, ob sie bessere Noten erzielen; stattdessen untersuchte sie die Blaupausen, die Designnotizen und die Logik hinter dem Werkzeug, um herauszufinden, wie es gebaut werden sollte.
Die wichtigste Erkenntnis ist, dass man einen College-Abschluss nicht wie eine einfache Einkaufsliste behandeln kann. Wenn Sie einfach eine Checkliste erstellen wie „Milch kaufen, Eier kaufen, Brot kaufen“, übersehen Sie, dass Sie statt Kuhmilch auch Mandelmilch kaufen könnten oder dass Sie drei Eier brauchen, aber nur zwei im Karton haben. Das Papier legt nahe, dass College-Anforderungen eher wie flexible Bausteine als wie eine starre Checkliste sind. Einige Blöcke sind fest vorgegeben (man muss einen Mathekurs haben), aber andere sind ein „Wähle dein eigenes Abenteuer“-Stil (wähle beliebige drei aus dieser Gruppe von Geschichtskursen). Die Studie fand heraus, dass man versucht, diese flexiblen Blöcke in eine flache, langweilige Liste zu pressen, die KI verwirrt wird und dem Studenten vielleicht sagen könnte, dass ihm ein Kurs fehlt, den er eigentlich gar nicht benötigt.
Die acht Regeln für einen smarten Berater-Roboter
Basierend auf dem Design ihres Prototyps schlagen die Autoren acht „Verkehrsregeln“ für den Bau dieser KI-Berater vor. Hier ist das, was sie herausgefunden haben, einfach erklärt:
Verwenden Sie keine flache Checkliste, sondern flexible Gruppen.
Stellen Sie sich ein Videospiel vor, in dem Sie „drei magische Gegenstände“ sammeln müssen. Eine flache Checkliste würde sagen: „Hol Schwert, Hol Schild, Hol Trank.“ Aber das Spiel erlaubt es tatsächlich, ein Schild gegen einen Helm einzutauschen. Die KI muss verstehen, dass man eine Gruppe von Gegenständen benötigt, nicht spezifische einzelne. Das Papier schlägt vor, Anforderungen als diese flexiblen Gruppen zu modellieren, damit die KI nicht in Panik gerät, wenn ein Student eine andere gültige Option wählt.Die KI ist der Reiseführer, nicht der Fahrer.
Der Roboter sollte sehr gut darin sein, zu erklären, warum ein bestimmter Weg funktioniert, und Ihnen die verschiedenen Routen aufzuzeigen, die Sie nehmen könnten. Aber er sollte nicht derjenige sein, der die Papiere unterschreibt oder die endgültige Entscheidung trifft. Die KI erklärt die Optionen; der menschliche Berater (oder der Student mit Hilfe eines Menschen) trifft die Wahl.Halten Sie die öffentliche Karte von dem privaten Tagebuch getrennt.
Dies ist eine wichtige Datenschutzregel. Die KI kann den öffentlichen College-Katalog betrachten (den jeder sehen kann), um zu erklären, wie Kurse funktionieren. Aber sie sollte nicht in der Lage sein, die privaten Noten oder die persönliche Geschichte eines bestimmten Studenten einzusehen, um dies zu tun. Die Studie schlägt vor, das System so zu bauen, dass es großartige Ratschläge allein unter Verwendung öffentlicher Informationen geben kann, um die geheimen Daten des Studenten sicher und getrennt zu halten.Menschen müssen die großen Entscheidungen prüfen.
Wenn die KI einen Weg vorschlägt, der den Studiengang eines Studenten ändert, ihn extra Geld kostet oder seine Fähigkeit beeinflusst, an eine andere Hochschule zu wechseln, muss ein echter menschlicher Berater dies überprüfen. Der Roboter kann vorschlagen, aber der Mensch muss genehmigen.Helfen Sie den Studenten, selbst zu fahren.
Das Ziel ist nicht nur, dem Studenten zu sagen: „Geh nach links.“ Es geht darum, ihm zu helfen zu verstehen, warum der Weg nach links besser ist als der nach rechts, damit er lernt, wie er selbst plant. Das Werkzeug sollte dem Studenten helfen, die Kompromisse zu sehen und zu lernen, seinen eigenen Weg zu managen.Verwenden Sie keine beängstigenden „Risiko“-Wörter.
Anstatt einem Studenten zu sagen, er sei „gefährdet“ oder „scheiternd“, sollte die Sprache sich darauf beziehen, das „Momentum beizubehalten“ oder „einen neuen Weg zu finden“. Die Studie fand heraus, dass die Verwendung einer positiven, nicht wertenden Sprache den Studenten hilft, sich kontrollierter zu fühlen, anstatt beobachtet zu werden.Zeigen Sie die nebligen Stellen auf.
Manchmal sind College-Regeln verwirrend oder so geschrieben, dass sie nicht klar sind. Eine gute KI sollte nicht so tun, als wüsste sie die Antwort, wenn sie es nicht weiß. Sie sollte sagen: „Dieser Teil ist etwas unklar, lassen Sie uns einen Menschen bitten, dies zu überprüfen.“ Es ist besser, Unsicherheit zuzugeben, als eine falsche Antwort mit voller Überzeugung zu geben.Jobs sind wichtig, aber sie sind nicht das einzige Ziel.
Die KI kann Studenten helfen zu sehen, wie ein Kurs ihnen helfen könnte, einen Job zu bekommen, aber sie sollte sie nicht in einen Beruf drängen, nur weil der Arbeitsmarkt gerade heiß ist. Studenten könnten andere Träume haben, wie etwa an eine Universität zu wechseln oder ein neues Interesse zu erkunden, und die KI muss das respektieren.
Was dies für die Zukunft bedeutet
Das Papier behauptet nicht, dass dieses Werkzeug bereits tausende Studenten gerettet hat oder perfekt ist. Es ist eine Designstudie, was bedeutet, dass es eine Anleitung dazu ist, wie man etwas baut, das gut funktioniert, und kein Bericht darüber, wie gut ein fertiges Produkt funktioniert hat. Die Autoren schlagen vor, dass, wenn Colleges KI für die Beratung nutzen wollen, sie mit diesen Regeln beginnen müssen: halten Sie die Daten privat, lassen Sie den Menschen das Sagen und stellen Sie sicher, dass die KI versteht, dass College-Pfade flexibel und nicht starr sind.
Indem wir diesen Regeln folgen, können wir vielleicht einen KI-Berater bauen, der sich weniger wie ein strenger Roboter-Lehrer anfühlt und mehr wie ein hilfreicher, wissender Freund, der die Karte kennt, aber Sie entscheiden lässt, wohin Sie gehen. Es ist ein Weg, diese coole neue Technologie zu nutzen, ohne die menschliche Note zu verlieren, die Bildung erst wirksam macht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.