Campus AI vs Commercial AI: A Late-Breaking Study on How LLM As-A-Service Customizations Shape Trust and Usage Patterns
Diese kurzfristig veröffentlichte Studie dient als Vorstudie für eine umfassendere Feldforschung mit dem Ziel, Diskussionen anzuregen und Methoden zu verfeinern, um zu untersuchen, wie nutzerrelevante Anpassungen von LLM-as-a-Service, wie etwa Änderungen an der Benutzeroberfläche und dem Branding, das Vertrauen und die Nutzungsmuster bei Universitätsstudierenden und -angestellten im Vergleich zu kommerziellen Alternativen wie ChatGPT beeinflussen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet als eine riesige, belebte Bibliothek vor, in der die beliebtesten Bücher von einem superintelligenten, allwissenden Roboter geschrieben werden, der mit Ihnen über alles plaudern kann. Dieser Roboter wird ein Large Language Model (LLM) genannt und ist wie ein magisches Lexikon, das niemals schläft. Aber hier ist der Haken: Dieser Roboter gehört einem großen, privaten Unternehmen, und wenn Sie mit ihm sprechen, leihen Sie sich seine Werkzeuge aus. Manchmal machen sich Schulen und Büros Sorgen, dass das Ausleihen dieser Werkzeuge riskant sein könnte, so als ließe man einen Fremden ins Haus, um beim Lernen zu helfen. Deshalb fragen sie: „Können wir unsere eigene Version dieses Roboters bauen oder zumindest unser eigenes Logo darauf malen, damit er sich sicherer und mehr nach ‚uns‘ anfühlt?“ Hier kommt die Wissenschaft der „Mensch-Computer-Interaktion“ ins Spiel. Es ist die Untersuchung dessen, wie Menschen sich fühlen und wie sie handeln, wenn sie Technologie nutzen. Die große Frage, die Forscher stellen, lautet: Führt das Aufbringen eines Schullogos auf einen Roboter-Chatbot tatsächlich dazu, dass Menschen ihm mehr vertrauen, ihn anders nutzen oder sich weniger Sorgen um ihre Geheimnisse machen? Es ist ein bisschen so, als würde man fragen, ob das Tragen eines Teamtrikots dazu führt, dass man besser spielt, oder ob ein freundliches Gesicht an einem Verkaufsautomaten dazu führt, dass man den Snacks darin mehr vertraut.
Dieses Papier ist eine „Late-Breaking Study“, was eine schicke Art der Bezeichnung ist für: Die Forscher teilen ihren Schlachtplan mit, noch bevor das große Spiel überhaupt gespielt wurde. Sie bereiten ein massives Experiment an einer deutschen Universität vor, um zu sehen, wie Studenten und Mitarbeiter auf ihren maßgeschneiderten Roboter-Chatbot im Vergleich zum berühmten kommerziellen ChatGPT reagieren. Die Forscher schauen nicht nur auf das Gehirn des Roboters (den Code); sie schauen auf seine „Haut“ und seine „Kleidung“ – Dinge wie das Logo der Schule, die Farben auf dem Bildschirm und die kleinen Warnmeldungen, die aufpoppen. Sie vermuten, dass selbst wenn das Gehirn des Roboters exakt dasselbe ist, die Art und Weise, wie er aussieht, unser Gehirn dazu verführen könnte, anders zu fühlen. Zum Beispiel fragen sie sich, ob das Sehen des Universitätslogos uns dazu bringt, dem Roboter mehr zu vertrauen, oder ob es uns weniger vorsichtig macht, wenn der Roboter Fakten erfindet (was Forscher „Halluzinationen“ nennen). Sie wollen auch wissen, ob das Anzeigen einer „Tankanzeige“ für die Menge an Computerleistung, die der Roboter verbraucht, die Menschen dazu bringt, mehr über das Energiesparen nachzudenken.
Das Team hat eine Umfrage entworfen, um etwa 250 Personen – Studenten, Lehrer und Büroangestellte – zu fragen, wie sie über die zwei verschiedenen Chatbots denken. Sie prüfen sechs Hauptideen, oder Hypothesen. Erstens vermuten sie, dass die Menschen der Schulversion mehr vertrauen werden, weil sie sich wie von einem Freund (der Universität) und nicht von einem Fremden (einem großen Unternehmen) anfühlt. Zweitens denken sie, dass, wenn man der Schule bereits vertraut, man auch dem Schul-Roboter noch mehr vertraut. Drittens befürchten sie, dass die Menschen, weil der Schul-Roboter so offiziell aussieht, vielleicht aufhören, seine Antworten zu überprüfen, selbst wenn er Dinge erfindet. Viertens vermuten sie, dass die Leute die erfundenen Fakten in der Schulversion tatsächlich weniger bemerken könnten, weil sie zu sehr damit beschäftigt sind, dem Logo zu vertrauen. Fünftens glauben sie, dass sich die Menschen mit dem Schul-Roboter sicherer fühlen, was ihre Daten angeht. Schließlich hoffen sie, dass das Zeigen eines „Token-Messers“ (wie eine Tankanzeige für die KI) die Menschen dazu bringt, den Roboter vorsichtiger zu nutzen und über die Umwelt nachzudenken.
Im Moment hat dieses Papier noch nicht die endgültigen Antworten, da das große Experiment noch nicht abgeschlossen ist. Die Forscher befinden sich derzeit in der „Prequel“-Phase, was bedeutet, dass sie ihre Landkarte teilen und um Feedback bitten, um sicherzustellen, dass sie sich nicht verlaufen. Sie haben eine maßgeschneiderte Version des Chatbots über Microsoft Azure erstellt, bei der sie etwas „Zufälligkeit“ ausgeschaltet haben, um die Antworten vorhersehbarer zu machen, das Universitätslogo hinzugefügt und eine visuelle Leiste integriert haben, die zeigt, wie viele „Tokens“ (Textstücke) noch übrig sind. Sie stellen auch sicher, dass die Daten innerhalb des Schulnetzwerks bleiben, damit sie nicht an die Außenwelt weitergegeben werden.
Die Forscher sagen vorsichtig, dass sie noch nicht sicher wissen, ob ihre Ideen richtig sind. Sie legen nahe, dass diese visuellen Änderungen das Verhalten der Menschen vielleicht verändern könnten, aber sie benötigen die Daten aus ihrer Umfrage im Frühjahr 2025, um es zu beweisen. Sie behaupten nicht, dass das Aufmalen eines Logos alle Probleme der KI löst, aber sie denken, dass es ein mächtiges Werkzeug ist, das Organisationen nicht ignorieren sollten. Wenn ihre Vermutungen korrekt sind, könnte dies bedeuten, dass Schulen und Unternehmen sehr sorgfältig darüber nachdenken müssen, wie sie ihre KI-Werkzeuge „verkleiden“, denn das Outfit könnte die Art und Weise, wie Menschen die Maschine nutzen, genauso sehr verändern wie das Gehirn der Maschine selbst. Bis die Umfrageergebnisse vorliegen, wird diese Geschichte noch geschrieben, aber sie verspricht uns viel darüber zu verraten, wie wir den digitalen Helfern in unserem täglichen Leben vertrauen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.