Campus AI vs Commercial AI: A Late-Breaking Study on How LLM As-A-Service Customizations Shape Trust and Usage Patterns
Deze laatst gepubliceerde studie dient als een prequel voor een groter veldonderzoek, met als doel discussie te stimuleren en methoden te verfijnen voor het onderzoeken van hoe door de gebruiker prominente aanpassingen van LLM-as-a-Service, zoals interface- en brandingwijzigingen, de invloed op vertrouwen en gebruikspatronen bij universiteitsstudenten en -medewerkers beïnvloeden in vergelijking met commerciële alternatieven zoals ChatGPT.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je het internet voor als een gigantische, bruisende bibliotheek waar de meest populaire boeken zijn geschreven door een superintelligente, alwetende robot die met je kan chatten over alles. Deze robot wordt een Large Language Model (LLM) genoemd en is als een magische encyclopedie die nooit slaapt. Maar hier zit de adder onder het gras: deze robot is eigendom van een groot, privaat bedrijf, en wanneer je met hem praat, leen je zijn gereedschap. Soms maken scholen en kantoren zich zorgen dat het lenen van deze gereedschappen riskant kan zijn, zoals het binnenlaten van een vreemde in je huis om je te helpen bij het studeren. Dus vragen ze: "Kunnen we onze eigen versie van deze robot bouwen, of kunnen we er op zijn minst ons eigen logo op plakken, om het veiliger en meer 'ons' te laten voelen?" Dit is waar de wetenschap van "Human-Computer Interaction" in beeld komt. Het is de studie naar hoe mensen zich voelen en gedragen wanneer ze technologie gebruiken. De grote vraag die onderzoekers stellen is: zorgt het plaatsen van het logo van een school ervoor dat mensen de robotbot meer vertrouwen, deze anders gebruiken, of minder bezorgd zijn over hun geheimen? Het is een beetje alsof je vraagt of het dragen van een teamtrui ervoor zorgt dat je beter speelt, of dat een vriendelijk gezicht op een verkoopautomaat ervoor zorgt dat je de snacks erin vertrouwt.
Dit artikel is een "late-breaking study", wat een chique manier is om te zeggen dat de onderzoekers hun strijdplan delen voordat het grote spel zelfs gespeeld is. Ze zetten een enorme experiment op aan een Duitse universiteit om te zien hoe studenten en medewerkers reageren op de aangepaste robotchatbot van hun eigen school vergeleken met de beroemde commerciële versie, ChatGPT. De onderzoekers kijken niet alleen naar de hersenen van de robot (de code); ze kijken naar de "huid" en de "kleding" van de robot—dingen zoals het logo van de school, de kleuren op het scherm en de kleine waarschuwingen die verschijnen. Ze vermoeden dat zelfs als de hersenen van de robot precies hetzelfde zijn, de manier waarop hij eruitziet ons brein kan misleiden om anders te gaan voelen. Ze vragen zich bijvoorbeeld af of het zien van het logo van de universiteit ervoor zorgt dat we de robot meer vertrouwen, of dat het ons minder voorzichtig maakt wanneer de robot feiten verzint (wat onderzoekers "hallucinaties" noemen). Ze willen ook weten of het tonen van een "brandstofmeter" voor hoeveel computerkracht de robot gebruikt, ervoor zorgt dat mensen meer nadenken over energiebesparing.
Het team heeft een enquête ontworpen om aan ongeveer 250 mensen te vragen—studenten, docenten en kantoormedewerkers—hoe zij over de twee verschillende chatbots denken. Ze controleren zes hoofdzaken, of hypothesen. Ten eerste vermoeden ze dat mensen de schoolversie meer zullen vertrouwen omdat het voelt alsof het van een vriend (de universiteit) komt in plaats van een vreemde (een groot bedrijf). Ten tweede denken ze dat als je je school al vertrouwt, je de robot van de school nog meer zult vertrouwen. Derde maken ze zich zorgen dat omdat de schoolrobot er zo officieel uitziet, mensen misschien stoppen met het dubbelchecken van de antwoorden, zelfs wanneer de robot dingen verzint. Vierde vermoeden ze dat mensen de bedachte feiten in de schoolversie juist minder zullen opmerken omdat ze te druk zijn met het vertrouwen van het logo. Vijfde geloven ze dat mensen hun gegevens veiliger zullen voelen met de schoolrobot. Ten slotte hopen ze dat door een "token meter" (zoals een brandstofmeter voor de AI) te tonen, de schoolversie mensen zal stimuleren om de robot voorzichtiger te gebruiken en aan het milieu te denken.
Op dit moment heeft dit artikel nog geen definitieve antwoorden, omdat het grote experiment nog niet is afgerond. De onderzoekers bevinden zich momenteel in de "prequel"-fase, wat betekent dat ze hun kaart delen en om feedback vragen om er zeker van te zijn dat ze niet verdwalen. Ze hebben een aangepaste versie van de chatbot opgezet met behulp van Microsoft Azure, waarbij ze een deel van de "willekeur" hebben uitgeschakeld om de antwoorden voorspelbaarder te maken, de universiteitslogo hebben toegevoegd en een visuele balk hebben toegevoegd die laat zien hoeveel "tokens" (tekstblokken) er nog over zijn. Ze zorgen er ook voor dat de gegevens binnen het netwerk van de school blijven, zodat ze niet met de buitenwereld worden gedeeld.
De onderzoekers zijn voorzichtig in hun stelling dat ze nog niet zeker weten of hun ideeën kloppen. Ze suggereren dat deze visuele veranderingen de manier waarop mensen zich gedragen misschien veranderen, maar ze hebben de gegevens van hun enquête in het voorjaar van 2025 nodig om dit te bewijzen. Ze beweren niet dat het schilderen van een logo alle problemen met AI oplost, maar ze denken wel dat het een krachtig instrument is dat organisaties niet mogen negeren. Als hun vermoedens juist zijn, kan dit betekenen dat scholen en bedrijven heel goed moeten nadenken over hoe ze hun AI-tools "aankleden", omdat het outfit de manier waarop mensen de machine gebruiken net zozeer kan veranderen als de hersenen van de machine zelf. Totdat de resultaten van de enquête binnen zijn, wordt dit verhaal nog steeds geschreven, maar het belooft ons veel te vertellen over hoe we de digitale helpers in ons dagelijks leven vertrouwen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.