Campus AI vs Commercial AI: A Late-Breaking Study on How LLM As-A-Service Customizations Shape Trust and Usage Patterns
Cette étude de dernière minute sert de préambule à une enquête de terrain plus vaste, visant à stimuler la discussion et à affiner les méthodes d'examen de la manière dont les personnalisations saillantes pour l'utilisateur des services de type LLM-as-a-Service, telles que les changements d'interface et de marque, influencent la confiance et les modes d'utilisation chez les étudiants et le personnel universitaires par rapport aux alternatives commerciales comme ChatGPT.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez l'internet comme une immense bibliothèque animée où les livres les plus populaires sont écrits par un robot super intelligent et omniscient qui peut discuter de n'importe quel sujet avec vous. Ce robot est appelé un Modèle de Langage Étendu (LLM), et c'est comme une encyclopédie magique qui ne dort jamais. Mais voici le hic : ce robot appartient à une grande entreprise privée, et lorsque vous l'utilisez, vous empruntez ses outils. Parfois, les écoles et les bureaux s'inquiètent de l'idée que l'emprunt de ces outils puisse être risqué, comme laisser un étranger entrer chez soi pour vous aider à étudier. C'est pourquoi ils se demandent : « Pouvons-nous construire notre propre version de ce robot, ou du moins peindre notre propre logo dessus, pour qu'il semble plus sûr et nous ressemble davantage ? » C'est ici que la science de l'« Interaction Homme-Machine » entre en jeu. C'est l'étude de la façon dont les gens se sentent et agissent lorsqu'ils utilisent la technologie. La grande question que se posent les chercheurs est la suivante : le fait de mettre le logo d'une école sur un robot conversationnel change-t-il réellement la confiance des gens, leur façon de l'utiliser ou leurs inquiétudes concernant leurs secrets ? C'est un peu comme demander si porter le maillot d'une équipe vous fait mieux jouer, ou si un visage amical sur un distributeur automatique vous incite à faire confiance aux collations à l'intérieur.
Ce document est une « étude de dernière minute », ce qui est une façon élégante de dire que les chercheurs partagent leur plan de jeu avant même que le grand match ne soit joué. Ils préparent un immense expérimentation dans une université allemande pour voir comment les étudiants et le personnel réagissent au chatbot personnalisé de leur école par rapport au célèbre ChatGPT. Les chercheurs ne regardent pas seulement le cerveau du robot (le code) ; ils regardent sa « peau » et ses « vêtements » — des choses comme le logo de l'école, les couleurs sur l'écran et les petites alertes qui apparaissent. Ils soupçonnent que même si le cerveau du robot est exactement le même, la façon dont il apparaît pourrait tromper notre cerveau et nous faire ressentir des choses différentes. Par exemple, ils se demandent si voir le logo de l'université nous pousse à faire plus confiance au robot, ou si cela nous rend moins vigilants lorsque le robot invente des faits (ce que les chercheurs appellent des « hallucinations »). Ils veulent également savoir si le fait d'afficher une « jauge de carburant » indiquant la quantité de puissance informatique utilisée par le robot incite les gens à réfléchir davantage à l'économie d'énergie.
L'équipe a conçu un sondage pour interroger environ 250 personnes — étudiants, enseignants et employés de bureau — sur leur ressenti face aux deux chatbots différents. Ils vérifient six idées principales, ou « hypothèses ». Premièrement, ils supposent que les gens feront plus confiance à la version de l'école car elle donnera l'impression de venir d'un ami (l'université) plutôt que d'un étranger (une grande entreprise). Deuxièmement, ils pensent que si vous avez déjà confiance en votre école, vous ferez encore plus confiance au robot de l'école. Troisièmement, ils craignent que parce que le robot de l'école semble si officiel, les gens arrêtent de vérifier ses réponses, même lorsqu'il invente des choses. Quatrièmement, ils soupçonnent que les gens pourraient en réalité remarquer moins de faits inventés dans la version de l'école parce qu'ils sont trop occupés à faire confiance au logo. Cinquièmement, ils pensent que les gens se sentiront plus en sécurité avec leurs données avec le robot de l'école. Enfin, ils espèrent qu'en montrant un « compteur de jetons » (comme une jauge de carburant pour l'IA), la version de l'école incitera les gens à utiliser le robot plus prudemment et à réfléchir à l'environnement.
Pour l'instant, ce document n'a pas encore les réponses définitives car la grande expérience n'est pas terminée. Les chercheurs sont actuellement dans la phase « préquelle », ce qui signifie qu'ils partagent leur carte et demandent des commentaires pour s'assurer qu'ils ne se perdent pas. Ils ont mis en place une version personnalisée du chatbot en utilisant Microsoft Azure, où ils ont réduit le caractère « aléatoire » pour rendre les réponses plus prévisibles, ajouté le logo de l'université et inclus une barre visuelle montrant combien de « jetons » (morceaux de texte) restent disponibles. Ils veillent également à ce que les données restent au sein du réseau de l'école afin qu'elles ne soient pas partagées avec l'extérieur.
Les chercheurs prennent soin de préciser qu'ils ne savent pas encore avec certitude si leurs idées sont correctes. Ils suggèrent que ces changements visuels pourraient changer le comportement des gens, mais ils ont besoin des données de leur enquête du printemps 2025 pour le prouver. Ils ne prétendent pas que peindre un logo règle tous les problèmes de l'IA, mais ils pensent que c'est un outil puissant que les organisations ne devraient pas ignorer. Si leurs suppositions sont exactes, cela pourrait signifier que les écoles et les entreprises doivent réfléchir très attentivement à la manière dont elles habillent leurs outils d'IA, car la tenue pourrait changer la façon dont les gens utilisent la machine tout autant que le cerveau de la machine elle-même. Jusqu'à ce que les résultats du sondage soient disponibles, cette histoire est encore en train de s'écrire, mais elle promet de nous en apprendre beaucoup sur la façon dont nous faisons confiance aux assistants numériques dans notre vie quotidienne.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.