Campus AI vs Commercial AI: A Late-Breaking Study on How LLM As-A-Service Customizations Shape Trust and Usage Patterns
Este estudio de última hora sirve como un preludio para una investigación de campo más amplia, con el objetivo de estimular la discusión y refinar los métodos para examinar cómo las personalizaciones destacadas para el usuario de LLM-as-a-Service, tales como cambios en la interfaz y el branding, influyen en la confianza y los patrones de uso entre estudiantes y personal universitario en comparación con alternativas comerciales como ChatGPT.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que el internet es una biblioteca gigante y bulliciosa donde los libros más populares son escritos por un robot superinteligente y omnisciente que puede charlar contigo sobre cualquier cosa. Este robot se llama Modelo de Lenguaje Extenso (LLM, por sus siglas en inglés), y es como una enciclopedia mágica que nunca duerme. Pero aquí está el truco: este robot es propiedad de una gran empresa privada, y cuando hablas con él, estás tomando prestadas sus herramientas. A veces, las escuelas y las oficinas se preocupan de que tomar prestadas estas herramientas pueda ser arriesgado, como dejar entrar a un extraño en tu casa para ayudarte a estudiar. Por eso, preguntan: "¿Podemos construir nuestra propia versión de este robot, o al menos pintar nuestro propio logotipo en él, para que se sienta más seguro y más parecido a 'nosotros'?". Aquí es donde entra en juego la ciencia de la "Interacción Persona-Computadora". Es el estudio de cómo se sienten y actúan las personas cuando usan la tecnología. La gran pregunta que los investigadores se plantean es: ¿El hecho de poner el logotipo de una escuela en un chatbot robótico hace que la gente confíe más en él, lo use de forma diferente o se preocupe menos por sus secretos? Es un poco como preguntar si usar la camiseta de un equipo te hace jugar mejor, o si una cara amable en una máquina expendedora te hace confiar en los bocadillos que hay dentro.
Este artículo es un "estudio de última hora", que es una forma elegante de decir que los investigadores están compartiendo su plan de juego antes de que se juegue el partido decisivo. Están preparando un experimento masivo en una universidad alemana para ver cómo reaccionan los estudiantes y el personal ante el chatbot robótico personalizado de su escuela en comparación con el famoso ChatGPT comercial. Los investigadores no solo están mirando el cerebro del robot (el código); están mirando su "piel" y su "ropa", cosas como el logotipo de la escuela, los colores en la pantalla y las pequeñas advertencias que aparecen. Sospechan que, incluso si el cerebro del robot es exactamente el mismo, la forma en que se ve podría engañar a nuestros cerebros para que nos sintamos diferentes. Por ejemplo, se preguntan si ver el logotipo de la universidad nos hace confiar más en el robot, o si hace que seamos menos cuidadosos cuando inventa hechos (lo que los investigadores llaman "alucinaciones"). También quieren saber si mostrar un "indicador de combustible" sobre cuánta potencia informática utiliza el robot hace que la gente piense más en el ahorro de energía.
El equipo ha diseñado una encuesta para preguntar a unas 250 personas —estudiantes, profesores y trabajadores de oficina— cómo se sienten con los dos chatbots diferentes. Están comprobando seis ideas principales, o "hipótesis". Primero, suponen que la gente confiará más en la versión de la escuela porque se siente como si viniera de un amigo (la universidad) en lugar de un extraño (una gran empresa). Segundo, piensan que si ya confías en tu escuela, confiarás aún más en el robot de la escuela. Tercero, les preocupa que, debido a que el robot de la escuela parece tan oficial, la gente pueda dejar de verificar sus respuestas, incluso cuando inventa cosas. Cuarto, sospechan que la gente podría, de hecho, notar menos los hechos inventados en la versión de la escuela porque están demasiado ocupados confiando en el logotipo. Quinto, creen que la gente sentirá que sus datos están más seguros con el robot de la escuela. Finalmente, esperan que, al mostrar un "medidor de tokens" (como un indicador de combustible para la IA), la versión de la escuela haga que la gente use el robot con más cuidado y piense en el medio ambiente.
En este momento, este artículo aún no tiene las respuestas finales porque el gran experimento no ha terminado. Los investigadores se encuentran actualmente en la fase de "precuela", lo que significa que están compartiendo su mapa y pidiendo comentarios para asegurarse de no perderse. Han configurado una versión personalizada del chatbot utilizando Microsoft Azure, donde desactivaron parte de la "aleatoriedad" para que las respuestas sean más predecibles, añadieron el logotipo de la universidad e incluyeron una barra visual que muestra cuántos "tokens" (fragmentos de texto) quedan. También se están asegurando de que los datos permanezcan dentro de la red de la escuela para que no se compartan con el mundo exterior.
Los investigadores tienen cuidado de decir que aún no saben con certeza si sus ideas son correctas. Sugieren que estos cambios visuales podrían cambiar cómo se comporta la gente, pero necesitan los datos de su encuesta de la primavera de 2025 para demostrarlo. No están afirmando que pintar un logotipo solucione todos los problemas de la IA, pero sí creen que es una herramienta poderosa que las organizaciones no deberían ignorar. Si sus suposiciones son correctas, esto podría significar que las escuelas y las empresas deben pensar muy cuidadosamente en cómo "visten" sus herramientas de IA, porque el atuendo podría cambiar la forma en que la gente usa la máquina tanto como el cerebro de la máquina misma. Hasta que los resultados de la encuesta estén disponibles, esta historia todavía se está escribiendo, pero promete contarnos mucho sobre cómo confiamos en los ayudantes digitales en nuestras vidas diarias.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.