Campus AI vs Commercial AI: A Late-Breaking Study on How LLM As-A-Service Customizations Shape Trust and Usage Patterns
Este estudo de última hora serve como um prelúdio para uma investigação de campo mais ampla, visando estimular a discussão e refinar métodos para examinar como customizações salientes ao usuário de LLM-as-a-Service, tais como mudanças de interface e de branding, influenciam a confiança e os padrões de uso entre estudantes e funcionários universitários em comparação com alternativas comerciais como o ChatGPT.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine a internet como uma biblioteca gigante e movimentada onde os livros mais populares são escritos por um robô superinteligente e onisciente que pode conversar com você sobre qualquer coisa. Esse robô é chamado de Modelo de Linguagem de Grande Escala (LLM), e é como uma enciclopédia mágica que nunca dorme. Mas aqui está o detalhe: esse robô pertence a uma grande empresa privada e, quando você conversa com ele, está pegando emprestadas as ferramentas dele. Às vezes, escolas e escritórios se preocupam que pegar essas ferramentas emprestadas possa ser arriscado, como deixar um estranho entrar em sua casa para ajudar nos estudos. Por isso, eles perguntam: "Podemos construir nossa própria versão desse robô ou, pelo menos, pintar nosso próprio logotipo nele, para que ele pareça mais seguro e mais parecido conosco?" É aqui que entra a ciência da "Interação Humano-Computador". É o estudo de como as pessoas se sentem e agem ao usar a tecnologia. A grande questão que os pesquisadores estão fazendo é: colocar o logotipo de uma escola em um chatbot de robô realmente faz as pessoas confiarem mais nele, usá-lo de forma diferente ou se preocuparem menos com seus segredos? É um pouco como perguntar se vestir a camisa de um time faz você jogar melhor, ou se um rosto amigável em uma máquina de vendas faz você confiar nos lanches lá dentro.
Este artigo é um "estudo de última hora" (late-breaking study), que é uma maneira chique de dizer que os pesquisadores estão compartilhando seu plano de jogo antes mesmo de o grande jogo ser jogado. Eles estão preparando um experimento massivo em uma universidade alemã para ver como estudantes e funcionários reagem ao chatbot de robô personalizado de sua escola em comparação com o famoso ChatGPT comercial. Os pesquisadores não estão olhando apenas para o cérebro do robô (o código); eles estão olhando para a "pele" e as "roupas" do robô — coisas como o logotipo da escola, as cores na tela e os pequenos avisos que aparecem. Eles suspeitam que, mesmo que o cérebro do robô seja exatamente o mesmo, a maneira como ele se parece pode enganar nossos cérebros para nos fazer sentir de forma diferente. Por exemplo, eles se perguntam se ver o logotipo da universidade nos faz confiar mais no robô, ou se nos faz sermos menos cuidadosos quando ele inventa fatos (o que os pesquisadores chamam de "alucinações"). Eles também querem saber se mostrar um "medidor de combustível" para o quanto de poder computacional o robô usa faz as pessoas pensarem mais sobre economizar energia.
A equipe desenhou uma pesquisa para perguntar a cerca de 250 pessoas — estudantes, professores e funcionários de escritório — como elas se sentem em relação aos dois chatbots diferentes. Eles estão verificando seis ideias principais, ou "hipóteses". Primeiro, eles supõem que as pessoas confiarão mais na versão da escola porque ela parece vir de um amigo (a universidade) em vez de um estranho (uma grande empresa). Segundo, eles acham que, se você já confia na sua escola, confiará ainda mais no robô da escola. Terceiro, eles temem que, como o robô da escola parece tão oficial, as pessoas possam parar de checar suas respostas, mesmo quando ele inventa coisas. Quarto, eles suspeitam que as pessoas podem até notar menos fatos inventados na versão da escola porque estão ocupadas demais confiando no logotipo. Quinto, eles acreditam que as pessoas se sentirão mais seguras com seus dados com o robô da escola. Finalmente, eles esperam que, ao mostrar um "medidor de tokens" (como um medidor de combustível para a IA), a versão da escola fará as pessoas usarem o robô de forma mais cuidadosa e pensarem sobre o meio ambiente.
Neste momento, este artigo ainda não tem as respostas finais porque o grande experimento ainda não terminou. Os pesquisadores estão atualmente na fase de "prequela", o que significa que estão compartilhando seu mapa e pedindo feedback para garantir que não se percam. Eles configuraram uma versão personalizada do chatbot usando o Microsoft Azure, onde desativaram parte da "aleatoriedade" para tornar as respostas mais previsíveis, adicionaram o logotipo da universidade e incluíram uma barra visual mostrando quantos "tokens" (pedaços de texto) restam. Eles também estão garantindo que os dados permaneçam dentro da rede da escola para que não sejam compartilhados com o mundo exterior.
Os pesquisadores são cuidadosos ao dizer que ainda não sabem com certeza se suas ideias estão certas. Eles estão sugerindo que essas mudanças visuais podem mudar como as pessoas se comportam, mas precisam dos dados de sua pesquisa da primavera de 2025 para provar isso. Eles não estão alegando que pintar um logotipo resolve todos os problemas com a IA, mas acreditam que é uma ferramenta poderosa que as organizações não devem ignorar. Se suas suposições estiverem corretas, isso pode significar que escolas e empresas precisam pensar muito cuidadosamente sobre como "vestem" suas ferramentas de IA, porque a roupa pode mudar a forma como as pessoas usam a máquina tanto quanto o cérebro da própria máquina. Até que os resultados da pesquisa cheguem, esta história ainda está sendo escrita, mas promete nos contar muito sobre como confiamos nos ajudantes digitais em nossas vidas diárias.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.