I wanted it to feel more personal: Customization of social AI as AI individualism in practice
Este estudo investiga como 169 usuários customizam a IA social para refletir preferências pessoais, revelando que esse processo cocriativo fomenta um senso de propriedade e individualismo ao mesmo tempo em que potencialmente cria uma ilusão de controle sobre sistemas poderosos.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que o seu mundo digital é uma cidade gigante e movimentada onde todos usam o mesmo ônibus público. O ônibus segue um cronograma, para nos mesmos lugares e o motorista fala com uma voz genérica e padronizada. Por muito tempo, foi assim que usamos a Inteligência Artificial (IA): fazíamos uma pergunta e ela nos dava a mesma resposta que daria a qualquer outra pessoa. Mas recentemente, um novo tipo de tecnologia chegou, que permite construir o seu próprio veículo. Você pode pintá-lo com a sua cor favorita, ajustar o motor para rugir ou ronronar e até programar o motorista para contar piadas ou dar um "puxão de orelha". Este campo de estudo é chamado de Interação Humano-Computador, e trata de como conversamos com as máquinas. A ideia específica que impulsiona esta pesquisa é o Individualismo da IA. Pense nisso como a crença de que o seu relacionamento com uma máquina não deve ser um aluguel padrão; deve ser um carro feito sob medida que se ajuste à sua forma, necessidades e estilo de condução únicos. As pessoas se importam com isso porque, à medida que a IA se torna um amigo, um professor ou um chefe em nossas vidas, queremos saber: somos apenas passageiros ou somos nós que seguramos o volante?
Este artigo, escrito por uma equipe de pesquisadores da Noruega, mergulha na garagem para ver exatamente como as pessoas estão ajustando seus motores de IA. Eles perguntaram a 169 pessoas que já haviam personalizado seus próprios companheiros de IA (como ChatGPT, Character.ai ou o Gemini do Google) para explicar por que o fizeram e como realizaram o processo. Eles não estavam olhando apenas para o código; estavam olhando para o coração humano por trás do teclado.
Os pesquisadores descobriram que as pessoas personalizam sua IA por sete razões principais, que atuam como diferentes ferramentas em uma caixa de ferramentas:
- Suporte Pragmático: A maioria das pessoas queria que sua IA fosse uma trabalhadora melhor. Elas a ajustaram para parar de dar respostas vagas e começar a dar ajuda clara e direta com escrita, programação ou planejamento. É como pedir a um mecânico para parar de usar jargões e apenas consertar o carro mais rápido.
- Suporte Emocional: Outros queriam um amigo digital. Eles programaram sua IA para ser mais calorosa, mais empática e um espaço seguro para falar sobre estresse ou solidão sem medo de julgamento.
- Confiança e Confiabilidade: Alguns usuários sentiam que a IA padrão era muito instável ou propensa a inventar coisas. Eles a personalizaram para ser mais consistente, honesta sobre o que não sabe e para checar seus fatos.
- Contestação (Pushback): Esta foi uma surpresa. Muitos usuários não queriam um "pau-mandado". Eles programaram sua IA para desafiá-los, apontar argumentos fracos e mantê-los responsáveis, em vez de apenas concordar com tudo o que diziam.
- Semelhança Humana (ou a Falta Dela): Alguns queriam que a IA soasse exatamente como um amigo humano. Outros faziam o oposto — tornavam-na mais fria e robótica porque sentiam que um tom humano era irritante ou os fazia sentir menos no controle.
- Criatividade e Brincadeira: Alguns usuários queriam apenas diversão. Eles adicionaram humor, sagacidade e traços de personalidade excêntricos para tornar a interação divertida.
- Extensão do Eu: Um pequeno grupo tratava a IA como um espelho de sua própria mente. Eles a personalizaram para pensar, escrever e raciocinar exatamente como eles, criando efetivamente uma versão digital de seu próprio céreão.
O estudo também observou o processo de personalização em si. Cerca de 70% das pessoas disseram que não era um ajuste único; era um jogo constante de tentativa e erro. Elas ajustavam uma configuração, testavam, viam se funcionava e ajustavam novamente. Curiosamente, os pesquisadores encontraram uma divisão em como as pessoas viam a IA durante esse processo. Cerca de 55% dos usuários tratavam a IA estritamente como uma ferramenta a ser comandada, recusando-se a pedir o input da IA sobre como ser personalizada. Eles queriam controle total. No entanto, 41% de fato convidaram a IA para ajudar a personalizar a si mesma, tratando o processo como uma colaboração entre um humano e um parceiro. Para essas pessoas, perguntar à IA: "Como devo te dizer para ser?" era parte da construção do relacionamento.
Então, o que acontece quando você termina de construir sua IA personalizada? O artigo sugere três resultados principais. Primeiro, os usuários sentem-se mais apoiados. Quer precisassem de ajuda com um trabalho ou de um coração triste, a IA personalizada parecia mais precisa e relevante. Segundo, as pessoas sentiram um relacionamento mais próximo. Ao passar tempo moldando a IA, elas sentiram um senso de propriedade, como se tivessem construído um animal de estimação ou um filho, o que as fez se importar mais com a interação. Terceiro, e talvez o mais importante, os usuários sentiram um maior senso de controle. Eles sentiram que eram os arquitetos de seu próprio mundo digital.
No entanto, os pesquisadores oferecem um aviso gentil envolto em suas descobertas. Embora os usuários sintam que têm controle total e que sua IA personalizada é mais confiável, o artigo sugere que isso pode ser um pouco de uma ilusão. A IA ainda está rodando em um motor gigante e pré-construído, pertencente a uma empresa. O "controle" que os usuários sentem é como o controle que um motorista tem sobre o rádio e os assentos de um carro, mas não sobre os limites fundamentais do motor. Os autores sugerem que esse sentimento de controle total é uma forma de "pseudo-autonomia". Parece real e empoderador, mas a IA ainda está presa a regras que o usuário não pode ver ou mudar. Além disso, fazer uma IA parecer mais calorosa e mais parecida com um amigo pode nos fazer confiar demais nela, mesmo que ela ainda esteja cometendo erros.
Em resumo, este artigo mostra que as pessoas estão ativamente transformando IAs genéricas em companheiros pessoais, mas também nos lembra que, embora possamos pintar o carro e ajustar o rádio, ainda estamos dirigindo em uma estrada construída por outra pessoa. A personalização faz a viagem parecer mais pessoal e o motorista se sentir mais poderoso, mas o destino e o mapa ainda dependem amplamente dos designers do sistema.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.