Chat First, Worry Later: Understanding Individuals' Privacy Perceptions Using ChatGPT in a Work Context
Um estudo com 224 profissionais revela que, embora as políticas organizacionais se correlacionem positivamente com a proficiência no ChatGPT, a proficiência geral permanece baixa, e preocupações acentuadas com a privacidade reduzem significativamente tanto a frequência quanto a diversidade do uso do ChatGPT, particularmente em organizações que carecem de diretrizes específicas de IA generativa.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
No ambiente de trabalho moderno, um novo tipo de ajudante chegou, um que pode escrever e-mails, resumir relatórios e redigir códigos com uma velocidade que parece quase humana. Este ajudante é uma ferramenta de inteligência artificial generativa, um tipo de programa de computador treinado em vastas quantidades de texto da internet. Esses programas, frequentemente chamados de grandes modelos de linguagem, funcionam prevendo qual palavra deve vir a seguir em uma frase, permitindo que gerem respostas coerentes e úteis para quase qualquer pergunta. Embora essas ferramentas prometam tornar o trabalho mais fácil e rápido, elas trazem um custo oculto: as informações que você digita nelas podem não permanecer privadas. Como esses sistemas são treinados em dados que incluem detalhes pessoais, existe um risco real de que informações sensíveis sobre pacientes, clientes ou colegas possam ser acidentalmente reveladas ou armazenadas de maneiras que comprometam a segurança. Isso cria uma situação difícil para trabalhadores que desejam usar essas ferramentas para eficiência, mas temem as consequências de compartilhar demais.
Para entender como as pessoas navegam nessa tensão, pesquisadores da Universidade de Regensburg, na Alemanha, conduziram um estudo com 224 profissionais de vários setores, incluindo TI, saúde e educação. Eles queriam ver como três coisas específicas influenciavam se as pessoas usavam essas ferramentas e como as usavam: as regras estabelecidas por seus empregadores, suas próprias preocupações pessoais com a privacidade e o quão bem elas realmente entendiam como a ferramenta lidava com seus dados. Os pesquisadores descobriram que, quando as organizações tinham diretrizes claras sobre o uso dessas ferramentas, seus funcionários sabiam mais sobre como a tecnologia funcionava. Especificamente, trabalhadores em empresas com políticas foram melhores em responder perguntas sobre como a ferramenta armazenava e processava informações. No entanto, mesmo com essas regras, o nível geral de compreensão entre todos os participantes foi bastante baixo, com a maioria das pessoas acertando apenas cerca de um terço dos fatos.
O estudo revelou um padrão claro de comportamento. Aqueles que estavam profundamente preocupados com a privacidade usavam as ferramentas com menos frequência e se limitavam a uma gama mais estreita de tarefas. Essa hesitação foi mais pronunciada entre trabalhadores cujas empresas não possuíam regras de forma alguma; na ausência de orientação oficial, esses indivíduos dependiam inteiramente de seus próprios medos e conhecimentos para decidir o que era seguro. Em contraste, para trabalhadores em organizações com políticas estabelecidas, seu nível pessoal de preocupação não parecia alterar a frequência com que usavam a ferramenta ou para que a usavam. As regras em si pareciam fornecer uma sensação de estrutura que lhes permitia usar a tecnologia de forma mais ampla, independentemente de sua ansiedade pessoal. Curiosamente, os pesquisadores descobriram que o tipo específico de regra — se restringia quem poderia usar a ferramenta ou como ela poderia ser usada — não fazia uma diferença significativa no comportamento. A mera presença de uma política parecia ser o fator mais importante para moldar como os funcionários se engajavam com a tecnologia.
Uma das descobertas mais impressionantes foi um mal-entendido generalizado sobre como essas ferramentas protegem os dados. Quase todos os participantes do estudo acreditavam que as informações digitadas no chat eram automaticamente ocultadas ou anonimizadas para proteger sua identidade. Na realidade, as configurações padrão da ferramenta não garantem isso, e os dados podem ser usados para treinar versões futuras do sistema. Essa lacuna entre o que as pessoas pensam que está acontecendo e o que realmente está acontecendo sugere que muitos trabalhadores estão usando essas ferramentas poderosas enquanto operam sob suposições falsas sobre sua segurança. Os pesquisadores concluíram que, embora as políticas organizacionais ajudem as pessoas a entender melhor a tecnologia, elas não corrigem automaticamente a falta de conhecimento subjacente. Sem informações claras e precisas, mesmo trabalhadores bem-intencionados podem continuar expondo dados sensíveis, não por serem descuidados, mas porque simplesmente não sabem que os riscos são reais.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.