Chat First, Worry Later: Understanding Individuals' Privacy Perceptions Using ChatGPT in a Work Context
Une étude menée auprès de 224 professionnels révèle que, bien que les politiques organisationnelles soient positivement corrélées à la maîtrise de ChatGPT, le niveau de compétence global demeure faible, et que l'exacerbation des préoccupations relatives à la confidentialité réduit significativement la fréquence et la diversité de l'utilisation de ChatGPT, particulièrement au sein des organisations dépourvues de directives spécifiques relatives à l'IA générative.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde du travail moderne, un nouveau genre d'assistant est arrivé, capable de rédiger des courriels, de résumer des rapports et de rédiger du code avec une rapidité qui semble presque humaine. Cet assistant est un outil d'intelligence artificielle générative, un type de programme informatique entraîné sur de vastes quantités de textes provenant d'Internet. Ces programmes, souvent appelés grands modèles de langage, fonctionnent en prédisant quel mot devrait suivre dans une phrase, ce qui leur permet de générer des réponses cohérentes et utiles à presque n'importe quelle question. Bien que ces outils promettent de rendre le travail plus facile et plus rapide, ils comportent un coût caché : l'information que vous y tapez pourrait ne pas rester privée. Comme ces systèmes sont entraînés sur des données qui incluent des détails personnels, il existe un risque réel que des informations sensibles concernant des patients, des clients ou des collègues puissent être accidentellement révélées ou stockées de manières compromettant la sécurité. Cela crée une situation difficile pour les travailleurs qui souhaitent utiliser ces outils pour gagner en efficacité, mais craignent les conséquences d'un partage excessif.
Pour comprendre comment les gens naviguent dans cette tension, des chercheurs de l'Université de Ratisbonne en Allemagne ont mené une étude auprès de 224 professionnels issus de divers secteurs, notamment l'informatique, la santé et l'éducation. Ils voulaient voir comment trois éléments spécifiques influençaient l'utilisation de ces outils et la manière dont ils étaient utilisés : les règles établies par leurs employeurs, leurs propres inquiétudes personnelles concernant la vie privée et leur degré de compréhension réelle de la manière dont l'outil traite leurs données. Les chercheurs ont constaté que lorsque les organisations avaient des directives claires sur l'utilisation de ces outils, leurs employés comprenaient mieux le fonctionnement de la technologie. Plus précisément, les travailleurs dans les entreprises dotées de politiques étaient plus aptes à répondre à des questions sur la manière dont l'outil stockait et traitait l'information. Cependant, même avec ces règles, le niveau global de compréhension parmi tous les participants était assez faible, la plupart des personnes n'ayant obtenu qu'environ un tiers des faits exacts.
L'étude a révélé un schéma de comportement clair. Ceux qui étaient profondément préoccupés par la confidentialité utilisaient les outils moins souvent et se limitaient à une gamme de tâches plus restreinte. Cette hésitation était plus prononcée chez les travailleurs dont les entreprises n'avaient aucune règle ; en l'absence de directives officielles, ces individus se fiaient entièrement à leurs propres craintes et connaissances pour décider de ce qui était sûr. En revanche, pour les travailleurs des organisations ayant des politiques établies, leur niveau d'inquiétude personnelle ne semblait pas modifier la fréquence d'utilisation de l'outil ou les tâches effectuées. Les règles elles-mêmes semblaient apporter un sentiment de structure qui permettait d'utiliser la technologie de manière plus large, indépendamment de l'anxiété personnelle. Curieusement, les chercheurs ont constaté que le type spécifique de règle — qu'elle restreigne qui pouvait utiliser l'outil ou comment il pouvait être utilisé — ne faisait pas de différence significative sur le comportement. La simple présence d'une politique semblait être le facteur le plus important pour façonner l'engagement des employés envers la technologie.
L'une des découvertes les plus frappantes fut un malentendu généralisé sur la manière dont ces outils protègent les données. Presque tous les participants à l'étude croyaient que les informations saisies dans le chat étaient automatiquement masquées ou anonymisées pour protéger leur identité. En réalité, les paramètres standards de l'outil ne garantissent pas cela, et les données peuvent être utilisées pour entraîner les futures versions du système. Cet écart entre ce que les gens pensent qu'il se passe et ce qui se passe réellement suggère que de nombreux travailleurs utilisent ces outils puissants tout en opérant sous de fausses hypothèses concernant leur sécurité. Les chercheurs ont conclu que, si les politiques organisationnelles aident les gens à mieux comprendre la technologie, elles ne corrigent pas automatiquement le manque de connaissances sous-jacent. Sans informations claires et précises, même des travailleurs bien intentionnés pourraient continuer à exposer des données sensibles, non par négligence, mais simplement parce qu'ils ignorent que les risques sont réels.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.