Chat First, Worry Later: Understanding Individuals' Privacy Perceptions Using ChatGPT in a Work Context
Un estudio de usuarios de 224 profesionales revela que, si bien las políticas organizacionales se correlacionan positivamente con la competencia en ChatGPT, la competencia general sigue siendo baja, y la intensificación de las preocupaciones sobre la privacidad reduce significamente tanto la frecuencia como la diversidad del uso de ChatGPT, particularmente en organizaciones que carecen de directrices específicas sobre IA generativa.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En el lugar de trabajo moderno, ha llegado un nuevo tipo de ayudante, uno que puede escribir correos electrónicos, resumir informes y redactar código con una velocidad que se siente casi humana. Este ayudante es una herramienta de inteligencia artificial generativa, un tipo de programa informático entrenado con vastas cantidades de texto de internet. Estos programas, a menudo llamados modelos de lenguaje extensos, funcionan prediciendo qué palabra debería seguir a la siguiente en una oración, lo que les permite generar respuestas coherentes y útiles para casi cualquier pregunta. Si bien estas herramientas prometen hacer el trabajo más fácil y rápido, conllevan un costo oculto: la información que usted escribe en ellas podría no permanecer privada. Debido a que estos sistemas son entrenados con datos que incluyen detalles personales, existe un riesgo real de que información sensible sobre pacientes, clientes o colegas pueda ser revelada accidentalmente o almacenada de formas que comprometan la seguridad. Esto crea una situación difícil para los trabajadores que desean usar estas herramientas para la eficiencia, pero temen las consecuencias de compartir demasiado.
Para entender cómo las personas navegan esta tensión, investigadores de la Universidad de Ratisbona en Alemania realizaron un estudio con 224 profesionales de diversas industrias, incluyendo la informática, la salud y la educación. Querían ver cómo tres cosas específicas influían en si las personas usaban estas herramientas y cómo las usaban: las reglas establecidas por sus empleadores, sus propias preocupaciones personales sobre la privacidad y qué tan bien entendían realmente cómo la herramienta manejaba sus datos. Los investigadores encontraron que cuando las organizaciones tenían directrices claras sobre el uso de estas herramientas, sus empleados sabían más sobre cómo funcionaba la tecnología. Específicamente, los trabajadores en empresas con políticas eran mejores respondiendo preguntas sobre cómo la herramienta almacenaba y procesaba la información. Sin embargo, incluso con estas reglas, el nivel general de comprensión entre todos los participantes fue bastante bajo, con la mayoría de las personas acertando solo aproximadamente un tercio de los hechos.
El estudio reveló un patrón claro en cómo se comportaba la gente. Aquellos que estaban profundamente preocupados por la privacidad usaban las herramientas con menos frecuencia y se limitaban a un rango más estrecho de tareas. Esta vacilación fue más pronunciada entre los trabajadores cuyas empresas no tenían reglas en absoluto; en ausencia de orientación oficial, estos individuos dependían enteramente de sus propios temores y conocimientos para decidir qué era seguro. En contraste, para los trabajadores en organizaciones con políticas establecidas, su nivel de preocupación personal no parecía cambiar qué tan seguido usaban la herramienta o para qué la usaban. Las reglas mismas parecían proporcionar un sentido de estructura que les permitía usar la tecnología de manera más amplia, independientemente de su ansiedad personal. Curiosamente, los investigadores encontraron que el tipo específico de regla —ya fuera que restringiera quién podía usar la herramienta o cómo podía ser usada— no hacía una diferencia significativa en el comportamiento. La mera presencia de una política parecía ser el factor más importante para moldear cómo los empleados se relacionaban con la tecnología.
Uno de los hallazgos más sorprendentes fue un malentendido generalizado sobre cómo estas herramientas protegen los datos. Casi todos los participantes en el estudio creían que la información que escribían en el chat era automáticamente oculta o anonimizada para proteger su identidad. En realidad, la configuración estándar de la herramienta no garantiza esto, y los datos pueden ser utilizados para entrenar versiones futuras del sistema. Esta brecha entre lo que la gente piensa que está sucediendo y lo que realmente está sucediendo sugiere que muchos trabajadores están usando estas poderosas herramientas mientras operan bajo suposiciones falsas sobre su seguridad. Los investigadores concluyeron que, si bien las políticas organizacionales ayudan a las personas a entender mejor la tecnología, no corrigen automáticamente la falta de conocimiento subyacente. Sin información clara y precisa, incluso los trabajadores bien intencionados pueden continuar exponiendo datos sensibles, no porque sean descuidados, sino porque simplemente no saben que los riesgos son reales.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.