Expectations and Practices around AI Disclosure in CS Research
Este artículo investiga el desajuste entre las políticas actuales de divulgación de IA y las expectativas de los investigadores en la informática, revelando que, mientras los investigadores priorizan la divulgación del uso de la IA para tareas de baja implicación como el diseño de la investigación, las prácticas de divulgación reales suelen reportar en exceso usos menos críticos como la asistencia en la escritura, lo que sugiere la necesidad de alinear mejor las políticas con estas expectativas.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En el moderno laboratorio de las ciencias de la computación, un nuevo tipo de asistente se ha instalado silenciosamente. Se trata de herramientas de inteligencia artificial generativa, software capaz de escribir frases, depurar código y organizar ideas con una fluidez que antes parecía imposible para las máquinas. Los investigadores han comenzado a depender de ellas para acelerar su trabajo, desde la chispa inicial de una idea hasta el pulido final de un manuscrito. Sin embargo, esta conveniencia ha desencadenado un debate silencioso pero urgente dentro de la comunidad científica: cuando una máquina ayuda a escribir un artículo, ¿quién recibe el crédito y cuánto de esa ayuda debe revelarse al lector? El núcleo del problema es la confianza. La ciencia se basa en el entendimiento de que el trabajo presentado es producto del pensamiento y el esfuerzo humano. Si una herramienta realiza el trabajo pesado, la integridad del descubrimiento podría verse comprometida a menos que el lector sepa exactamente qué fue hecho por una persona y qué fue hecho por una máquina. En consecuencia, muchos de los principales congresos de ciencias de la computación han comenzado a exigir que los autores incluyan una declaración que divulgue el uso de estas herramientas, una regla destinada a mantener la transparencia en una era de rápido cambio tecnológico.
Un equipo de investigadores del Instituto Indio de Ciencia en Bengaluru se propuso investigar si estas nuevas reglas están funcionando realmente según lo previsto. Querían saber si las políticas redactadas por los organizadores de los congresos coincidían con lo que los investigadores realmente consideraban necesario, y si las declaraciones que los autores escribían en sus artículos reflejaban esas expectativas. Para ello, primero examinaron las reglas en sí. Examinaron las directrices de sesenta y cinco de los principales congresos de ciencias de la computación y de las cuatro sociedades profesionales más grandes en el campo. Descubrieron que, aunque la mayoría de estos foros cuentan ahora con una política que exige la divulgación, las reglas suelen ser vagas. Indican a los autores que sean honestos, pero rara vez especifican exactamente qué tareas requieren una mención o qué detalles deben incluirse. Es como si un profesor le dijera a sus alumnos que "tengan cuidado con su tarea" sin explicar qué significa "tener cuidado" para diferentes asignaciones.
Para llenar esos vacíos, los investigadores hicieron una pregunta sencilla a ciento nueve científicos de la computación: ¿para qué partes del proceso de investigación es realmente importante admitir que se utilizó una herramienta de IA? Presentaron a los investigadores una lista de veintiuna tareas comunes, que iban desde la generación de nuevas ideas y el diseño de experimentos hasta la escritura de código y el pulso de la gramática. También les pidieron que consideraran cuánto control humano hubo en cada tarea. Los resultados fueron reveladores. Los investigadores encontraron que la comunidad coincide generalmente en que la divulgación es más crítica cuando la IA se utiliza para el trabajo intelectual pesado, como diseñar el estudio, analizar datos o formular nuevas hipótesis. En estas áreas, la contribución humana es más vulnerable a ser eclipsada por la máquina. Por el contrario, los investigadores descubrieron que el uso de la IA para simplemente corregir erratas, reformular frases o dar formato a las referencias se consideraba mucho menos crítico de divulgar. Curiosamente, el nivel de control humano importaba inmensamente. Cuando un investigador utilizaba una herramienta de IA pero mantenía una vigilancia estrecha, verificando cada resultado y tomando las decisiones finales, la necesidad de divulgar se sentía menor. Pero cuando se permitía que la IA trabajara con poca supervisión, la demanda de transparencia aumentaba dramente.
El equipo dirigió entonces su atención a lo que estaba sucediendo en el mundo real. Recopilaron y analizaron casi catorce mil declaraciones de divulgación de artículos presentados en dos conferencias importantes, EMNLP e ICLR. Compararon estas declaraciones del mundo real con las expectativas que acababan de reunir en su encuesta. La brecha entre lo que la gente quería y lo que estaba obteniendo fue sorprendente. Aunque los investigadores habían descubierto que las divulgaciones más importantes involucraban la responsabilidad y las tareas específicas realizadas, la gran mayoría de los artículos que revisaron no incluían esta información. En su lugar, las divulgaciones más comunes eran para las tareas que la comunidad consideraba menos importantes: editar texto y corregir código. En muchos casos, los autores escribían frases cortas y genéricas admitiendo que usaron IA para "pulir", pero omitían cualquier menccción de si la IA había ayudado con la ciencia central.
Quizás el descubrimiento más preocupante fue la presencia de declaraciones idénticas, copiadas y pegadas, que aparecían en docenas de artículos no relacionados. Un párrafo específico, que enumeraba los usos estándar de la IA y deslindaba responsabilidades, apareció textualmente en noventa y cinco envíos diferentes a un mismo congreso. Esto sugirió que, para muchos autores, la divulgación se había convertido en una casilla que marcar en lugar de un relato genuino de su flujo de trabajo. Los investigadores señalaron que, si bien algunos de estos enunciados eran exhaustivos, su repetición en trabajos no relacionados indicaba un cumplimiento performativo, donde los autores seguían la letra de la regla sin comprometerse con su espíritu. El estudio también encontró que los autores rara vez mencionaban qué modelo de IA específico utilizaron, a pesar de que muchos lectores habían expresado el deseo de conocer ese detalle.
Basándose en estos hallazgos, los investigadores proponen un cambio en la forma en que se redactan estas políticas. Sugieren alejarse de reglas generales y uniformes hacia un sistema que categorice las tareas de investigación según la necesidad de divulgación. Recomiendan que los congresos creen una lista clara donde ciertas tareas de alto riesgo, como diseñar un experimento, se marquen como obligatorias para la divulgación, mientras que las tareas de bajo riesgo, como dar formato a las referencias, sean opcionales. Para ayudar a los autores a navegar esto, también diseñaron una plantilla sencilla que los autores podrían completar. Esta plantilla les incitaría a enumerar exactamente en qué tareas ayudó la IA, cuánto control humano hubo involucrado y a declarar explícitamente que los autores asumen la plena responsabilidad del trabajo final. El objetivo no es castigar el uso de herramientas útiles, sino asegurar que la relación entre el investigador humano y la máquina sea clara, honesta y digna de confianza. Al alinear las reglas con las expectativas reales de la comunidad científica, la esperanza es que la transparencia pueda mantenerse sin sofocar los beneficios genuinos que estas nuevas herramientas aportan al proceso de investigación.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.