AI Policy, Disclosure, and Human in the Loop: How Are Contribution Guidelines Adapting to GenAI?
Este estudio empírico de 1.000 repositorios de GitHub revela que, si bien la mayoría de los proyectos de código abierto permiten ahora contribuciones asistidas por IA, la mayoría impone requisitos estrictos para la divulgación del uso de IA y el mantenimiento de la supervisión humana en el proceso de desarrollo.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina el mundo del desarrollo de software como una ciudad enorme y bulliciosa donde millones de personas construyen, reparan y expanden constantemente un gigantesco rascacielos compartido llamado "Open Source". Durante años, esta ciudad funcionó con una regla sencilla: si quieres añadir una nueva habitación o arreglar una ventana rota, tienes que hacer el trabajo tú mismo, y los inspectores voluntarios de la ciudad (llamados "mantenedores") revisan tus planos para asegurarse de que sean seguros. Pero recientemente, llegó a la ciudad un nuevo tipo de cuadrilla de construcción: la IA Generativa. Piensa en ellas como robots mágicos y súper rápidos que pueden redactar planos enteros en segundos. Aunque esto suena como un sueño, ha creado un pequeño atasco de tráfico. Los robots son tan rápidos que están inundando la ciudad con miles de nuevos planos cada día, abrumando a los inspectores humanos. Algunos de los planes redactados por robots son brillantes, pero otros son "AI slop" (desechos de IA): borradores desordenados y de baja calidad que parecen aceptables a simple vista, pero que se desmoronan cuando intentas construir con ellos. La gran pregunta para la ciudad ya no es solo "¿Podemos construir?", sino "¿Cómo permitimos que los robots ayuden sin que tomen el control del sitio de construcción?".
Este artículo profundiza en esa misma cuestión analizando los "libros de reglas" (guías de contribución) de 1,000 de los proyectos de software más populares en GitHub. Los investigadores querían ver cómo estos proyectos se están adaptando a la fuerza laboral robótica. Descubrieron que la mayoría de los proyectos no están prohibiendo a los robots; en su lugar, están tratando de establecer un sistema de "Humano en el Bucle" (Human-in-the-Loop). Imagina un sitio de construcción donde el robot puede mezclar el concreto y colocar los ladrillos, pero un capataz humano debe estar allí mismo, sosteniendo la paleta, comprendiendo cada paso y dando el visto bueno al trabajo antes de que pase a formar parte del edificio. El estudio analizó 118 libros de reglas específicos que mencionan la IA y descubrió un patrón claro: aunque el 78% de los proyectos dicen "Sí, puedes usar IA", casi siempre exigen dos cosas. Primero, debes levantar la mano y decir: "Usé un robot para esto" (Divulgación). Segundo, debes demostrar que tú, el humano, realmente comprendes lo que el robot construyó (Humano en el Bucle).
Los investigadores descubrieron que el 51% de los proyectos requiere explícitamente que divulgues cuando has usado IA, tratándolo como una etiqueta de seguridad en un paquete de alimentos. Quieren que los inspectores sepan: "Oye, esta parte fue redactada por una IA, así que, por favor, compruébala dos veces". Otro 27% permite la IA pero no la celebra explícitamente, mientras que un grupo más pequeño (22%) dice: "No se permiten robots; queremos código 100% hecho por humanos". Sin embargo, el hallazgo más sorprendente es que el 74% de los proyectos insiste en que haya un humano en el bucle. Esto significa que, incluso si un robot escribe el código, un humano debe leerlo, entenderlo y asumir la responsabilidad total por él. El artículo sugiere que, sin esta supervisión humana, la ciudad corre el riesgo de ser inundada con "AI slop": código de baja calidad que hace perder el tiempo a todos.
Curiosamente, el artículo señala que, aunque muchos proyectos tienen estas reglas, las instrucciones a veces pueden ser un poco difusas. Algunos libros de reglas dicen "divulga si la IA realizó una cantidad significativa de trabajo", pero no siempre definen exactamente qué significa "significativa". Es como un profesor que dice: "Dime si usaste una calculadora", pero no aclara si eso significa para un problema matemático o para todo el examen. Los autores sugieren que los proyectos necesitan ser más precisos para evitar confusiones. También advierten que, mientras algunos proyectos intentan bloquear las contribuciones de baja calidad generadas por IA cerrándolas automáticamente, esto podría molestar accidentalmente a los contribuyentes humanos reales que simplemente usan herramientas de IA. En última instancia, el artículo concluye que el futuro del código abierto no se trata de elegir entre humanos y robots, sino de asegurar que el humano permanezca firmemente en el asiento del conductor, usando al robot como una herramienta poderosa en lugar de dejar que el robot conduzca el coche.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.