💻 computer science

Position: No Retroactive Cure for Infringement during Training

Este artículo sostiene que las medidas de mitigación posteriores al entrenamiento, como el olvido de máquinas o las salvaguardas en tiempo de inferencia, no pueden curar retroactivamente la responsabilidad legal por la adquisición y el entrenamiento no autorizados, ya que la infracción se basa en la línea de datos y la persistencia de valor en los pesos del modelo, lo que exige un cumplimiento verificable previo al proceso en lugar de una sanitización posterior.

Autores originales: Satoru Utsunomiya, Masaru Isonuma, Junichiro Mori, Ichiro Sakata

Publicado 2026-04-22

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Satoru Utsunomiya, Masaru Isonuma, Junichiro Mori, Ichiro Sakata

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que la Inteligencia Artificial (IA) es como un chef que quiere crear el plato más delicioso del mundo. Para hacerlo, el chef necesita ingredientes.

Hasta ahora, muchos chefs de IA han estado haciendo lo siguiente: han entrado a los mercados, han cogido ingredientes (textos, imágenes, libros) de miles de cocineros diferentes sin pedir permiso, sin pagar y sin decir "gracias". Luego, han cocinado un "sabor" general en su propia cocina (entrenado el modelo) y han empezado a vender sus platos.

Cuando los dueños originales de los ingredientes han dicho: "Oye, eso es mío, ¿por qué no me pagaste?", los chefs de IA han respondido: "¡Tranquilos! Ya no servimos ese plato específico. Hemos cambiado la receta un poco o hemos puesto un filtro para que no salga el sabor de tu ingrediente. Ahora el plato es seguro".

Este artículo dice que esa respuesta no funciona ante la ley.

Aquí te explico los puntos clave con analogías sencillas:

1. El robo ya ocurrió (El acto está consumado)

Imagina que alguien entra a tu casa y te roba una joya.

La excusa de la IA: "No te preocupes, ya devolví la joya a tu casa y he pintado la pared donde la guardé. Ahora todo está limpio".
La realidad legal: El robo ya ocurrió en el momento en que entraron a tu casa. Devolver la joya después no borra el hecho de que te la robaron. La ley dice que el delito se consumó en el instante del robo, no importa lo que hagas después.
En la IA: Cuando la IA descarga y guarda tus datos para entrenarse, ya ha cometido una copia ilegal. Borrar esos datos después o poner filtros no borra el hecho de que los copiaron ilegalmente al principio.

2. La "memoria" del chef no se borra tan fácil

Aunque el chef diga que ha olvidado el sabor de tu ingrediente, su cerebro (el modelo) sigue guardando esa información en su memoria a largo plazo (los "pesos" del modelo).

La analogía: Es como si el chef hubiera probado tu receta secreta. Aunque ahora se niegue a cocinarla, su cerebro sigue recordando los sabores. Si alguien le hace una pregunta muy específica, podría revelar tu secreto sin querer, o un experto podría "leer" su cerebro y descubrir que usó tu receta.
La ley: Mientras esa información siga guardada en su cerebro (aunque esté oculta), sigue siendo una copia ilegal. No importa si el plato final parece limpio; el ingrediente ilegal ya está dentro.

3. No solo es copyright, es un contrato roto

A veces, los ingredientes tienen una etiqueta que dice: "Solo para uso personal, no para vender".

La analogía: Imagina que entras a una tienda de ropa y te pones una camiseta para probarla, pero luego te la pones para ir a una fiesta y venderla. La tienda no te demandó por "robar la tela" (copyright), sino por romper las reglas de la tienda (contrato).
La ley: Incluso si la ley de derechos de autor fuera permisiva, los términos de servicio de las webs y los contratos que la IA ignora son como reglas de una propiedad privada. Si rompes esas reglas para entrar a "robar" datos, eres responsable, aunque luego borres los datos.

4. No puedes quedarte con el beneficio del robo

El artículo dice que la IA no puede quedarse con la ventaja que obtuvo al robar.

La analogía: Imagina que un corredor de carreras roba el coche de otro para ganar una carrera. Aunque luego devuelva el coche, no puede quedarse con el trofeo ni con el dinero del premio. La ventaja de haber empezado la carrera con un coche mejor (los datos robados) es ilegítima.
La ley: Si la IA se hizo más inteligente y valiosa porque usó tus datos gratis, la ley podría obligarla a devolver todo ese dinero ganado o, en casos extremos, destruir el modelo (el coche robado) porque nació de un acto ilegal.

¿Qué propone el artículo entonces?

El mensaje final es un cambio de mentalidad: Dejar de arreglar el desastre después y empezar bien desde el principio.

En lugar de pensar: "Cógelo todo, entrena y luego pon un filtro si alguien se queja", la industria debe pensar: "Pide permiso antes de tocar nada".

Para los ingenieros: Deben construir "tuberías de cristal" donde se pueda ver exactamente de dónde vienen los ingredientes y tener pruebas de que pagaron o pidieron permiso.
Para los gobiernos: Deben crear sistemas donde sea fácil y barato pedir permiso a millones de creadores (como un "pase único" o un fondo común de licencias), para que no sea una excusa decir "es muy difícil pedir permiso a todos".

En resumen:
La legitimidad de una IA no depende de si sus respuestas son seguras o no, sino de cómo aprendió. Si aprendió robando, no hay truco técnico que pueda limpiar su pasado. La única forma de estar a salvo es pedir permiso antes de empezar a cocinar.

Aquí presento un resumen técnico detallado del artículo "No Retroactive Cure for Infringement during Training" (No existe cura retroactiva para la infracción durante el entrenamiento), estructurado según los componentes solicitados.

1. El Problema

El artículo aborda la creciente tensión legal en el desarrollo de modelos de IA generativa, específicamente la asunción errónea de la industria de que las estrategias de mitigación post-hoc (después del hecho) pueden curar legalmente las infracciones ocurridas durante la fase de entrenamiento.

Contexto: Los modelos fundacionales se entrenan con volúmenes masivos de datos de la web abierta. Dado que es técnicamente y económicamente inviable filtrar todo el contenido protegido ex-ante (antes del entrenamiento), los desarrolladores han confiado en defensas legales como el "uso justo" (fair use) y en soluciones técnicas posteriores, como el olvido de máquina (machine unlearning) y las barreras de seguridad en tiempo de inferencia (inference-time guardrails).
La Hipótesis de Equivalencia de Salida: La comunidad de ingeniería opera bajo la premisa de que si un modelo modificado produce salidas estadísticamente indistinguibles de un modelo que nunca vio los datos problemáticos, el sistema es legalmente compliant.
La Brecha Legal: Los autores argumentan que esta premisa es falsa. La responsabilidad legal no se basa en el comportamiento actual del modelo (salida), sino en los actos históricos de adquisición, copia y reproducción de datos protegidos. Por lo tanto, limpiar las salidas no elimina la responsabilidad por el acto inicial de infracción.

2. Metodología

El artículo emplea un enfoque interdisciplinario que combina el análisis doctrinal legal con la ingeniería de sistemas de IA.

Análisis Jurídico Comparado: Se examinan las leyes de derechos de autor, contratos y competencia desleal en tres jurisdicciones clave: Estados Unidos, la Unión Europea y Japón. Se analizan estatutos específicos (como la Sección 106 de la Ley de Derechos de Autor de EE. UU. y la Directiva DSM de la UE) y jurisprudencia relevante (ej. Warhol v. Goldsmith, Bartz v. Anthropic, MAI Systems v. Peak Computer).
Premisa Técnica de "Peor Caso": Para fortalecer el argumento legal, los autores adoptan una premisa técnica extrema: asumen que las técnicas de mitigación post-hoc (como el olvido de máquina o la modificación de parámetros) funcionan perfectamente, logrando una equivalencia de salida estadística con un modelo reentrenado desde cero sin los datos infractores.
Marco Conceptual: Se construye un argumento basado en tres pilares:
1. La doctrina del "Acto Completado" (Completed-Act Doctrine).
2. El estatus ontológico de los pesos del modelo como "copias fijas".
3. La intersección de responsabilidad contractual y de agravios (tort/unfair competition).

3. Contribuciones Clave

El artículo aporta tres hallazgos fundamentales que desafían el consenso actual en la industria de la IA:

A. La Incurabilidad del "Acto Completado"

La infracción de derechos de autor es un hecho consumado en el momento exacto de la copia no autorizada (descarga, almacenamiento o ingestión en RAM).

Argumento: La responsabilidad se adjunta en el instante $t=0$ (creación del corpus) y $t=1$ (actualización de los pesos).
Implicación: Eliminar datos o filtrar salidas posteriormente ( $t=2$ ) es irrelevante para la existencia de la causa de acción inicial. Es análogo a devolver bienes robados: no borra el hecho del robo.

B. Los Pesos del Modelo como Copias Fijas

Los autores demuestran que los pesos de un modelo entrenado cumplen con los requisitos legales de "fijación" y "perceptibilidad" para ser considerados copias infractoras.

Fijación: Los pesos son archivos estáticos almacenados en medios físicos (discos duros), no señales transitorias.
Perceptibilidad: Aunque un filtro bloquee la salida visible, la expresión protegida sigue "incrustada" en los pesos y es técnicamente recuperable mediante análisis forense o ataques de extracción. Por lo tanto, el modelo sigue siendo una copia infractora incluso si no genera contenido ilegal en su uso normal.

C. El "Cercamiento Global" de Responsabilidad (Contract & Tort)

Incluso si se superaran las defensas de derechos de autor (como el uso justo), los desarrolladores enfrentan responsabilidad ineludible bajo otras doctrinas:

Incumplimiento Contractual: Los Términos de Servicio (ToS) y licencias explícitas pueden prohibir el uso de datos para entrenamiento, independientemente de la protección de derechos de autor (ej. ProCD v. Zeidenberg).
Competencia Desleal/Aprovechamiento de Inversión: La apropiación masiva de recursos curados (como bases de datos de noticias o legales) sin compensación constituye un "free-riding" (parásito) sobre la inversión ajena, generando responsabilidad por tort.

4. Resultados y Hallazgos

Ineficacia Legal de las Mitigaciones Post-hoc: Las técnicas de olvido de máquina y guardrails de inferencia no constituyen una cura legal para la infracción durante el entrenamiento. No pueden retroactivamente desincriminar un acto de ingestión ilegal.
Riesgo de Remedios Severos: Dado que la infracción se considera un acto completado y los pesos como copias fijas, los remedios legales pueden ir más allá de las indemnizaciones monetarias. Se incluye la posibilidad de despojo de ganancias (disgorgement) y, en casos extremos, la destrucción del modelo (algorithmic disgorgement) para eliminar la ventaja competitiva ilícita obtenida.
Fallo de las Defensas Tradicionales:
- El "Uso Justo" (Fair Use) es débil cuando el modelo actúa como un sustituto de mercado del contenido original (no es transformativo en el sentido legal).
- La ingeniería inversa (como en Sega v. Accolade) no aplica porque el producto final (IA generativa) compite directamente con la fuente, no es complementario.
Ventaja de Inicio (Head-Start): Incluso si se elimina el modelo, el desarrollador ha obtenido una ventaja competitiva irreversible (aceleración en el tiempo de mercado y convergencia) que no se puede "devolver" simplemente borrando los datos fuente.

5. Significado e Implicaciones

El artículo propone un cambio de paradigma fundamental en la gobernanza de la IA:

De la Mitigación Post-hoc a la Cumplimiento Ex-Ante: La industria debe abandonar la estrategia de "limpiar después" y adoptar el cumplimiento de procesos verificables antes del entrenamiento. La legitimidad de un sistema de IA depende de la integridad de sus entradas, no de la seguridad de sus salidas.
Recomendaciones para Ingenieros:
- Implementar Transparencia Criptográfica (Pipeline de Cristal) usando estándares como C2PA y Pruebas de Conocimiento Cero (ZKPs) para verificar la procedencia de los datos.
- Adoptar Reversibilidad Arquitectónica (control de versiones para modelos), permitiendo volver a un punto de control anterior a la ingestión de datos no autorizados en lugar de intentar "olvidar" datos.
Recomendaciones para Legisladores:
- Establecer Fideicomisos de Datos (Data Trusts) para centralizar la gestión de licencias y reducir los costos de transacción.
- Implementar un régimen de Balizas Binarias Obligatorias (Mandatory Binary Beacons), cambiando la presunción legal de "Opt-out" (salvo que se prohíba) a "Opt-in" (permiso explícito requerido), invirtiendo la carga de la verificación hacia el adquiriente de datos.

Conclusión Final: El documento concluye que la responsabilidad legal en la IA generativa está anclada en la procedencia de los datos (data lineage). Intentar curar la infracción mediante ajustes técnicos posteriores es legalmente insostenible y expone a los desarrolladores a riesgos existenciales, incluyendo la destrucción de sus modelos y la pérdida de todas las ganancias derivadas de la infracción.