💻 computer science

Position: No Retroactive Cure for Infringement during Training

Este artigo argumenta que as medidas de mitigação pós-treinamento, como o desaprendizado de máquina e os filtros de inferência, não podem curar retroativamente a responsabilidade legal por treinamento com dados não autorizados, pois a conformidade depende da linhagem dos dados e não apenas dos resultados, exigindo assim uma transição para a verificação de conformidade processual prévia.

Autores originais: Satoru Utsunomiya, Masaru Isonuma, Junichiro Mori, Ichiro Sakata

Publicado 2026-04-22

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Satoru Utsunomiya, Masaru Isonuma, Junichiro Mori, Ichiro Sakata

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você decide abrir uma cafeteria de sucesso. Para fazer o melhor café do mundo, você decide roubar os segredos de 100 outros baristas: você entra nas cozinhas deles à noite, fotografa todas as receitas, anota cada detalhe de como eles moem o grão e mistura os ingredientes, e usa tudo isso para criar a sua própria "receita mestra" (o seu modelo de IA).

Agora, imagine que, depois de criar essa receita, você percebe que foi pego. Então, você diz: "Ok, eu vou apagar as fotos das receitas dos outros e vou colocar um filtro na minha máquina que impede que eu sirva exatamente o mesmo café que eles. Agora, o meu café é 'limpo' e seguro, certo? Eu não sou mais culpado."

A resposta deste artigo é um sonoro "NÃO".

Os autores, Satoru Utsunomiya e sua equipe, argumentam que não existe "cura retroativa". Ou seja, não adianta tentar consertar o problema depois que o crime já foi cometido.

Aqui está a explicação simples, usando analogias do dia a dia:

1. O Crime Aconteceu no Momento do Roubo (O "Fato Consumado")

A lei de direitos autorais funciona como um alarme de segurança. No momento em que você tirou a foto da receita do vizinho (o momento em que o computador baixou e copiou os dados para treinar), o crime já aconteceu.

A Analogia: É como um ladrão que rouba um carro. Se ele devolver o carro amanhã e pintar de uma cor diferente, ele ainda é um ladrão. O ato de roubar já foi consumado. Apagar as fotos ou filtrar o que a IA diz depois não apaga o fato de que você copiou o trabalho de alguém sem permissão.

2. A Receita Está Escondida na Sua Cabeça (Os "Pesos" do Modelo)

O artigo diz que, mesmo que você apague as fotos originais, a "essência" do roubo ficou gravada na sua mente (ou nos "pesos" do modelo de IA).

A Analogia: Imagine que você aprendeu a tocar uma música complexa ouvindo um violino roubado. Mesmo que você quebre o violino e jogue fora, você ainda sabe tocar a música. A música está "fixada" no seu cérebro. A lei vê o seu cérebro (o modelo de IA) como uma cópia ilegal, porque ele contém a informação roubada, mesmo que você não esteja tocando a música agora.

3. Não é Só Direitos Autorais: É Também Contrato e "Pulo do Gato"

Mesmo que a lei de direitos autorais fosse flexível, existem outras regras que pegam você.

O Contrato (Os Termos de Uso): Se você leu os "Termos de Serviço" de um site e eles diziam "Proibido copiar para treinar robôs", e você fez isso mesmo assim, você quebrou um contrato. É como entrar em um clube VIP sem pagar a entrada, mesmo que a porta estivesse aberta. O dono do clube pode te processar por quebra de contrato, não importa o que você faça depois.
O "Pulo do Gato" (Concorrência Desleal): Se você gastou milhões de dólares para coletar e organizar esses dados, e você usou o trabalho deles de graça para criar seu produto, você está se aproveitando do investimento deles. É como um corredor que corta caminho na pista e chega na frente. Mesmo que ele pare de correr depois, ele ainda tem a vantagem de ter começado antes. A lei pode exigir que ele devolva todo o lucro que ganhou com essa vantagem ilegal.

4. Por que "Limpar" Depois Não Funciona?

A indústria de IA tem tentado usar técnicas chamadas "aprendizado não" (machine unlearning) ou "guardas de segurança" (inference-time guardrails) para tentar apagar a influência dos dados roubados.

A Analogia: É como tentar limpar uma mancha de tinta verde de uma camisa branca usando um filtro de luz que faz a mancha parecer preta. A mancha ainda está lá, a tinta ainda está no tecido. O artigo diz que a lei olha para a mancha (o roubo original), não para a cor que a luz faz parecer agora.

O Que a Indústria Precisa Fazer? (A Solução)

O artigo conclui que a única maneira de estar seguro é mudar a mentalidade de "consertar depois" para "fazer certo antes".

Para os Engenheiros: Em vez de tentar esconder o que foi roubado, eles precisam criar "tubos de vidro" (Glass Pipelines). Imagine que cada ingrediente que entra na sua cafeteria tenha um selo de autenticidade que prova de onde veio. Se não tiver o selo, não entra. E se descobrir que um ingrediente era falso, você deve voltar no tempo (como um controle de versão no computador) e refazer o bolo sem aquele ingrediente, em vez de tentar tirar o gosto ruim depois.
Para os Governos: Precisam criar um sistema onde seja fácil e barato pagar pelos dados, como um "cartório central" de licenças. Em vez de ter que pedir permissão para um bilhão de pessoas individualmente, a IA paga uma taxa para um fundo que distribui o dinheiro para todos os criadores.

Resumo Final

A mensagem principal é: A legitimidade de uma Inteligência Artificial não depende do que ela diz (a saída), mas de como ela aprendeu (a entrada).

Se você construiu sua casa com tijolos roubados, não adianta pintar a casa de branco e colocar um portão bonito. A casa ainda é ilegal. Para a IA ser legal, ela precisa nascer limpa, com permissão de todos os criadores desde o primeiro dia.

Título: No Retroactive Cure for Infringement during Training

Autores: Satoru Utsunomiya, Masaru Isonuma, Junichiro Mori, Ichiro Sakata.
Data: Abril de 2026 (Pré-impressão).

1. O Problema

O artigo aborda a crescente tensão legal no desenvolvimento de Inteligência Artificial Generativa (IA). A indústria de IA adota o paradigma de "ingestão de dados" (treinamento em volumes massivos de dados da web aberta) e defende essa prática sob a égide de exceções como "uso justo" (fair use) ou exceções de mineração de texto e dados (TDM).

Diante de ações judiciais recentes (como NYT vs. OpenAI e Getty Images vs. Stability AI), a comunidade de engenharia tem proposto mitigações post-hoc (após o fato) como estratégia de conformidade. Essas técnicas incluem:

Desaprendizado de Máquina (Machine Unlearning): Tentar remover a influência de dados específicos dos pesos do modelo.
Guardas de Inferência (Inference-time Guardrails): Filtros que bloqueiam a geração de conteúdo infrator.

A premissa de engenharia subjacente é a "Equivalência de Saída": se o modelo não gera mais conteúdo infrator após a mitigação, ele é considerado legalmente equivalente a um modelo que nunca aprendeu com os dados problemáticos. O artigo argumenta que essa premissa é juridicamente falha e que tais medidas não curam retroativamente a responsabilidade civil ou criminal gerada no momento do treinamento.

2. Metodologia e Abordagem

Os autores utilizam uma abordagem interdisciplinar, combinando análise jurídica dogmática (direito autoral, contratual e de responsabilidade civil) com uma avaliação técnica dos mecanismos de IA.

Premissa Técnica Forte: Para fins de argumentação, os autores assumem o "melhor caso" técnico: que as técnicas de mitigação post-hoc são perfeitamente eficazes, tornando a distribuição de saída do modelo modificado estatisticamente idêntica à de um modelo treinado do zero sem os dados infratores ( $P^*(y|x) = P(y|x; \text{retrained})$ ).
Análise Jurídica: Mesmo sob essa premissa técnica ideal, eles analisam a aplicação de doutrinas legais em três jurisdições principais (EUA, UE e Japão) para demonstrar que a responsabilidade se fixa no ato de aquisição e cópia, não na saída final.
Estrutura de Argumentação:
1. Estabelecimento da linha de base legal (a ingestão é reprodução).
2. Análise da incurabilidade da infração (doutrina do ato consumado e estado dos pesos).
3. Expansão para responsabilidade contratual e por torto (competição desleal).
4. Análise de remédios (enriquecimento sem causa e despojo de ganhos).
5. Refutação de contra-argumentos comuns.

3. Principais Contribuições e Descobertas

**A. A Doutrina do Ato Consumado (Completed-Act Doctrine)**

O artigo estabelece que a violação de direitos autorais ocorre no momento exato da cópia não autorizada ( $t=0$ ), seja no download para o corpus de treinamento ou na criação de cópias em RAM durante o treinamento.

Irreversibilidade: A responsabilidade legal é um fato consumado (fait accompli). Tentativas posteriores de apagar dados ou filtrar saídas não apagam o ato ilegal original.
Analogia: Assim como um ladrão que devolve o objeto roubado não anula o crime de furto, um desenvolvedor que remove dados infratores de um modelo já treinado não anula a infração ocorrida durante a ingestão.

B. Os Pesos do Modelo como Cópias Fixas

Os autores argumentam que os pesos do modelo (model weights) constituem cópias fixas da obra original sob a lei de direitos autorais:

Fixação: Os pesos são arquivos estáticos armazenados em mídia física, atendendo ao requisito de permanência.
Perceptibilidade: Mesmo que filtros bloqueiem a saída direta, a expressão protegida permanece "incorporada" nos pesos e é tecnicamente recuperável através de análise forense ou ataques de extração. Portanto, o modelo modificado continua sendo uma cópia infratora.

C. A "Rede Inescapável" de Responsabilidade (Contrato e Torto)

Mesmo que a defesa de direitos autorais (como fair use) fosse aceita, os desenvolvedores enfrentam outras camadas de responsabilidade que contornam essas defesas:

Violação Contratual: Termos de Serviço (ToS) e licenças explícitas (ex: uso não comercial) restringem o acesso e o uso, independentemente do status de direitos autorais dos dados. O descumprimento gera responsabilidade contratual direta.
Competição Desleal / Torto: A apropriação em larga escala de recursos curados (ex: bases de dados jornalísticas) sem compensação pode ser considerada "free-riding" (parasitismo econômico) sobre o investimento alheio, gerando responsabilidade civil mesmo sem violação de copyright.

**D. Enriquecimento Sem Causa e Despojo de Ganhos (Disgorgement)**

O artigo argumenta que os remédios legais não se limitam a multas, mas podem exigir o despojo de ganhos ilícitos:

Vantagem de "Head-Start": O uso de dados protegidos acelera o desenvolvimento do modelo e reduz custos de curadoria. Apagar os dados originais não remove essa vantagem competitiva estrutural.
Despojo Algorítmico: Remédios podem exigir que a empresa devolva os lucros obtidos ou, em casos extremos, destrua o próprio modelo (despojo algorítmico), pois o valor ilícito está incorporado aos parâmetros.

4. Resultados e Implicações

Ineficácia da Mitigação Post-hoc: As técnicas atuais de "limpeza" de modelos não são uma estratégia de conformidade legal válida. Elas podem mitigar danos, mas não eliminam a responsabilidade pelo ato de ingestão.
Risco Existencial: A indústria de IA enfrenta riscos de injunções judiciais que podem proibir o uso de modelos inteiros, além de penalidades financeiras massivas baseadas em ganhos desproporcionais.
Falha da "Quebra Eficiente": A ideia de que é economicamente racional violar a lei e pagar uma multa depois é refutada, pois os remédios podem atingir o ativo principal (o modelo) e os ganhos acumulados.

5. Significado e Recomendações (Mudança de Paradigma)

O artigo conclui que a indústria deve abandonar a abordagem de "consertar depois" e migrar para a Conformidade de Processo Ex-Ante (antes do fato).

Para Engenheiros:

Transparência Criptográfica: Implementar "Tubulações de Vidro" (Glass Pipelines) usando provas de conhecimento zero (ZKPs) e padrões como C2PA para verificar a proveniência dos dados sem revelar o corpus completo.
Reversibilidade Arquitetural: Adotar controle de versão para pesos de modelos (como o Git). Se uma fonte de dados for identificada como não autorizada, o modelo deve ser refeito a partir de um checkpoint anterior à ingestão, em vez de tentar "apagar" o conhecimento.

Para Formuladores de Políticas:

Licenciamento Centralizado: Criar Data Trusts ou Organizações de Gestão Coletiva para facilitar licenciamentos em massa e reduzir custos de transação.
Sinalização Obrigatória (Binary Beacon): Estabelecer um regime legal onde o padrão seja Opt-In (permissão necessária) em vez de Opt-Out. Conteúdo sem um sinalizador claro de permissão para treinamento de IA deve ser considerado proibido por padrão, transferindo o ônus da verificação para o adquirente de dados.

Conclusão

A legitimidade de um sistema de IA depende da integridade de seus inputs (dados de origem), não apenas da segurança de seus outputs (respostas). A conformidade legal exige uma cadeia de título verificável antes do treinamento começar, pois a infração ocorre no momento da ingestão e não pode ser curada retroativamente por filtros ou desaprendizado.