Resumo Técnico: "AI Watermarking": Unindo o Discurso Político e as Capacidades Técnicas

1. Declaração do Problema

A implantação generalizada da inteligência artificial generativa (GenAI) precipitou um surto de conteúdo gerado por IA, levantando preocupações relativas à desinformação e má informação, fraude, plágio e a erosão da confiança na mídia digital. Em resposta, formuladores de políticas nos Estados Unidos e na União Europeia têm focado cada vez mais em "marca d'água de IA" (AI watermarking) e mecanismos mais amplos de transparência de conteúdo (CT) como soluções regulatórias.

No entanto, existe um descompasso crítico entre o discurso político e a realidade técnica. A linguagem legislativa frequentemente emprega terminologia ambígua (ex: "marca d'água", "divulgação") que não leva em conta as limitações técnicas específicas, os compromissos (trade-offs) e as restrições operacionais das tecnologias de detecção e rastreamento existentes. Este artigo argumenta que, sem uma análise sistemática de como a política define esses mecanismos versus o que é tecnicamente viável, as regulamentações correm o risco de serem inexequíveis, excessivamente amplas ou contraproducentes para a pesquisa de segurança.

2. Metodologia

Os autores conduziram uma análise qualitativa e interdisciplinar do discurso político em torno da transparência de conteúdo de IA.

• Construção do Corpus: O estudo reuniu um conjunto de dados de 49 documentos publicados entre 1º de janeiro de 2022 e 3 de janeiro de 2025. O corpus inclui:
  • 43 Documentos Legislativos: 36 projetos de lei rejeitados e 7 leis promulgadas dos EUA (federal e 18 estados) e da UE (especificamente o Ato de IA da UE).
  • 6 Outros Documentos de Política: Orientações, briefings e ordens executivas de agências como NIST, CISA, FCC, Casa Branca e o Parlamento Europeu.
• Critérios de Seleção: Os documentos foram selecionados via buscas por palavras-chave (ex: "AI watermarking", "provenance", "synthetic content") através de rastreadores legislativos oficiais e repositórios governamentais.
• Estrutura de Análise: Os autores empregaram codificação indutiva e análise temática. Dois pesquisadores realizaram a codificação aberta em um subconj em de documentos para gerar um código de 56 códigos de baixo nível através de 13 temas de alto nível (ex: escopo, mandatos, processos de detecção, penalidades). Isso resultou em um escore de Kappa de Cohen de 0,86, indicando alta confiabilidade inter-avaliador.
• Desenvolvimento de Taxonomia: Com base na codificação, os autores derivaram uma estrutura analítica de seis parâmetros para sistematizar e comparar documentos legislativos.

3. Principais Contribuições

O artigo apresenta seis contribuições primárias para a interseção entre política de IA e segurança:

1. Clarificação Terminológica: Os autores mapeiam o uso inconsistente de termos como "marca d'água de IA", "divulgação" e "proveniência" dentro do corpus político, distinguindo entre marcas d'água perceptíveis (visíveis) e imperceptíveis (invisíveis), etiquetagem de metadados e detectores post-hoc.
2. Taxonomia Legislativa: Uma estrutura de seis parâmetros é proposta para analisar projetos de lei de transparência de conteúdo:
   • P1: Escopo do conteúdo coberto (ex: uso de IA não qualificado vs. qualificado).
   • P2: Casos de uso aplicáveis (ex: geral vs. específico para eleições).
   • P3: Mandatos (ex: provedores de modelos vs. usuários devem divulgar).
   • P4: Mecanismos de divulgação aceitáveis (ex: tecnologias amplas vs. específicas).
   • P5: Requisitos sobre os mecanismos (ex: cosméticos, informacionais, operacionais, de desempenho).
   • P6: Penalidades para violações.
3. Sistematização da Legislação: Os autores aplicaram esta taxonomia a todos os 43 documentos legislativos, identificando três padrões legislativos dominantes:
   • L1: Mandatar divulgações explícitas de usuários em contextos específicos (ex: anúncios políticos).
   • L2: Mandatar divulgações de provedores de modelos para todas as saídas.
   • L3: Mandatar o desenvolvimento de padrões por agências governamentais.
4. Identificação de Tendências e Lacunas: Dez tendências principais foram destiladas, destacando desalinhamentos significativos entre a linguagem política e as capacidades técnicas.
5. Questões em Aberto: A análise traz à tona dez questões críticas em aberto sobre a regulação de mecanismos de CT, variando desde a definição de conteúdo "gerado por IA" até a alocação de responsabilidade em ecossistemas de código aberto.
6. Recomendações de Política: O artigo oferece cinco recomendações concretas para o desenvolvimento de políticas futuras, enfatizando a sensibilidade ao contexto, a privacidade e a prevenção da criminalização da pesquisa essencial.

4. Resultados e Descobertas Principais

4.1 Ambiguidades no Escopo e Definição

• Escopo Amplo vs. Qualificado: Muitos projetos de lei definem o conteúdo coberto como qualquer saída "gerada no todo ou em parte" por IA (uso não qualificado). Isso ignora usos comuns e benignos de IA, como correção gramatical ou melhoria de imagem. Projetos que usam "uso qualificado" (ex: "substancialmente modificado") frequentemente dependem de termos qualitativos vagos como "altera materialmente o significado" ou "proveniência da verdade", criando incerteza jurídica.
• Sobrecarga Terminológica: O termo "marca d'água" é usado de forma inconsistente, referindo-se às vezes a técnicas invisíveis específicas, outras vezes como um termo guarda-chuva para todo o rastreamento de proveniência, e ocasionalmente confundido com rótulos visíveis.

4.2 Desalinhamento de Responsabilidade

• Fardo do Usuário vs. Provedor: A maioria dos projetos de lei (26 de 43) coloca o ônus da divulgação sobre os usuários (ex: políticos, anunciantes) em vez dos provedores de modelos. Isso levanta desafios de aplicação e preocupações de privacidade.
• Mandatos aos Provedores: Projetos que mandatam divulgações de provedores frequentemente impõem "requisitos generalizados" para todas as saídas sem reconhecer limitações técnicas. Por exemplo, exigir marcas d'água em cada saída é frequentemente tecnicamente impossível para modelos com saídas de baixa entropia (ex: respostas de uma única palavra) ou onde a marca d'água deve carregar informações significativas.

4.3 Requisitos Técnicos vs. Realidade

• Robustez Imperfeita: A legislação frequentemente manda que as divulgações sejam "permanentes" ou "difíceis de remover". No entanto, o artigo observa que nenhuma tecnologia de marca d'água atual possui robustez perfeita; operações comuns como compressão, recorte ou mesmo tradução de texto podem remover ou alterar as marcas d'água.
• Criminalização da Remoção: Vários projetos propõem criminalizar a remoção de divulgações. Os autores argumentam que isso corre o risco de criminalizar atividades comuns (ex: compressão de imagem) e, criticamente, a pesquisa de segurança essencial sobre a robustez da marca d'água, que frequentemente envolve tentar remover as marcas para testar sua força.
• Lacunas de Detecção: A maioria dos projetos falha em reconhecer o processo de detecção. Eles mandam divulgações "imperceptíveis", mas não especificam quem realiza a detecção, como é feito ou como lidar com falsos positivos/negativos. Alguns projetos implicam que uma marca d'água indetectável satisfaz o mandato, tornando o mecanismo inútil.
• Sobrecarga Informacional: Os projetos frequentemente exigem metadados específicos (ex: data de criação, identidade da ferramenta) para serem incorporados. Restrições técnicas (ex: limites de taxa de bits em marcas d'água imperceptíveis) podem tornar impossível incluir todas as informações mandadas sem degradar a qualidade do conteúdo ou excluir tecnologias viáveis.

4.4 Modelos Abertos e Infraestrutura

• Desafios do Código Aberto: Documentos de política raramente abordam as dificuldades específicas de aplicar transparência a modelos de código aberto, onde as salvaguardas podem ser facilmente removidas e onde o "provedor" é ambíguo.
• Confiança na Infraestrutura: A análise destaca a falta de discussão sobre quem opera a infraestrutura de detecção. Se a detecção depende de uma chave secreta mantida por um provedor, o público deve confiar na API desse provedor, introduzando um ponto central de falha ou manipulação.

5. Significância e Recomendações

O artigo conclui que o discurso político atual é fragmentado e muitas vezes desconectado da prática técnica. Os autores argumentam que uma regulação eficaz requer uma mudança de mandatos amplos e agnósticos à tecnologia para políticas sensíveis ao contexto e tecnicamente fundamentadas.

Cinco Recomendações para Políticas Futuras:

1. Sensibilidade ao Contexto: As regulamentações devem ser adaptadas a contextos específicos (ex: eleições vs. uso geral) para evitar conflitos com a liberdade de expressão e para evitar a criminalização excessiva do uso benigno de IA.
2. Considerações de Privacidade: As políticas devem abordar os riscos de privacidade de incorporar metadados do usuário e o potencial de rastrear a expressão do usuário.
3. Compromissos Técnicos Matizados: Os formuladores de políticas devem se envolver com os compromissos entre propriedades como robustez, infalsificabilidade e qualidade, em vez de exigir soluções "perfeitas" impossíveis.
4. Responsabilidade da Infraestrutura: A política deve definir explicitamente os papéis, obrigações e modelos de confiança para as entidades responsáveis pela infraestrutura de transparência de conteúdo (ex: operadores de API, provedores de modelos).
5. Evitar a Criminalização da Pesquisa: Disposições que criminalizam a remoção de divulgações devem ser cuidadosamente delimitadas para evitar o cerceamento da pesquisa de segurança essencial e para evitar a criminalização de atividades digitais rotineiras.

Os autores enfatem que a transparência de conteúdo não é uma "bala de prata" e deve fazer parte de uma estratégia sociotécnica mais ampla que inclua literacia midiática e outras medidas de segurança. O artigo serve como uma síntese fundamental para unir a intenção legislativa e a viabilidade técnica.