Do CNNs Internally Represent Real and Fake Images Differently? A Hidden-Layer Analysis

No mundo digital moderno, os computadores tornaram-se extraordinariamente bons em observar imagens e compreender o que veem. Eles conseguem identificar um gato, um carro ou um tipo específico de paisagem com um nível de precisão que rivaliza com a visão humana. Essa habilidade baseia-se em sistemas complexos chamados redes neurais, que são projetados para imitar a forma como o cérebro humano processa informações. Esses sistemas não apenas armazenam uma imagem; eles a decompõem em camadas de sinais internos, ativando caminhos específicos para reconhecer padrões e atribuir significado. Durante anos, os cientistas assumiram que, se uma imagem parece real para nós, o computador a vê da mesma forma, independentemente de a imagem ter sido capturada por uma câmera ou criada por uma máquina.

No entanto, uma nova onda de ferramentas de inteligência artificial pode agora gerar imagens visualmente indistinguíveis de fotografias reais. Essas imagens sintéticas são criadas por modelos que aprendem com vastas bibliotecas de fotos existentes e, em seguida, constroem novas cenas do zero. À medida que essas imagens falsas se tornam mais comuns nas notícias, nas redes sociais e até mesmo em dados científicos, surge uma questão crítica: o computador acredita verdadeiramente que a imagem falsa é real? Se a maquinaria interna do computador processa uma imagem falsa de forma diferente de uma real, mesmo quando ambas mostram exatamente a mesma cena, isso poderia revelar uma falha oculta na forma como essas máquinas percebem o mundo. Essa distinção é vital para manter a confiança na mídia digital e garantir que os sistemas automatizados não sejam enganados por imperfeições sutis que o olho humano não consegue ver.

Uma equipe de pesquisadores da Universidade Estadual do Kansas propôs-se a investigar exatamente esta questão. Eles queriam saber se os "pensamentos" internos de um sistema de visão computacional mudam quando ele olha para uma imagem falsa em comparação com uma real, mesmo quando o conteúdo da imagem permanece idêntico. Para fazer isso, focaram em um tipo específico de modelo de computador conhecido como rede neural convolucional, que é amplamente utilizado para reconhecer cenas e objetos. Os pesquisadores não perguntaram simplesmente ao computador se a imagem era real ou falsa. Em vez disso, olharam para dentro do "cérebro" da máquina para ver como os neurônios — as unidades básicas de processamento — disparavam ao serem apresentados a diferentes tipos de imagens.

A equipe começou treinando um modelo de computador para reconhecer várias cenas do mundo real, como uma sala de estar, uma montanha nevada ou uma rua movimentada. Uma vez treinado o modelo, utilizaram uma poderosa ferramenta de geração de imagens para criar versões falsas dessas mesmas cenas. Eles utilizaram dois métodos diferentes para criar essas falsificações. No primeiro método, deram ao gerador uma descrição textual da cena, pedindo que criasse uma foto realista baseada apenas em palavras. No segundo método, forneceram ao gerador a foto real original junto com uma descrição textual, pedindo que recriasse a cena mantendo o layout e a estrutura originais. Isso garantiu que, para cada imagem real, houvesse uma imagem falsa correspondente com o mesmo conteúdo semântico, permitindo uma comparação direta.

Com esses pares de imagens reais e falsas prontos, os pesquisadores inseriram-nos no modelo de computador treinado. À medida que as imagens passavam pelo sistema, a equipe registava a atividade da camada final de neurônios, que é onde o modelo toma as suas decisões finais sobre o que está a ver. Em seguida, compararam os padrões de ativação das imagens reais contra as suas contrapartes falsas. O objetivo era ver se os neurônios disparavam com a mesma intensidade e nas mesmas combinações, ou se as imagens falsas causavam uma reação diferente dentro da máquina.

Os resultados foram claros e consistentes. Os pesquisadores descobriram que as imagens falsas não ativavam os neurônios da mesma forma que as imagens reais. Mesmo quando as imagens falsas pareciam perfeitas para o olho humano, os sinais internos do computador eram mais fracos e menos organizados. Especificamente, as imagens falsas fizeram com que menos neurônios disparassem, e aqueles que dispararam frequentemente mostraram níveis de atividade mais baixos. Este efeito foi observado em diferentes tipos de cenas e foi consistente, quer as imagens falsas fossem geradas apenas a partir de texto, quer a partir de uma combinação de texto e uma imagem original. O estudo sugere que o computador está a detetar inconsistências estruturais sutis ou detalhes ausentes nas imagens falsas que não são óbvios para nós, fazendo com que a sua representação interna da cena seja menos robusta.

Para garantir que estas diferenças não eram simplesmente causadas pelo facto de as imagens falsas terem baixa qualidade ou estarem desfocadas, os pesquisadores testaram a sua teoria mais a fundo. Pegaram em imagens reais e as degradaram deliberadamente aplicando compressão JPEG e desfoque, mimetizando o tipo de dano que poderia ocorrer durante a transmissão ou armazenamento. Embora estas imagens degradadas tenham causado algumas alterações na atividade dos neurônios, o padrão de mudança não foi o mesmo do que viram com as imagens falsas. As imagens falsas produziram uma assinatura distinta de redução de atividade que não podia ser totalmente explicada pela simples degradação da imagem. Isto indica que a diferença não é apenas sobre a imagem parecer "má", mas sim sobre como o computador processa fundamentalmente os dados sintéticos versus os dados reais.

Os pesquisadores também testaram as suas descobertas utilizando diferentes modelos de computador e diferentes conjuntos de imagens para ver se o resultado se mantinha sob várias condições. Repetiram o experimento com um tipo diferente de rede neural e uma ferramenta de geração de imagens diferente. Em todos os casos, o padrão permaneceu o mesmo: as imagens falsas evocavam uma resposta diferente e, geralmente, mais fraca das camadas ocultas do computador. Esta consistência através de diferentes configurações reforça a conclusão de que o fenómeno é uma característica genuína de como estes sistemas processam dados sintéticos.

O estudo não afirma ter resolvido o problema da deteção de imagens falsas, nem sugere que este método sozinho esteja pronto para ser usado como um detetor universal. Em vez disso, fornece um insight fundamental sobre a natureza da inteligência artificial. Revela que, mesmo quando um computador é enganado pela aparência visual de uma imagem falsa, a sua maquinaria interna sabe que algo é diferente. Os neurônios não se iluminam com a mesma confiança ou clareza com que o fazem para uma fotografia real. Esta descoberta abre uma nova porta para investigações futuras. Ao compreender exatamente como estes sinais internos diferem, os cientistas poderão desenvolver melhores ferramentas para identificar meios sintéticos, não apenas olhando para os píxeis na superfície, mas ouvindo os sinais internos silenciosos da própria máquina. O trabalho sugere que o caminho para uma IA mais fiável reside na compreensão destas camadas ocultas de processamento, onde a verdade da imagem é revelada não pelo que vemos, mas por como o computador pensa.