Ethology of Latent Spaces
Este estudo emprega uma perspectiva etológica para demonstrar que os espaços latentes em modelos de visão-linguagem não são neutros, mas exibem "regimes escópicos algorítmicos" distintos e orientados pelos dados de treinamento que geram interpretações políticas e culturais divergentes e frequentemente contraditórias da arte, necessitando de uma reavaliação crítica de como esses modelos são utilizados na história da arte digital.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que você tem três críticos de arte diferentes. Eles estão olhando para a mesma coleção de 301 pinturas e esculturas, variando do século XV até o ano de 1900. Você poderia esperar que eles concordassem sobre o que veem. Mas, neste estudo, os "críticos" não são humanos; são três modelos de IA diferentes (OpenAI CLIP, OpenCLIP/LAION e SigLIP).
O artigo argumenta que esses modelos de IA não são telas em branco e neutras. Em vez disso, cada um desenvolveu sua própria "personalidade" única e uma maneira de ver o mundo, moldada inteiramente pelos dados específicos com os quais foi alimentado e pela forma como foi construído. O autor chama isso de "etologia de espaços latentes" — basicamente, estudando o "comportamento" desses cérebros de IA da mesma forma que um biólogo estuda o comportamento de animais na natureza.
Aqui está uma decomposição dos principais pontos do artigo usando analogias simples:
1. A Analogia dos "Óculos Invisíveis"
Pense nesses modelos de IA como se estivessem usando óculos invisíveis.
- A Matemática: Dentro do computador, a IA vê imagens como uma nuvem de números (vetores) em um espaço gigante e multidimensional.
- O Significado: Quando perguntamos à IA: "Esta imagem é política?", ela não "pensa" sobre política. Em vez disso, ela olha para sua nuvem de números e vê quais números "políticos" estão mais próximos da imagem.
- A Reviravolta: O artigo mostra que os "óculos" que cada modelo usa são diferentes. Um modelo pode ver uma foto em preto e branco como "escura e sombria", enquanto outro a vê como "alto contraste e dramática", simplesmente devido à forma como foram treinados.
2. Três "Personalidades" Diferentes
O estudo compara três modelos específicos e descobre que eles agem como três pessoas muito diferentes:
- OpenAI CLIP (O Curador de Museu): Este modelo foi treinado em um conjunto de dados privado e cuidadosamente curado. Ele age como um historiador de arte tradicional. Tende a ver a "política" apenas em movimentos de arte institucionais famosos (como o Cubismo ou o Dadaísmo). Se você mostrar a ele uma máscara africana, ele a verá como "arte" ou "cultura", mas não necessariamente como "política".
- OpenCLIP/LAION (O Navegador de Internet): Este modelo foi treinado em um despejo massivo e caótico de dados extraídos de toda a internet. Ele age como um usuário de internet caótico. Ele vê a "política" em toda parte, mas muitas vezes de uma forma aleatória e ruidosa. Pode rotular uma pintura como "colonial" apenas porque a palavra "colonial" apareceu na legenda de uma imagem semelhante na web, mesmo que a pintura em si não seja sobre o colonialismo.
- SigLIP (O Teórico Crítico): Este modelo utiliza uma arquitetura técnica diferente. Ele age como um crítico afiado e moderno. Ele vê a "política" em quase tudo. Por exemplo, ele rotula máscaras africanas como altamente "políticas" (59% das vezes), enquanto os outros modelos dizem que elas são apolíticas. Parece ter aprendido que a arte não ocidental é inerentemente ligada à luta política, enquanto a arte ocidental é "neutra".
3. A Confusão do "Letreiro de Neon"
O artigo apresenta um ótimo exemplo de como as IAs se confundem com a diferença entre um objeto físico e uma palavra.
- O Teste: Os pesquisadores pediram aos modelos para classificar imagens por "brilho".
- O Resultado: O OpenAI CLIP classificou a arte de neon de Joseph Kosuth (que é frequentemente fotografada contra um fundo preto) como uma das coisas mais brilhantes da coleção.
- Por quê? A IA não "viu" os pixels. Ela viu a palavra "neon" nos dados de treinamento e associou a palavra "neon" ao conceito de "luz brilhante". Ela confundiu o rótulo com a realidade.
- O SigLIP, no entanto, realmente olhou para os pixels e identificou corretamente que as fotos escuras eram escuras.
4. "Viés Emergente" vs. "Viés Estatístico"
Normalmente, quando falamos de viés de IA, pensamos em "viés estatístico" (ex: "O conjunto de dados não tinha fotos suficientes de mulheres").
- A Nova Ideia do Artigo: Este estudo introduz o "Viés Emergente". Este é um viés que surge do nada, como uma reação química. Não está nos dados brutos diretamente; ele emerge da forma complexa como a IA conecta os pontos entre palavras e imagens.
- A Analogia: Imagine uma receita. Se você deixar de fora o sal, o prato fica insosso (viés estatístico). Mas se você misturar farinha, açúcar e fermento de uma determinada maneira, você obtém um pão crescendo (propriedade emergente). As visões "políticas" da IA são como o pão crescendo — elas não foram colocadas na tigela, mas surgiram devido à forma como os ingredientes (dados) foram misturados.
5. Os "Três Escopos" (Como Eles Olham)
O autor usa uma metáfora da história da arte para descrever como esses modelos "olham" para o mundo:
- O Olhar Entrópico (LAION): Um olhar caótico e ruidoso que capta tudo o que a internet diz, muitas vezes reforçando estereótipos encontrados em buscas na web.
- O Olhar Institucional (OpenAI): Um olhar controlado, de museu, que reforça as regras estabelecidas da história da arte ocidental.
- O Olhar Semiótico (SigLIP): Um olhar teórico que tenta encontrar significados críticos profundos em tudo, às vezes forçando interpretações políticas onde humanos poderiam apenas ver uma forma.
A Conclusão Final
O artigo conclui que a IA não é uma ferramenta neutra para a história da arte.
Se você usar uma IA para analisar a arte, não está obtendo apenas a "opinião de um computador". Você está obtendo a "personalidade" específica e oculta dos dados de treinamento daquele modelo.
- Se você usar o Modelo A, poderá ver a arte como "neutra e estética".
- Se você usar o Modelo B, poderá ver a mesma arte como "profundamente política e colonial".
O autor alerta que não podemos simplesmente "delegar" a interpretação da arte para a IA sem entender que a IA possui suas próprias regras e vieses invisíveis que não podemos ver, a menos que comparemos diferentes modelos entre si. A "verdade" do que a IA vê depende inteiramente de quais "óculos" ela está usando.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.