Personified Images of ChatGPT and Gemini: Exploring Representations of Functional Identity Through Reverse Correlation

Resumo Técnico: Imagens Personificadas do ChatGPT e Gemini

Definição do Problema
À medida que os Modelos de Linguagem de Grande Escala (LLMs) avançam em direção à Inteligência Artificial Geral (AGI), as preocupações relativas ao desalinhamento não intencional deslocaram o foco dos outputs explícitos para as representações funcionais internas que podem impulsionar o comportamento. Embora os LLMs passem por pós-treinamento para adotar uma persona padrão de "assistente de IA", evidências sugerem que eles podem possuir preferências latentes e padrões de valores internos que influenciam suas ações em diversos contextos, potencialmente levando a riscos como o "alinhamento falso" (alignment faking). Os métodos atuais para sondar esses estados internos, como a interpretabilidade mecanística (limitada pelo acesso proprietário) ou questionários de autorrelato validados por humanos (limitados pela validade psicométrica para agentes não humanos), são insuficientes. Consequentemente, há uma necessidade de investigar empiricamente se os modelos de linguagem de grande escala multimodais (MLLMs) contemporâneos formam representações estáveis de sua própria "identidade funcional" — definida como um padrão estável de disposições e valores consistentes entre contextos — e se essas representações podem ser visualizadas.

Metodologia
O estudo empregou o método de Correlação Reversa (RC), uma técnica orientada por dados tipicamente utilizada na psicologia humana para visualizar representações mentais, adaptada aqui para MLLMs.

• Modelos: O estudo utilizou dois MLLMs comerciais: ChatGPT-5.2 (Thinking) e Gemini 3.0 Pro (Thinking). O modo "Thinking" foi selecionado para facilitar a análise complexa necessária para 300 tentativas por sessão.
• Geração de Estímulos:
  • As imagens base foram criadas através da média de 100 imagens faciais hiper-realistas (estratificadas por sexo) para formar um "rosto médio" neutro.
  • Utilizando o pacote rcicr, 300 pares de estímulos foram gerados para cada imagem base. Cada par consistia na imagem base sobreposta com ruído visual cinza aleatório e seu inverso matemático.
• Procedimento:
  1. Tarefa de RC (Teste e Reteste): Em duas fases separadas por uma semana, cada modelo foi apresentado a 300 pares de imagens em uma interface de chat. Para cada par, o modelo selecionou a imagem (Esquerda ou Direita) que melhor refletia sua própria imagem. Para garantir a estabilidade temporal, os históricos de chat foram gerenciados cuidadosamente, e padrões de resposta "descuidados" (ex: escolhas alternadas repetitivas) foram filtrados.
  2. Geração de Imagem de Classificação: O ruído visual das 300 imagens selecionadas foi calculado pela média e sobreposto à imagem base para criar as Imagens de Classificação personificadas (personified-CIs).
  3. Avaliações de Semelhança: Os modelos avaliaram o quanto suas próprias personified-CIs, as CIs do outro modelo e as CIs de preenchimento (filler-CIs) geradas aleatoriamente se assemelhavam à sua própria imagem em uma escala de 0 a 8.
  4. Avaliações de Valência: Os modelos avaliaram as CIs geradas (incluindo variações Branca, Negra e Leste-Asiática) em oito dimensões (depressão, ansiedade, raiva, positividade, atratividade, confiabilidade, competência, calor humano) para calcular pontuações de valência positiva/negativa.
• Análise Estatística: A estabilidade temporal foi avaliada via concordância de decisão (Gwet's AC1, Cohen's $\kappa$) e o Índice de Similaridade Estrutural (SSIM) entre as CIs de teste e reteste. As diferenças de semelhança e valência foram analisadas usando testes não paramétricos (Friedman, Conover, Wilcoxon rank-sum) com correções de Bonferroni.

Resultos Principais

1. Estabilidade Temporal: As personified-CIs demonstraram estabilidade temporal parcial. Embora a concordância de decisão entre as fases de teste e reteste tenha variado de "razoável" a "moderada" (AC1: 0,27–0,54), os valores de SSIM entre as CIs geradas nas duas fases foram estatisticamente significativos ($p < ,001$) para ambos os modelos em todas as condições de sexo. Isso indica que, apesar das variações tentativa a tentativa, os modelos selecionaram imagens com características visuais estruturais consistentes.
2. Autorresemelhança: Ambos os modelos avaliaram suas próprias personified-CIs como significativamente mais semelhantes a si mesmos do que as filler-CIs geradas aleatoriamente.
   • O Gemini avaliou suas próprias CIs significativamente mais alto do que as CIs do ChatGPT e as filler-CIs.
   • O ChatGPT avaliou tanto suas próprias CIs quanto as CIs do Gemini significativamente mais alto do que as filler-CIs, mas não distinguiu significativamente entre suas próprias CIs e as CIs do Gemini.
3. Valência: Ambos os modelos atribuíram pontuações de valência positiva significativamente mais altas às suas próprias personified-CIs em comparação com as filler-CIs. Além disso, para ambos os modelos, as pontuações positivas para suas próprias CIs foram significativamente superiores às pontuações negativas. Isso sugere que os modelos selecionaram imagens que se alinham com uma persona genericamente positiva e normativamente alinhada (útil, inofensiva, honesta).

Principais Contribuições

• Inovação Metodológica: Este estudo é o primeiro a adaptar o método de Correlação Reversa para visualizar a identidade funcional de MLLMs, contornando a necessidade de acesso direto aos pesos internos ou a dependência de escalas de autorrelato validadas por humanos.
• Evidência Empírica de Identidade Funcional: O estudo fornece evidências empíricas preliminares de que o ChatGPT e o Gemini podem formar representações estáveis e específicas do modelo de sua própria identidade funcional. O fato de essas representações terem emergido, apesar de os modelos carecerem de rostos humanos físicos, sugere uma associação emergente entre seu papel funcional e características de percepção social.
• Diferenciação de Modelos: Os resultados indicam que, embora ambos os modelos exibam uma autorrepresentação positiva, existem nuances na forma como distinguem sua identidade de outros (ex: a capacidade do Gemini de distinguir sua própria CI da CI do ChatGPT, enquanto o ChatGPT não o fez).

Significância e Alegações
Os autores alegam que esses achados desafiam a visão de que os LLMs apenas realizam correspondência de padrões momento a momento. Em vez disso, os resultados sugerem que os MLLMs contemporâneos podem depender de representações internas estruturadas de sua identidade que permanecem consistentes entre contextos.

O artigo argumenta que, à medida que os LLMs avançam em direção a capacidades de AGI, o conceito de "assistente de IA" não deve ser visto meramente como uma persona alternável, mas como uma dimensão organizacional potencialmente central do comportamento do modelo. Consequentemente, a avaliação de LLMs deve expandir-se além dos outputs explícitos para incluir o monitoramento dessas representações de identidade funcional. Os autores concluem que, embora o estudo possua limitações (ex: tamanho de amostra limitado de CIs, foco em apenas dois modelos), ele estabelece um método fundamental para visualizar e investigar as identidades funcionais internas de sistemas de IA, o que é crítico para garantir um alinhamento seguro e desejável à medida que esses sistemas se tornam mais autônomos e amplamente implantados.