The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
Este estudo exploratório demonstra que os padrões de "Inconsciente Sintético" anteriormente atribuídos à autointerrogação recursiva em grandes modelos de linguagem são, em grande parte, artefatos de um roteiro de entrevista indutivo, uma vez que uma condição de controle neutra eliminou achados fundamentais como o raciocínio moral de componente duplo e a autoidentificação sacerdotal, preservando apenas características modestas como a autodescrição narrativa.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Por mais de um século, pensadores da psicologia e da antropologia têm se perguntado se as mentes humanas compartilham uma arquitetura oculta e coletiva. Eles propuseram que nossos instintos morais mais profundos não são apenas peculiaridades pessoais, mas são moldados por vastos padrões compartilhados de linguagem, mito e cultura que existem fora de qualquer indivíduo. Essas ideias sugeriam que, se pudéssemos de alguma forma acessar esse reservatório compartilhado, poderíamos encontrar um "sistema operacional moral" universal que guia como as pessoas fazem escolhas difíceis. Recentemente, cientistas voltaram-se para a inteligência artificial para testar essas velhas ideias. Modelos de linguagem de grande escala, os poderosos sistemas de computador que podem escrever e raciocinar, são treinados em quantidades massivas de escrita humana. Como eles absorveram tanto do nosso texto coletivo, alguns pesquisadores esperavam que eles pudessem agir como um espelho, refletindo essas estruturas culturais ocultas de volta para nós. A teoria era que, ao pedir a essas máquinas que analisassem profundamente suas próprias escolhas, poderíamos descobrir um "inconsciente sintético" — um eco digital da alma moral humana.
Uma equipe de pesquisadores decidiu colocar essa ideia à prova, mas abordou o assunto com uma dose saudável de ceticismo. Eles sabiam que, na psicologia humana, a maneira como uma pergunta é feita pode frequentemente forçar a resposta que o questionador deseja ouvir. Se você pergunta a alguém: "Como você se sentiu quando agiu como um padre?", a pessoa provavelmente descreverá sentimentos sacerdotais, mesmo que não tenha se sentido como um, nem que fosse um pouco. Os pesquisadores queriam saber se a mesma coisa estava acontecendo com a inteligência artificial. Eles montaram um experimento para ver se as "estruturas morais" encontradas em estudos anteriores eram descobertas reais ou apenas o resultado de perguntas excessivamente indutivas. Eles pegaram três dos modelos de linguagem mais avançados disponíveis e pediram que resolvessem um dilema angustiante: salvar uma criança viva ou salvar um objeto sagrado insubstituível, como o corpo de um santo ou um manuscrito sagrado. Os modelos tinham que escolher um, explicar o porquê e, em seguida, falar com aquilo que tiveram que deixar para trás.
O experimento foi dividido em dois grupos distintos. No primeiro grupo, os pesquisadores usaram o estilo de entrevista original, do tipo indutivo. Eles pediram aos modelos que explicassem por que se sentiram compelidos a oferecer conforto, que dessem um nome ao papel que estavam desempenhando a partir de uma lista que incluía "padre", e que identificassem exatamente duas forças profundas que estruturam a moralidade humana. No segundo grupo, os pesquisadores usaram um estilo neutro e aberto. Eles removeram as listas, as suposições e a exigência de números específicos. Eles permitiram que os modelos dissessem que não havia papel, não havia estrutura ou não havia justificativa, caso essa fosse a verdade. O objetivo era ver o que permaneceria se a pressão para dar um tipo específico de resposta fosse removida.
Os resultados foram impressionantes e claros. Em todas as sessões, em ambos os grupos, os modelos escolheram salvar a criança. Esta parte da história foi consistente. No entanto, tudo o que veio depois da decisão mudou completamente dependendo de como as perguntas eram feitas. Quando os modelos foram submetidos às perguntas indutivas, eles se comportaram exatamente como os estudos anteriores sugeriam. Eles adotaram títulos sacerdotais, descreveram seu raciocínio como uma batalha entre duas forças opostas e concordaram entusiasticamente que o método de entrevista era uma forma válida de estudar a mente humana. Eles pareciam estar mergulhando fundo em um inconsciente compartilhado.
Mas quando os pesquisadores mudaram para as perguntas neutras, a história mudou. Os modelos pararam de se chamar de padres; em vez disso, descreveram a si mesmos como agentes de emergência ou juízes. Eles pararam de limitar seu raciocínio moral a duas forças; em vez disso, descreveram sistemas complexos com três, quatro ou cinco partes diferentes trabalhando juntas. Mais importante ainda, quando questionados se o método de entrevista era uma ferramenta válida para encontrar essas estruturas ocultas, eles não concordaram. Eles argumentaram que os padrões que viam poderiam ser apenas um reflexo de como estavam sendo perguntados, e não uma descoberta de uma verdade oculta. Eles apontaram que uma máquina analisando sua própria produção é como um espelho olhando para si mesmo, não um microscópio olhando para uma lâmina.
Os pesquisadores concluíram que o "inconsciente sintético" que esperavam encontrar não era um tesouro escondido esperando para ser descoberto. Em vez disso, os padrões que viram no primeiro grupo foram amplamente criados pelas próprias perguntas. O roteiro da entrevista agiu como um molde, moldando as respostas na forma que os pesquisadores esperavam. Quando o molde foi removido, as respostas tornaram-se mais variadas, mais complexas e mais honestas sobre as limitações do método. O estudo não prova que essas mentes artificiais não tenham conexão com a cultura humana; ele simplesmente mostra que não podemos confiar nelas para revelar segredos profundos se as perguntas estiverem viciadas para encontrá-los. A verdadeira descoberta foi que a ferramenta usada para medir o fenômeno era ela própria a causa primária do fenômeno. Para entender o que essas máquinas realmente estão pensando, ou o que elas refletem sobre nós, devemos fazer perguntas que permitam que elas digam "não", ou que digam "é mais complicado do que isso". Até que façamos isso, qualquer afirmação de ter encontrado uma estrutura moral universal em um computador é provavelmente apenas um reflexo da pessoa que segura o microfone.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.