Process-Constituted Intelligence: A Shared Criterion for Humans and Machines
Este artigo argumenta que a verdadeira inteligência é definida pelo processo cognitivo iterativo em vez do resultado, propondo um framework de "equivalência forte" baseado em sete características de processo para distinguir a cognição humana da IA generativa atual, que meramente reproduz traços de saída, ao mesmo tempo em que oferece princípios de design e auditorias para garantir que as ferramentas de IA aumentem, em vez de erodir, as capacidades generativas humanas.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
A inteligência é frequentemente confundida com o resultado final: a equação resolvida, a pintura terminada, a resposta correta dada em uma conversa. Durante décadas, cientistas debateram se uma máquina que produz o mesmo resultado que um humano está verdadeiramente pensando. Essa questão passou da filosofia para a realidade cotidiana da inteligência artificial generativa, ferramentas que podem escrever ensaios, gerar código e criar imagens que parecem indistinguíveis do trabalho humano. A questão central não é apenas se o resultado é bom, mas como ele chegou lá. No estudo da mente, existe há muito tempo uma distinção entre um sistema que meramente corresponde ao comportamento humano e um que realmente replica a atividade interna necessária para produzir esse comportamento. Um é como um mapa que mostra o destino; o outro é a própria jornada, com todos os seus erros de percurso, pausas e momentos de dúvida. Compreender a diferença não é mais um exercício acadêmico, porque quando os humanos dependem de máquinas para pensar por eles, eles podem estar pulando os próprios passos que constroem sua própria capacidade de pensar.
Uma equipe de pesquisadores da Universidade Macquarie e outras instituições propôs uma nova maneira de medir a inteligência que foca inteiramente nesta jornada. Eles argumentam que a verdadeira inteligência é constituída pelo processo — a atividade iterativa de tentar, falhar, revisar e aprender — e não pelo resultado em si. Para testar isso, eles desenvolveram uma estrutura que observa sete características específicas de como um problema é resolvido. Essas características incluem a disposição para gerar muitas tentativas e descartar as que falham, a capacidade de lidar com a incerteza sem se apressar para uma resposta confiante e a capacidade de aprender com a resistência oferecida pelo material ou pelo ambiente. Eles também observam como o solucionador se envolve em diálogo, como se responsabiliza per diante dos outros e como a própria luta molda a pessoa que realiza o trabalho. Os pesquisadores sugerem que, para uma máquina ser verdadeiramente equivalente a uma mente humana, ela não deve apenas produzir a resposta certa, mas deve demonstrar essas mesmas sete características à sua maneira.
Quando os pesquisadores aplicaram essa estrutura à IA generativa atual, encontraram uma lacuna significativa. Esses sistemas são treinados nos "traços" do pensamento humano: artigos finalizados, códigos publicados e imagens editadas. Eles aprendem a reproduzir o produto final ao amostrar uma vasta coleção dessas obras concluídas. Embora o resultado pareça raciocínio ou criatividade, a atividade interna que o gera nos humanos está amplamente ausente. A máquina não luta com o problema, nem experimenta o acúmulo lento de julgamento que vem de anos de prática. Ela simplesmente prevê a próxima palavra ou pixel provável com base em padrões que já viu antes. Os pesquisadores descrevem isso como "equivalência fraca": a máquina corresponde à entrada e à saída, mas o processo que as conecta está ausente ou é opaco. Mesmo quando esses sistemas parecem "pensar" ao mostrar seu trabalho, como listar etapas antes de uma resposta, isso é frequentemente apenas uma exibição cosmética. As etapas não necessariamente impulsionam a computação; elas são apenas outra camada de saída projetada para parecer raciocínio.
O estudo argumenta explicitamente contra a ideia de que simplesmente tornar esses modelos maiores ou dar-lhes mais dados resolverá este problema. Adicionar mais texto ao conjunto de treinamento fornece apenas mais traços finalizados, não mais o processo desordenado e iterativo que constrói a inteligência. Os pesquisadores também rejeitam a noção de que as máquinas devem copiar a arquitetura biológica exata do cérebro humano para serem inteligentes. Eles propõem um meio-termo chamado "equivalência forte". Isso não exige que uma máquina use os mesmos algoritmos que um céreão humano, o que não é possível nem desejável. Em vez disso, exige que o comportamento da máquina seja organizado pelas mesmas sete características de processo, mesmo que a maquinaria física seja diferente. Por exemplo, uma máquina poderia demonstrar "engajamento com a incerteza" não por sentir dúvida, mas por ter um mecanismo que sinaliza problemas ambíguos e se recusa a dar uma resposta confiante até que mais informações sejam coletadas.
As implicações para os usuários humanos são tão críticas quanto o diagnóstico técnico. Os pesquisadores apontam que, quando uma pessoa utiliza uma ferramenta que realiza o trabalho generativo por ela, a capacidade que aquele trabalho construiria nunca é formada. Evidências de estudos sobre estudantes usando IA sugerem que, embora eles possam desempenhar melhor com a ferramenta presente, frequentemente desempenham pior quando ela é removida, tendo pulado o esforço cognitivo necessário para aprender. O perigo não é apenas uma perda de habilidade, mas uma falha de formação. As atividades difíceis, incertas e dialógicas que moldam o julgamento e a sabedoria de uma pessoa são justamente as coisas que as ferramentas de IA são mais tentadas a contornar. Se uma ferramenta resolve uma ambiguidade para um usuário, o usuário nunca aprende a conviver com essa incerteza. Se uma ferramenta fornece a resposta, o usuário nunca pratica a tentativa e erro necessária para desenvolver gosto e julgamento.
Para enfrentar isso, os autores propõem uma nova abordagem tanto para o design de IA quanto para o uso dela. No lado da máquina, sugerem a construção de arquiteturas que forcem o sistema a engajar-se com o processo, como agentes que devem revisar sua abordagem quando desafiados por outro agente, em vez de apenas votar em uma resposta. No lado humano, defendem uma assistência de "preservação de processo". Isso significa ferramentas que fornecem a próxima pergunta ou um contraexemplo para estender o pensamento do usuário, em vez de fornecer a resposta. O objetivo é manter os passos generativos com a pessoa, garantindo que a ferramenta apoie a atividade de pensar, em vez de substituí-la. Os pesquisadores também delineiam um método de "auditorias de processo", onde tanto humanos quanto máquinas são testados nas mesmas tarefas usando essas sete características como uma rubrica de pontuação. Isso permitiria que cientistas medissem se uma máquina está verdadeiramente engajada no processo ou apenas mimetizando sua forma, e se os usuários humanos estão retendo suas capacidades cognitivas ao serem assistidos por essas ferramentas.
Em última análise, o artigo sugere que a diferença entre um sistema que produz inteligência e um que a constitui é a diferença entre o registro de um evento e o próprio evento. À medida que essas ferramentas se tornam mais poderosas, o foco deve mudar da otimização do resultado para a engenharia do processo. Os pesquisadores não afirmam ter resolvido o mistério da inteligência, nem dizem que a IA atual é inútil. Em vez disso, oferecem um critério claro para o que está faltando e um caminho a seguir para construir sistemas que respeitem o processo de pensamento, tanto no silício quanto na mente humana. Ao focar na atividade em vez do resultado, podemos garantir que, conforme as máquinas se tornem mais capazes, elas não erodem inadvertidamente as próprias capacidades humanas que deveriam apoiar.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.