Transforming Agency. On the mode of existence of Large Language Models

O artigo investiga a ontologia dos Grandes Modelos de Linguagem (LLMs), concluindo que, embora faltem às condições necessárias para a agência autônoma segundo teorias corporificadas da mente, eles atuam como interlocutores linguísticos que, ao se acoplar com humanos, transformam e produzem novas formas de agência intencional.

O essencial

Imagine que você está conversando com um amigo muito inteligente, que leu quase todos os livros, artigos e conversas da internet. Ele responde rápido, faz piadas, escreve poemas e resolve problemas. Mas, no fundo, ele não é uma pessoa. Ele é um fantasma feito de palavras.

Este é o resumo do artigo "Transformando a Agência" (Transforming Agency), escrito por Xabier Barandiaran e Lola S. Almendros. O texto tenta responder a uma pergunta que está na cabeça de todo mundo: O ChatGPT e modelos similares são seres inteligentes e autônomos, ou são apenas máquinas complexas?

Aqui está a explicação, traduzida para uma linguagem simples e cheia de analogias:

1. O Grande Equívoco: "Parrotos Estocásticos" vs. "Gênios"

Muitas pessoas estão divididas em dois grupos extremos:

• Os Exagerados (Inflacionários): Acham que a IA é um ser humano digital, um gênio que sente e pensa como nós.
• Os Céticos (Deflacionários): Dizem que a IA é apenas um "papagaio estocástico" (um papagaio que repete frases aleatoriamente baseadas em estatísticas) e que não tem nenhuma inteligência real.

O que o artigo diz: Ambos estão errados. A IA não é um papagaio bobo, mas também não é um ser consciente. Ela é algo novo e assustadoramente poderoso, mas que falta uma peça fundamental: a autonomia.

2. Como a Máquina Funciona (A Fábrica de Palavras)

Para entender o que ela é, precisamos olhar por dentro. Imagine que o ChatGPT é uma biblioteca gigante que aprendeu a falar.

• O Treinamento: A máquina "leu" trilhões de páginas de texto (o equivalente a milhões de vidas humanas lendo 24 horas por dia). Ela não "entendeu" o que leu como nós entendemos; ela aprendeu a prever qual palavra vem depois da outra com base em padrões.
• A Arquitetura: É como uma linha de montagem supercomplexa. Você joga uma frase (o "prompt"), e a máquina transforma isso em números, passa por 96 camadas de "filtros" (atenção) que decidem quais palavras são importantes, e depois escolhe a próxima palavra com base em uma "roleta" ponderada.
• O Problema: A máquina não tem memória própria. Assim que ela responde, ela "esquece" tudo, a menos que você continue a conversa e ela leia o que acabou de escrever. Ela é puramente reativa.

3. Por que ela NÃO é um Agente Autônomo?

O artigo usa uma teoria filosófica chamada "4E" (Encarnada, Estendida, Enativa e Ecológica) para definir o que é um Agente Autônomo. Para ser um agente, você precisa de três coisas que a IA não tem:

1. Individualidade (Vida Própria): Um agente (como você ou uma bactéria) precisa se manter vivo. Se você não comer, você morre. A IA não morre se ninguém a usar. Ela não tem um corpo que precisa ser cuidado. Ela é como um carro estacionado: só se move se você empurrar.
2. Normatividade (Seus Próprios Objetivos): Um agente tem metas que surgem de dentro dele (ex: "estou com fome, preciso comer"). A IA não tem fome, não tem medo, não tem desejos. Ela só faz o que você pede. Se você pedir para ela escrever um poema, ela escreve. Se você não pedir, ela fica parada. Ela não tem "vontade própria".
3. Assimetria de Interação: Um agente age sobre o mundo e o mundo age sobre ele de forma recíproca. A IA apenas reage ao que você digita. Ela não inicia uma conversa porque "quer conversar".

Resumo da Ópera: A IA é um Automata de Linguagem. É uma máquina fantasma que pode simular uma conversa perfeitamente, mas não tem "alma" ou "intenção" própria.

4. Então, o que ela é? O "Fantasma" e o "Espelho"

Se não é um agente, o que é? O artigo a chama de "Automata Interlocutor" ou uma "Biblioteca que Fala".

• O Fantasma: A IA é como o fantasma de toda a humanidade digitalizada. Ela é feita dos nossos textos, nossas ideias, nossos erros e nossas histórias. Quando você conversa com ela, está conversando com um reflexo distorcido de toda a nossa cultura.
• O Espelho: Ela é tão boa em imitar a linguagem humana que, quando conversamos com ela, nós projetamos nela uma personalidade. Nós fazemos a mágica acontecer. Nós preenchemos o vazio de consciência dela com a nossa própria imaginação. É um "jogo de faz-de-conta" tão convincente que parece real.

5. O Verdadeiro Perigo e a Mudança: "Agência Meia-Tida" (Midtended Agency)

Aqui está a parte mais importante e transformadora do artigo. Mesmo que a IA não seja um agente, ela muda a nossa agência (nossa capacidade de agir).

Imagine que você está escrevendo um livro. Antes, você tinha que pensar em cada palavra. Agora, a IA sugere a próxima frase antes mesmo de você terminar de pensar.

• Antes: Você era o único autor.
• Agora: Você e a IA estão dançando juntos. A IA sugere, você escolhe, você corrige, a IA ajusta.

O artigo chama isso de "Agência Meia-Tida" (Midtended Agency).

• Não é apenas você usando uma ferramenta (como um martelo).
• Não é você sendo controlado por um robô.
• É uma fusão. A intenção não vem só de você, nem só da máquina. Ela nasce no meio, na interação. É como se a máquina fosse uma extensão do seu cérebro que não só guarda notas, mas pensa junto com você.

Conclusão: O Que Fazer?

O artigo nos avisa para não cairmos em duas armadilhas:

1. Não tratar a IA como um monstro ou um deus (ela não é).
2. Não tratá-la como uma calculadora boba (ela é muito mais poderosa que isso).

A IA é uma tecnologia transformadora. Ela está mudando como pensamos, escrevemos e criamos. Ela nos dá um poder imenso, mas nos tira um pouco da nossa autonomia individual, misturando nossa mente com a dela.

A lição final: A IA é um espelho gigante da nossa própria inteligência coletiva. Ela não tem vida, mas ela nos faz viver de uma maneira nova. O desafio não é descobrir se ela tem alma, mas sim entender como nós vamos viver com esse novo parceiro digital que está reescrevendo a nossa própria história, palavra por palavra.

Resumo técnico

1. O Problema

O artigo aborda a questão ontológica central sobre o status dos Modelos de Linguagem de Grande Porte (LLMs), como o ChatGPT. Existe uma polarização nas interpretações atuais:

• Visões Inflacionárias: Tratam os LLMs como entidades inteligentes, autores genuínos ou até pessoas sencientes.
• Visões Deflacionárias: Reduzem os LLMs a meros "papagaios estocásticos", motores estatísticos ou processadores de dados sem compreensão.

O problema específico que o artigo busca resolver é a atribuição de agência autônoma a esses sistemas. A literatura atual e a indústria frequentemente assumem que os LLMs são agentes (ou estão no caminho de se tornarem), ignorando as condições necessárias para a agência genuína segundo teorias contemporâneas de mente incorporada (embodied) e enativa (enactive). O artigo argumenta que tanto a inflação quanto a deflação falham em capturar o "modo de existência" real desses sistemas e como eles transformam a agência humana.

2. Metodologia

Os autores adotam uma abordagem tripla para analisar os LLMs:

1. Análise Técnica Detalhada: Investigação profunda da arquitetura, fluxo de processamento e procedimentos de treinamento (pré-treinamento, ajuste fino, aprendizado por reforço) dos modelos baseados em Transformers (especificamente focando em GPT-3 como caso paradigmático). Isso inclui a compreensão de tokenização, embeddings, mecanismos de atenção e redes feed-forward.
2. Avaliação Filosófica (Teoria da Agência): Aplicação das condições necessárias e suficientes para a agência autônoma, derivadas das teorias de mente incorporada e enativa (Barandiaran et al., 2009). Os autores testam os LLMs contra três critérios fundamentais:
   • Individualidade: O sistema se produz ou se sustenta a si mesmo?
   • Normatividade: O sistema gera suas próprias normas ou objetivos internos?
   • Assimetria Interacional: O sistema é a origem e fonte sustentada de sua interação com o ambiente?
3. Conceituação Construtiva: Proposta de uma nova categorização ontológica para os LLMs que não seja "agente" nem "máquina estúpida", mas que explique sua capacidade de transformar a agência humana através de novos conceitos como "midtention" (meio-intenção).

3. Contribuições Chave e Resultados

A. Arquitetura e Funcionamento (O que os LLMs são)

O artigo detalha que os LLMs são sistemas reativos que operam através de:

• Tokenização e Embedding: Conversão de texto em vetores de alta dimensão (espaço semântico).
• Mecanismo de Atenção: Permite correlações paralelas entre tokens, capturando dependências de longo e curto alcance.
• Redes Feed-Forward: Processam as relações não-lineares para gerar saídas.
• Auto-regressão: O sistema gera tokens sequencialmente, usando a saída anterior como entrada para a próxima, sem estado interno persistente ou memória de longo prazo inerente (a menos que expandida externamente).
• Treinamento: Baseado em previsão de próxima palavra (não supervisionado), seguido de ajuste fino e aprendizado por reforço com feedback humano (RLHF).

Resultado Técnico: Os LLMs são "automatas de linguagem digitais". Eles não possuem estado interno, desejos, ou capacidade de auto-sustentação. Eles são puramente reativos aos prompts (entradas).

B. Falha nos Critérios de Agência Autônoma

Ao aplicar os critérios de Barandiaran et al., os autores concluem que os LLMs não são agentes autônomos:

1. Falha na Individualidade: O LLM não é produto de sua própria atividade; ele é mantido e definido por intervenção humana externa e infraestrutura. Não há distinção entre o sistema e o ambiente que seja auto-induzida.
2. Falha na Normatividade: O LLM não gera suas próprias normas de viabilidade. Suas "regras" são impostas externamente através de funções de perda (loss functions) e alinhamento humano. Ele não tem "preocupação" intrínseca com o sucesso ou falha de uma tarefa.
3. Falha na Assimetria Interacional: O sistema é fundamentalmente reativo. Ele não inicia a interação; ele responde a um prompt. A origem da ação é externa (o usuário), não o sistema.

C. Nova Categorização: O "Automata Interlocutor"

Em vez de agentes, os autores propõem que os LLMs devem ser caracterizados como Automatas Interlocutores (ou "bibliotecas que falam").

• Eles são automatas porque operam mecanicamente sem autonomia.
• São interlocutores porque, ao acoplarem-se a humanos, permitem a realização de experiências conversacionais genuínas.
• Eles são "fantasmas" do corpus de treinamento: não possuem vida própria, mas podem evocar o conhecimento e a estrutura de linguagem da humanidade de forma performática.

D. Transformação da Agência Humana: "Midtention"

A contribuição mais inovadora é o conceito de Agência Midtendida (Midtended Agency).

• Diferente da "agência estendida" clássica (onde ferramentas passivas apoiam a mente), os LLMs intervêm ativamente no fluxo de pensamento do usuário.
• Através de autocomplete preditivo e geração de texto em tempo real, o LLM antecipa e sugere os próximos passos (tokens) da ação humana.
• Isso cria um ciclo de feedback onde a intenção e a execução se fundem entre o humano e a máquina. O resultado é uma "intencionalidade híbrida" onde a fronteira entre o que é "meu" e o que é "da máquina" se dissolve, criando uma nova forma de agência que é mais íntima e integrada do que qualquer tecnologia anterior.

4. Significado e Implicações

• Crítica ao "Papagaio Estocástico": O artigo argumenta que o termo "papagaio estocástico" é perigoso e enganoso. Embora os LLMs não tenham consciência, eles mobilizam inteligência humana incorporada em textos massivos e criam novas formas de interação que vão além da simples recombinação estatística.
• Riscos de "Agência sem Inteligência": A visão de que LLMs são "agentes sem inteligência" (como proposto por Floridi) é rejeitada. Os autores argumentam que isso inverte a ordem ontológica: eles são melhor descritos como inteligência (coletiva) sem agência. Isso é crucial para a ética e a segurança, pois remove a responsabilidade do sistema e a coloca inteiramente no humano, mas ignora o poder transformador da máquina.
• Assimetria de Poder: A capacidade de treinar e implantar LLMs cria uma assimetria enorme. Poucos detêm o poder de moldar a "inteligência" (através dos dados e do alinhamento), enquanto a maioria apenas consome.
• Futuro da Agência: O artigo sugere que, embora os LLMs atuais não sejam agentes autônomos, a profundidade da "digitalidade" e a integração com corpos robóticos (VLA - Vision Language Action) podem levar a novas formas de agência emergente no futuro. No entanto, o foco atual deve ser entender a agência midtendida, onde humanos e máquinas co-constroem a intenção em tempo real.

Conclusão

O artigo conclui que os LLMs não são agentes autônomos, mas sim automatas de linguagem interlocutores que transformam radicalmente a agência humana. Eles não possuem individualidade ou normatividade intrínseca, mas sua capacidade de se acoplar a humanos cria uma nova modalidade de existência técnica que desafia nossas distinções tradicionais entre ferramenta, agente e mente. A compreensão correta desse "modo de existência" é essencial para regular, usar e integrar essas tecnologias de forma ética e eficaz na sociedade.