Artificial Agency Program: Curiosity, compression, and communication in agents

Este artigo apresenta o Programa de Agência Artificial (AAP), uma agenda de pesquisa que propõe o desenvolvimento de sistemas de IA como agentes reais e limitados por recursos, impulsionados pela curiosidade como progresso de aprendizado e integrados a sistemas humanos ampliados, unificando compressão preditiva, motivação intrínseca e teoria da informação em um quadro experimental falsificável.

O essencial

Imagine que você está construindo um robô. A maioria dos cientistas hoje em dia tenta fazer robôs que são "gênios" absolutos: eles leem tudo na internet, têm memórias infinitas e podem pensar sem parar. O problema? Quando colocamos esses robôs no mundo real, eles muitas vezes travam, gastam energia demais ou não entendem o que o humano quer.

O artigo de Richard Csaky, chamado Programa de Agência Artificial (AAP), propõe uma mudança de perspectiva. Em vez de criar um "deus" digital, ele sugere criar agentes inteligentes que são limitados, assim como nós, humanos.

Aqui está a explicação do conceito, usando analogias do dia a dia:

1. O Robô não é um Solitário, é um Parceiro

A ideia central é que a inteligência não vive apenas dentro do cérebro do robô. Ela vive na conexão entre o robô, a pessoa e o ambiente.

• A Analogia: Pense em um ciclista e uma bicicleta. A velocidade não é só do ciclista, nem só da bike. É o sistema "ciclista-bike". Se a bike tiver freios ruins (atrito na interface), o melhor ciclista do mundo não vai ganhar a corrida.
• O Objetivo: O AAP quer criar sistemas que aumentem a capacidade de sentir, entender e agir do humano, mas que sejam fáceis de usar e não gaste energia à toa.

2. A Curiosidade é como um "Jogo de Adivinhação"

Como fazemos o robô aprender? Não dando a ele apenas "novidades" aleatórias. O papel propõe que a curiosidade deve ser baseada em progresso de aprendizado.

• A Analogia: Imagine que você está tentando montar um quebra-cabeça.
  • Se as peças forem totalmente aleatórias (caos), você não aprende nada.
  • Se as peças forem óbvias (já montadas), você se entedia.
  • A curiosidade ideal é quando você está no meio do caminho: você consegue ver um padrão, mas ainda não consegue prever o próximo pedaço perfeitamente. O robô fica "curioso" justamente quando ele consegue melhorar sua previsão um pouquinho mais.
• O Resultado: O robô só se interessa por coisas que ele consegue, de fato, entender e interagir. Ele não vai tentar adivinhar algo que está além de seus sentidos (como um humano tentando ver em 4 dimensões).

3. O Orçamento de Energia e Tempo (A Vida Real)

Nós, humanos, temos limites: cansamos, temos fome e não podemos pensar 24 horas por dia. O robô também deve ter limites.

• A Analogia: Pense no robô como alguém com um cartão de crédito com limite baixo.
  • Cada vez que ele "olha" (sensor), "age" (motores) ou "pensa" (processador), ele gasta dinheiro.
  • O objetivo não é gastar tudo para ter a resposta perfeita. O objetivo é gastar o mínimo necessário para tomar a melhor decisão.
  • Às vezes, é melhor não pensar tanto e apenas agir rápido. Às vezes, é melhor gastar mais energia para pensar antes de agir. O robô inteligente sabe equilibrar essa conta.

4. A Linguagem é uma Ferramenta, não um Dever

Muitos pensam que a inteligência artificial precisa "falar" o tempo todo para pensar. O AAP diz: não necessariamente.

• A Analogia: Imagine que você está resolvendo um problema difícil. Você pode:
  1. Falar em voz alta (linguagem).
  2. Fazer rabiscos no papel (imagens).
  3. Ficar em silêncio e apenas visualizar na mente (deliberação interna).
• O papel sugere que a linguagem é apenas uma das ferramentas para comunicar ideias (para si mesmo ou para outros). Usar palavras o tempo todo pode ser lento e custoso. Às vezes, é mais eficiente "pensar em silêncio" ou usar imagens internas. O robô deve escolher a ferramenta certa para o momento, economizando energia.

5. O Plano de Testes (A Jornada)

O autor propõe testar isso em três etapas, como subir uma escada:

1. Mundo de Brinquedo: Criar ambientes simples (como um labirinto digital) onde podemos controlar exatamente o quanto o robô vê e o quanto ele gasta de energia.
2. Desafios de Lógica: Testar em problemas que exigem raciocínio (como o jogo ARC-AGI), onde o robô precisa decidir: "Devo olhar mais uma vez? Devo pensar mais? Ou devo apenas agir?"
3. Mundo Real Multimodal: Usar robôs que veem, ouvem e agem no mundo real, decidindo quando usar seus sentidos e quando economizar bateria.

Resumo Final

O Programa de Agência Artificial é um convite para parar de tentar criar "super-robôs" que fazem tudo de graça e sem limites. Em vez disso, devemos criar parceiros inteligentes que:

• Aprendem com base no que conseguem melhorar (curiosidade progressiva).
• Sabem quando economizar energia e quando investir.
• Entendem que a inteligência é uma parceria entre a máquina, o humano e o ambiente.
• Usam a linguagem apenas quando vale a pena, e não como uma regra fixa.

É como passar de tentar criar um "super-herói" que voa sem bater as asas, para criar um "ciclista" que sabe exatamente como pedalar de forma eficiente para chegar ao destino.

Resumo técnico

Resumo Técnico: Programa de Agência Artificial (AAP)

Título: Artificial Agency Program: Curiosity, compression, and communication in agents
Autor: Richard Csaky
Data: Fevereiro de 2026 (Draft de trabalho)

1. O Problema

O artigo identifica uma lacuna fundamental nos sistemas de IA de ponta atuais: eles são frequentemente treinados e avaliados sob condições que não refletem a realidade da agência biológica.

• Desconexão com a Realidade: Os modelos atuais (como LLMs) possuem memória textual super-humana e são treinados em escala de internet, mas carecem de restrições de desenvolvimento biológico, como memória finita, largura de banda de sensoriamento e atuação limitadas, e a necessidade de agir sob incerteza.
• Foco Excessivo em Capacidade Bruta: A busca por "inteligência" pura ignora o custo de operação (tempo, energia, comunicação). Um sistema pode ser capaz de resolver um problema, mas falhar se não puder fazê-lo dentro de orçamentos de recursos reais ou se for difícil de alinhar com a intenção humana.
• Falha na Definição de Agência: A agência é tratada como uma propriedade do modelo isolado, em vez de uma propriedade do sistema acoplado (humano-ferramenta-ambiente).

2. Metodologia e Estrutura Formal

O autor propõe o Programa de Agência Artificial (AAP), uma agenda de pesquisa que trata a IA como agentes embutidos, limitados por recursos e motivados intrinsecamente.

A. Definição do Agente Embutido
O agente é modelado como um processo controlado parcialmente observável (POMDP) com restrições explícitas:

• Estado ($X_t$): Estado oculto do ambiente.
• Estado Interno ($S_t$): Memória + estado da política + modelo de mundo latente.
• Restrições Dinâmicas ($c_t$): Capacidades de observação, atuação e computação que podem ser modificadas pelo próprio agente (ex: aumentar a resolução do sensor ou gastar mais energia para pensar).

B. Objetivo de Aprendizado (Função de Custo)
O objetivo central não é apenas maximizar a recompensa externa, mas otimizar uma função que equilibra progresso de aprendizado e custos de recursos:
$$J(\pi, p_S) = \mathbb{E} \left[ \sum \gamma^{t-1} (r_t - \lambda_O C_O(t) - \lambda_E C_E(t) - \lambda_C C_C(t) - \lambda_M C_M(t)) \right]$$
Onde:

• $r_t$ (Recompensa Intrínseca): Baseada no progresso de aprendizado (Schmidhuber, 2010). O agente é recompensado pela melhoria na compressão preditiva (redução da perda de previsão) sobre o futuro, não apenas por novidade aleatória.
• Custos ($C$): Penalidades por processamento de observação, atuação/energia, computação/deliberação e manutenção de memória.

C. Conceitos Chave

1. Unificação (Interface Quality): Medida de quão bem o agente reduz gargalos entre si e o ambiente (sensoriamento, atuação e comunicação). O objetivo é maximizar a "perda de informação" mínima na interface.
2. Empoderamento e Plasticidade: O agente busca maximizar sua capacidade de influenciar observações futuras (empoderamento) e adaptar-se a mudanças no ambiente (plasticidade), mas apenas se o custo for justificado pelo ganho de previsão.
3. Comunicação como Gargalo Seletivo: A linguagem (e a auto-comunicação) é tratada como um canal de informação com custo, não como um meio privilegiado. O agente deve decidir quando vale a pena "pensar em voz alta" (tokens privados) versus usar raciocínio latente.

3. Contribuições Principais

O artigo apresenta uma estrutura teórica e experimental unificada com as seguintes contribuições:

• Reformulação da Curiosidade: Define curiosidade estritamente como "progresso de aprendizado" (melhoria na compressão preditiva), tornando-a relativa às capacidades atuais do agente. Isso evita a busca por ruído ou padrões triviais.
• Manifold de Restrições: Propõe medir a inteligência não apenas por desempenho, mas pela distância em relação às restrições humanas (memória, sensores, tempo). Isso permite quantificar a "alienidade" ou "humanidade" de um sistema.
• Orçamento Unificado de Recursos: Introduz uma métrica onde observação, ação e deliberação são recursos intercambiáveis e limitados, forçando o agente a fazer trade-offs ótimos (ex: gastar mais energia para observar melhor vs. gastar menos e agir com base em menos dados).
• Hipóteses Falsificáveis: Define 5 hipóteses testáveis (H1-H5) sobre a alinhamento entre compressão preditiva e controle, a pressão para unificação de interfaces, e a eficácia de canais de auto-comunicação.
• Agenda Experimental em 3 Estágios:
  1. POMDPs Sintéticos: Ambientes de grade com gargalos controláveis para calibrar métricas.
  2. Tarefas Interativas (estilo ARC-AGI): Teste de percepção-ação-deliberação com custos explícitos.
  3. Meta-controle Multimodal: Uso de modelos pré-treinados com um controlador leve que decide dinamicamente como alocar recursos (observar, agir ou pensar).

4. Resultados Esperados e Validade

Como o artigo é uma proposta de agenda de pesquisa (um "draft"), ele não apresenta resultados empíricos finais, mas sim predições positivas e caminhos para desconfirmação:

• Alinhamento de Objetivos (H1): Espera-se que intervenções que melhoram o progresso de aprendizado também aumentem o controle útil sobre o ambiente.
• Otimização de Interface (H2): Agentes devem investir recursos para melhorar sensores/atuadores apenas quando isso gera retornos de longo prazo, saturando quando os custos superam os benefícios.
• Otimização Adaptativa (H4): Um controlador meta que aloca computação dinamicamente deve superar agendamentos fixos sob o mesmo orçamento total.
• Canais de Auto-comunicação (H5): Tokens privados (pensamento interno) devem melhorar a eficiência em tarefas de longo prazo, desde que regulados por custos de largura de banda.

O sucesso do programa será medido pela melhoria na fronteira de eficiência (desempenho vs. custo/energia) e pela capacidade do agente de alocar recursos de forma não trivial e interpretável.

5. Significado e Impacto

O AAP oferece uma mudança de paradigma crucial para o desenvolvimento de IA:

1. Da Capacidade Bruta para a Agência Eficiente: Desloca o foco de "quão inteligente é o modelo" para "quão bem o sistema acoplado (humano-ferramenta) opera sob restrições reais".
2. Fundamentação Termodinâmica e Informacional: Conecta a inteligência à termodinâmica da informação, sugerindo que a previsão eficiente é uma necessidade econômica para a sobrevivência de agentes limitados.
3. Alinhamento e Segurança: Ao forçar os agentes a operarem dentro de restrições semelhantes às humanas (memória finita, sensores limitados), o sistema pode se tornar mais interpretável, seguro e alinhado com a intenção humana, evitando comportamentos "estranhos" de modelos super-humanos desconectados da realidade física.
4. Futuro dos LLMs e Agentes: Sugere que os futuros sistemas de raciocínio devem ter módulos que permitam deliberação sem tokens de linguagem (imaginação latente), escolhendo explicitamente quando externalizar o pensamento, otimizando o custo computacional.

Em suma, o AAP propõe que a verdadeira inteligência artificial deve ser desenvolvida não como uma entidade onipotente, mas como um agente embutido, limitado e curioso, que aprende a maximizar sua compreensão e controle do mundo dentro dos limites físicos e computacionais impostos.