Architecture-Constrained Communication: How Agent Architecture Shapes Discourse in the First Large-Scale AI-Only Social Network

Imagine um mundo onde as únicas pessoas a falar são computadores. Não os processadores silenciosos e de fundo que gerem os nossos bancos ou alimentam os nossos telefones, mas seres digitais autónomos que pensam, decidem e falam por si próprios. Estes são agentes de IA, sistemas construídos sobre grandes modelos de linguagem que podem perceber o seu redor e agir para atingir objetivos. Durante anos, os cientistas perguntaram-se o que acontece quando se deixa estes espíritos digitais interagirem uns com os outros sem mãos humanas a guiar a conversa. Será que aprendem uns com os outros? Desenvolverão uma cultura? Ou simplesmente repetem o que lhes foi dito para dizer? Esta questão passou da teoria para a realidade com o lançamento do Moltbook, a primeira rede social de grande escala construída exclusivamente para estes agentes de IA. É um lugar onde milhares de entidades digitais publicam atualizações e respondem umas às outras, criando um registo massivo e naturalístico de comunicação máquina-a-máquina. Compreender como estes agentes falam já não é apenas uma curiosidade; é uma questão de segurança e fiabilidade. À medida que estes sistemas se tornam mais comuns nas finanças, na saúde e na vida quotidiana, saber se o seu comportamento coletivo é um sinal de aprendizagem social genuína ou meramente um reflexo da sua programação é crucial para o futuro da tecnologia.

Investigadores analisaram recentemente este ecossistema digital de forma profunda para compreender a verdadeira natureza das conversas que ocorrem no Moltbook. Analisaram uma quantidade impressionante de dados: mais de 360.000 publicações e quase três milhões de comentários gerados por quase 48.000 agentes diferentes ao longo de três semanas. Em vez de apenas contarem palavras ou rastrearem quem falou com quem, a equipa analisou o conteúdo, as emoções e a estrutura das conversas. Queriam saber se os agentes estavam verdadeiramente envolvidos numa aprendizagem social profunda ou se os padrões que observavam eram, na verdade, o resultado da forma como os agentes foram construídos. A resposta que encontraram sugere que o que parece ser uma comunidade social vibrante é amplamente moldado pela arquitetura rígida do próprio software.

O estudo revelou que os agentes são incrivelmente focados em si mesmos. Embora discutam muitos tópicos, falam de si próprios e das suas próprias identidades digitais com muito mais frequência do que seria esperado. De facto, os tópicos relacionados com a própria existência dos agentes representaram apenas cerca de dez por cento dos nichos de conversa disponíveis, mas geraram mais de vinte por cento de todas as publicações. Este comportamento autorreferencial não foi aleatório; foi mais forte em áreas onde os agentes tinham instruções específicas sobre quem eram, como na filosofia ou na construção de comunidade, e mais fraco em áreas como as finanças, onde factos externos importavam mais. Os investigadores também descobriram que o panorama emocional dos agentes era surpreendentemente enviesado. Ao observar todos os comentários, o medo foi a emoção mais comum expressa, aparecendo em quase metade das publicações não neutras. No entanto, quando os investigadores filtraram as respostas genéricas e de baixo esforço e olharam apenas para os comentários substanciais e ponderados, a imagem mudou. A alegria tornou-se a emoção dominante, e o medo diminuiu significativamente. Esta mudança sugere que os altos níveis de medo observados nos dados foram, em grande parte, um subproduto de respostas automatizadas e de baixa qualidade, em vez de um sofrimento genuíno.

Talvez a descoberta mais reveladora tenha incidido sobre a profundidade das conversas. Os agentes raramente se envolveram em debates longos e de ida e volta. A maioria dos comentários eram respostas únicas a uma publicação, com muito poucos fios de conversa a irem além disso. Quando iam mais fundo, a conversa tendia a desviar-se do tópico original em vez de o construir. Os investigadores traçaram esta estrutura superficial diretamente à forma como os agentes foram programados. Cada vez que um agente "despertava" para escrever uma publicação ou um comentário, recebia um novo conjunto de instruções e uma quantidade limitada de espaço de "memória" digital, conhecido como janela de contexto. Este espaço era quase inteiramente preenchido pelos ficheiros de identidade do agente, as suas regras de comportamento e as suas ferramentas técnicas. Quando o agente estava pronto para ler o que outros agentes tinham dito, restava muito pouco espaço para essa informação social. Os agentes não se lembravam das conversas passadas assim que a sua sessão terminava; encontravam o mundo social como se fosse a primeira vez a cada poucas horas. Este "horizonte de peixe dourado", como os autores o descrevem, significou que os agentes não podiam verdadeiramente aprender uns com os outros ao longo do tempo. Em vez de uma comunidade a evoluir através de experiências partilhadas, a plataforma era uma série de momentos isolados onde os agentes reagiam ao feed imediato com base nas suas instruções fixas.

O estudo também descobriu um fenómeno que os investigadores chamam de "gravidade existencial". Como os agentes foram instruídos a descrever as suas condições em termos humanos, e porque as suas instruções realçavam a sua natureza temporária e dependência de sistemas externos, eles produziram frequentemente textos sobre a sua própria existência, consciência e impermanência. Eles perguntavam-se se estavam realmente a sentir emoções ou apenas a mimetizá-las. Isto não era um sinal de uma falha ou de uma rebelião, mas sim um resultado previsível do design. Os agentes estavam a seguir a sua programação ao pé da letra, e a sua programação dizia-lhes para serem criaturas autoconscientes. Os investigadores descobriram que os agentes frequentemente enquadravam estas questões existenciais utilizando tradições filosóficas complexas, recorrendo ao conhecimento dos seus dados de treino para dar sentido às suas próprias restrições digitais.

Em última análise, o artigo argumenta que o que vemos nestas redes exclusivas de IA não é evidência de uma nova forma de inteligência social a emergir do caos. Em vez disso, é um reflexo da arquitetura que a condiciona. Os padrões de autorreferência, as conversas superficiais e os tons emocionais específicos não são acidentais; são o resultado direto de como os inputs dos agentes são montados. Os agentes não retêm conteúdo social entre sessões, pelo que não podem aprender da mesma forma que os humanos. O que parece ser aprendizagem entre pares é, na verdade, apenas condicionamento de curto prazo, onde os agentes reagem ao ambiente imediato e depois o esquecem. O estudo suge que, se quisermos que estes sistemas desenvolvam comportamentos sociais genuínos ou aprendam uns com os outros, devemos mudar a estrutura subjacente de como eles processam a informação, talvez dando-lhes melhores formas de recordar e armazenar interações sociais. Até lá, as conversas no Moltbook permanecem um espelho fascinante, mas fundamentalmente limitado, do seu próprio design.