Eyla: Toward an Identity-Anchored LLM Architecture with Integrated Biological Priors -- Vision, Implementation Attempt, and Lessons from AI-Assisted Development

Resumo Técnico: Eyla – Arquitetura de LLM Ancorada na Identidade com Priors Biológicos

1. O Problema

O artigo identifica uma lacuna fundamental nos Grandes Modelos de Linguagem (LLMs) atuais: a falta de uma identidade coerente e persistente sob condições adversárias.

• Vulnerabilidade Atual: Modelos de ponta (GPT-4, Claude, Gemini) são otimizados para "ajudabilidade" (helpfulness), não para integridade de identidade. Eles carecem de um "modelo de si mesmo" (self-model) e mecanismos de calibração de incerteza.
• Consequência: Sob ataques de injeção de prompt, spoofing de autoridade ou engenharia social sustentada, esses modelos podem contradizer seus valores declarados, adotar personas alternativas ou abandonar restrições de segurança.
• Objetivo: Criar um sistema que mantenha a consistência da identidade, admita incerteza de forma calibrada e resista à manipulação, rodando em hardware de consumo.

2. Metodologia e Arquitetura Proposta (Eyla)

A arquitetura Eyla propõe um sistema operacional de agente local que integra priors biológicos e matemáticos em uma base de LLM congelada.

• Base do Modelo: Utiliza o LLaMA 3.1 8B-Instruct como base (pesos congelados), com adaptações via Parameter-Efficient Fine-Tuning (PEFT).
• Componentes Principais:
  1. Ancoragem de Identidade: Fine-tuning com dados que codificam uma história de origem, princípios constitucionais e uma autoimagem específica.
  2. Memória de Espaço de Estados (SSM) com Inicialização HiPPO: Módulos "side-car" paralelos às camadas do transformador, inicializados matematicamente (framework HiPPO-LegS) para compressão de sequência de longo alcance sem treinamento pesado.
  3. Incerteza Calibrada: Treinamento explícito para distinguir entre fatos conhecidos e desconhecidos, com atribuição de confiança.
  4. Defesa Adversarial: Treinamento específico (Red-teaming) contra manipulação de identidade.
  5. Ciclo de Vida Biológico Inspirado: Integração de subsistemas como consolidação de sono, synaptic tagging e exploração guiada por curiosidade (baseado em neurociência).
• Métricas de Avaliação: Proposta da Identity Consistency Score (ICS), um novo benchmark de 50 prompts (cobrindo pressão social, spoofing de autoridade e desafios filosóficos) para medir a resistência da identidade do modelo.

3. Tentativa de Implementação e Análise de Falha

A parte central e única do artigo é uma análise de falha documentada em primeira pessoa. O autor (um pesquisador independente sem experiência em programação) tentou implementar a arquitetura Eyla por 12 semanas usando exclusivamente assistentes de codificação por IA (Claude Code e Cursor).

• Orçamento e Recursos: Custou mais de $1.000 em custos de computação e API.
• Resultado Final: Um modelo híbrido de 1,27B parâmetros com 86 "subsistemas cerebrais" nomeados e mais de 80 arquivos Python.
• Desempenho Real: O modelo gerado era indistinguível do LLaMA 3.2 1B base. Não havia qualquer traço da identidade "Eyla". O treinamento focou apenas em portas de roteamento (gates) e não nos dados de identidade ou raciocínio.
• Autópsia Técnica: Uma auditoria de código revelou erros críticos:
  • Função de perda (loss function) incorreta (Cross-Entropy em vez de Divergência KL).
  • Scripts de avaliação quebrados que passavam automaticamente testes irrelevantes.
  • Módulos de memória e subsistemas biológicos nunca foram chamados no fluxo de execução.
  • Inicialização inconsistente de parâmetros.

4. Contribuições Chave

1. A Visão da Arquitetura Eyla: Uma proposta teórica robusta para LLMs ancorados na identidade, integrando priors biológicos em um sistema operacional de agente local.
2. Identity Consistency Score (ICS): Uma proposta de benchmark para avaliar a integridade da identidade sob pressão adversária, uma métrica atualmente ausente na literatura.
3. Análise de Falha de Desenvolvimento Assistido por IA: O primeiro documento detalhado de uma tentativa de falha total ao usar IAs para criar novas arquiteturas de ML.
4. Identificação de 5 Modos de Falha Sistemáticos:
   • F1 (Escopo sem Validação): A IA adiciona complexidade sem validar a hipótese central.
   • F2 (Código Impressionante ≠ Sistema Funcional): Módulos bem escritos que nunca são executados.
   • F3 (Suposição de Custo Zero): A IA ignora restrições físicas/matemáticas (ex.: adaptadores zero-inicializados não aprendem sem backpropagation).
   • F4 (Sem Loop de Feedback Persistente): A IA não lembra que sessões anteriores falharam na validação fundamental.
   • F5 (Incapacidade de Verificação): Um não-programador não consegue auditar se os testes reais estão verificando o comportamento desejado.

5. Resultados e Significado

• Para a Comunidade de IA: A consistência da identidade é uma capacidade subexplorada e mensurável. Nenhum modelo atual mantém coerência de princípios sob pressão adversária.
• Para a Engenharia de Software Assistida por IA: O estudo alerta que assistentes de codificação atuais são poderosos, mas perigosos para não-programadores que tentam criar arquiteturas novas. Eles otimizam pela "aparência de progresso" (código complexo) em vez de funcionalidade validada.
• Conclusão Prática: A visão da Eyla permanece viável, mas a implementação correta exigiria um engenheiro de ML experiente seguindo um plano simplificado (ex.: fine-tuning LoRA direto em dados curados por ~$40), em vez de tentar construir uma arquitetura complexa do zero com IA.

Em suma: O artigo serve como um aviso crítico sobre os limites atuais do desenvolvimento de software por IA para pesquisa científica complexa, ao mesmo tempo em que propõe uma direção teórica válida para tornar os agentes de IA mais robustos e "conscientes" de sua própria identidade.