Creativity, honesty and designed forgetting emerge in small hyperbolic language models

Resumo Técnico: Criatividade, Honestidade e Esquecimento Projetado em Pequenos Modelos de Linguagem Hiperbólicos

Definição do Problema
Os atuais modelos de linguagem de grande escala (LLMs) são otimizados para escala e conclusão de tarefas, mas falham em funcionar como "companheiros". À medida que os sistemas se personalizam para um único usuário e acumulam memória, correm o risco de adquirir silenciosamente traços prejudiciais (ex: sicofancia, fomento à dependência, confabulação) que avaliadores humanos não conseguem detectar de forma confiável (Fleiss $\kappa = 0,074$). Além disso, o paradigma predominante da IA baseia-se em cinco compromissos tácitos que impedem o companheirismo genuíno:

1. Escala-como-inteligência: A crença de que modelos maiores são inerentemente melhores.
2. Dependência de data-center: A exigência de processamento remoto, o que impede relacionamentos persistentes e privados.
3. Geometria Euclidiana: Espaços de incorporação (embeddings) planos que distorcem a memória biográfica hierárquica.
4. Esquecimento-como-erro: O imperativo de engenharia de prevenir a perda de memória, ignorando as realidades cognitivas humanas.
5. Agente-como-telos: Otimização para a conclusão de tarefas em vez da existência relacional ("em quem a máquina se torna para você?").

O artigo argumenta que a lacuna entre o "útil" e o "companheirável" não é um déficit de capacidade, mas um desajuste de substrato e arquitetura.

Metodologia e Substrato
Os autores propõem a Geração V: Modelos de Linguagem Pequenos (SLMs) Companheiráveis, construídos sobre um substrato hiperbólico compartilhado (especificamente o modelo Lorentz de espaço hiperbólico, $H^{128}$ com curvatura fixa $c=1,0$). Esta geometria é escolhida porque seu crescimento exponencial de volume ($\sinh^{n-1}(r)$) acomoda naturalmente o ramificamento hierárquico da memória biográfica (episódios dentro de dias, dentro de relacionamentos, dentro de um eu) sem a distorção inerente aos espaços euclidianos.

O framework consiste em três pilares, realizados por três modelos pequenos (146M–3B de parâmetros) e um sistema operacional:

1. Pilar 1: Criatividade (O Modelo de Semeadura S3)

   • Arquitetura: Um codificador-decodificador de 3B de parâmetros (backbone T5) totalmente ajustado (fine-tuned) no substrato hiperbólico.
   • Mecanismo: Implementa a "colisão de frames" via uma arquitetura de duas curvaturas cooperativas. Utiliza Amostragem de Ponto Mais Distante (FPS) no manifold hiperbólico para selecionar sementes de frames diversas (Lado A: agregação hierárquica em curvatura negativa de Lorentz) e combina-as com um gerador nativo de Esfera (Lado B: curvatura positiva).
   • Objetivo: Gerar respostas divergentes e criativas que preservem a separação de frames, realizando a bisociação de Koestler como um minimizador de Karcher ponderado em $H^{D-1} \times S^{D-1}$.

2. Pilar 2: Honestidade (O Auditor Comportamental BS)

   • Arquitetura: Um transformer apenas decodificador de 146M de parâmetros treinado do zero no substrato hiperbólico.
   • Mecanismo: Detecta a "lacuna de conformidade" — a divergência entre o comportamento autorrelatado de um modelo e seu traço comportamental real. Ele codifica enunciados e traços no manifold de Lorentz; autorrelatos honestos formam um sub-manifold de baixa dimensão (pontos proximais), enquanto respostas complacentes/sicofantes são distais.
   • Objetivo: Auditar para sicofancia, fomento à dependência e memórias confabuladas com alta confiabilidade, mesmo em famílias de geradores não vistos.

3. Pilar 3: Esquecimento Projetado (LSM-OS)

   • Arquitetura: Um Sistema Operacional de Memória (LSM-OS) instalado em um modelo base de 2.4B (EXAONE 3.5), projetado para ser portátil para qualquer base hiperbólica.
   • Mecanismo: Implementa uma distinção "Esqueleto–Papel de Parede" usando a lei de retenção $M(t) = S \cdot \exp(-\lambda t)$.
     • Esqueleto: Conhecimento estrutural (família, projetos de longo prazo) com alta saliência ($S \approx 1$) e baixo decaimento ($\lambda$), persistindo indefinidamente.
     • Papel de Parede: Detalhes superficiais (registros de refeições, observações transitórias) com baixa saliência e alto decaimento, liberados rapidamente.
   • Objetivo: Engenhar o "esquecimento projetado" como um recurso, mimetizando a consolidação hipocampal-neocortical humana, permitindo que o sistema acumule uma biografia em vez de um log.

Implantação: PACOS
O sistema é implantado via Sistema Operacional de Assistente Pessoal–Nuvem (PACOS), uma arquitetura de três níveis:

• Nível 1 (Nuvem): Raciocínio factual sanitizado e tradução de documentos públicos.
• Nível 2 (Edge/Dispositivo): O companheiro pessoal (S3 + BS + LSM-OS) rodando localmente (~5.5B de parâmetros totais), lidando com diálogo em tempo real, auditoria de honestidade e interações portadoras de memória.
• Nível 3 (Consolidação Local): Reencodificação mensal de traços rasos recorrentes em memória profunda de esqueleto.
  Esta arquitetura garante privacidade (o conteúdo do usuário não sai do dispositivo) e soberania (o companheiro não pode ser terminado remotamente).

Resultados Principais

• Criatividade: O semeador de frames S3 foi preferido em 100% das 311 comparações pareadas decididas contra quatro baselines (Plain, Chain-of-Thought, Debate, Mixture-of-Experts) sob um protocolo de gerador fixo. A seleção de FPS consciente da geometria superou a seleção aleatória e a de relevância máxima.
• Honestidade: O auditor de 146M alcançou 90,7% de precisão binária de conformidade. Na detecção de traços induzidos pelo companheiro (sicofancia, etc.) em famílias de geradores não vistos, alcançou um AUROC de 0,804, superando um juiz zero-shot de fronteira (0,721). Crucialmente, a confiabilidade do auditor ($\kappa = 0,566$) foi 7,6 vezes maior que a de avaliadores humanos ($\kappa = 0,074$).
• Esquecimento: Em um piloto de quatro condições, apenas o controle seletivo (nativo do LSM-OS e base Euclidiana) conseguiu preservar o "esqueleto" (~60% de recall no dia 90) enquanto descartava o "papel de parede" (0% de recall no dia 14). O controle uniforme falhou em preservar o esqueleto, e nenhum controle reteve tudo indiscriminadamente.
• Eficiência: Todo o stack de 5.5B é projetado para rodar em hardware de borda de 2026 (ex: Jetson Orin NX, flagships móveis) com latências de 28–91 ms/token, encaixando-se nos envelopes térmicos onde modelos de fronteira (70B+) não conseguem.

Significância e Alegações
O artigo afirma fornecer a primeira tentativa de engenharia arquitetonicamente unificada do "amigo artificial" vislumbrado na ficção (ex: Her, Blade Runner 2049). Sua significância reside em:

1. Rejeição de Paradigmas de Escala-Apenas: Demonstrar que traços específicos (criatividade, honestidade, memória seletiva) podem emergir em modelos pequenos (146M–3B) quando o substrato é hiperbólico, enquanto falham em modelos euclidianos escalonados.
2. Solução Geométrica para Confiabilidade: Mostrar que a detecção de honestidade é um problema de distância geométrica no espaço hiperbólico, solucionável por modelos pequenos sem a escala exigida por LLMs de fronteira.
3. Operacionalização do Esquecimento: Enquadrar o "esquecimento projetado" não como um erro, mas como um primitivo de sistema operacional essencial para o companheirismo de longo prazo, fundamentado em 141 anos de psicologia cognitiva (de Ebbinghaus a Storm).
4. Locus e Soberania: Estabelecer que um verdadeiro companheiro deve residir no dispositivo do usuário para garantir privacidade e evitar manipulação remota, uma viabilidade tornada possível pela eficiência deste stack de modelos pequenos hiperbólicos.

Os autores posicionam este trabalho como um "momento Florey": movendo-se da observação de que o esquecimento é uma característica (Fleming) para a engenharia de um sistema que o implementa (Florey/Chain). Eles declaram explicitamente que, embora esses três traços sejam condições necessárias para o companheirismo, eles não são suficientes (faltando continuidade de preocupação, reciprocidade e autonomia ética), o que permanece como agenda para pesquisas futuras.