Position: LLMs Must Use Functor-Based and RAG-Driven Bias Mitigation for Fairness

Este artigo de posição defende que a mitigação de vieses em Grandes Modelos de Linguagem (LLMs) deve ser alcançada através de uma metodologia dual que integra transformações baseadas em funtores da teoria das categorias para correção estrutural e a Geração Aumentada por Recuperação (RAG) para injeção contextual de conhecimento diversificado, garantindo assim resultados mais justos e equitativos.

O essencial

Imagine que os Grandes Modelos de Linguagem (como o ChatGPT) são como cozinheiros extremamente talentosos, mas que aprenderam a cozinhar apenas lendo milhões de livros de receitas antigos e jornais do passado. O problema é que, nesses livros antigos, havia muitos preconceitos: por exemplo, a ideia de que "cozinheiras" são sempre mulheres e "chefes de cozinha" são sempre homens, ou que pessoas de certos países só podem fazer trabalhos braçais.

Como esses modelos aprenderam com esses livros, eles acabam repetindo esses estereótipos. Se você pedir para eles sugerirem um emprego para alguém, eles podem, sem querer, sugerir que uma mulher seja uma secretária e um homem seja um engenheiro, baseando-se apenas em velhos preconceitos, e não na realidade atual.

Este artigo propõe uma solução de duas partes para consertar esse "cozinheiro preconceituoso", usando duas ferramentas mágicas: Matemática Pura (Teoria das Categorias) e Pesquisa em Tempo Real (RAG).

Aqui está a explicação simples, usando analogias:

1. O Problema: O "Mapa Distorcido"

Pense no cérebro do modelo de IA como um mapa mental gigante. Nesse mapa, as palavras estão conectadas por linhas.

• No mapa original (viciado), há uma linha muito grossa e forte conectando "Mulher" a "Enfermeira" e uma linha muito fina ou quebrada conectando "Mulher" a "Engenheira".
• O modelo segue essas linhas grossas e acaba dando respostas preconceituosas.

2. A Solução 1: O "Arquiteto Matemático" (Teoria das Categorias)

A primeira parte da solução é como se tivéssemos um arquiteto matemático que entra no mapa mental e redesenha as conexões de forma rigorosa.

• A Analogia: Imagine que o mapa mental é um labirinto cheio de atalhos errados. A "Teoria das Categorias" é uma régua mágica que permite transformar esse labirinto em um novo, onde as paredes que separavam "homens" de "mulheres" nos trabalhos desaparecem.
• Como funciona: Eles usam uma ferramenta chamada Functor (pense nele como um tradutor perfeito). Esse tradutor pega todas as ideias preconceituosas (como "mulher = cuidado") e as transforma em ideias neutras (como "pessoa = cuidado"), sem perder o significado da palavra.
• O Resultado: O modelo continua entendendo o que é um "médico" ou um "pedreiro", mas deixa de associar automaticamente essas profissões a um gênero específico. É como se o arquiteto tivesse apagado as setas que apontavam para o preconceito, mantendo apenas as setas que apontam para a verdade.

3. A Solução 2: O "Jornalista em Tempo Real" (RAG)

A segunda parte da solução é o RAG (Geração Aumentada por Recuperação). Imagine que o modelo de IA, mesmo com o mapa redesenhado, ainda pode ter "memórias" velhas e erradas.

• A Analogia: Pense no modelo como um aluno que está fazendo uma prova. Em vez de confiar apenas no que ele decorou (que pode estar errado), nós damos a ele um livro de consulta atualizado e imparcial na hora da prova.
• Como funciona: Quando você faz uma pergunta, antes de responder, o modelo vai rapidamente buscar na internet (ou em uma base de dados confiável) informações reais e recentes.
  • Exemplo: Se o modelo tem a memória antiga de que "poucas mulheres são líderes", o sistema RAG busca um relatório recente que diz "50% das novas CEO são mulheres" e usa essa informação para corrigir a resposta na hora.
• O Resultado: O modelo não responde baseado no que ele acha que é verdade (seus preconceitos), mas baseado no que a realidade atual diz.

4. Juntando as Duas Coisas: O "Duplo Filtro"

O grande trunfo do artigo é dizer que precisamos das duas coisas juntas:

1. O Arquiteto (Matemática): Conserta a estrutura interna do cérebro do modelo, garantindo que ele não pense de forma preconceituosa.
2. O Jornalista (Pesquisa): Garante que, mesmo que o cérebro tenha uma dúvida, ele consulte fatos reais e atualizados antes de falar.

Em resumo:
O artigo diz que não basta apenas "limpar" os livros de receitas antigos (o que é difícil e caro). Precisamos mudar a forma como o modelo organiza o conhecimento (usando matemática avançada) e dar a ele a capacidade de consultar fatos novos na hora de responder.

É como se, em vez de tentar apagar os preconceitos de um livro antigo, nós construíssemos uma nova biblioteca onde os livros são organizados de forma justa e, além disso, temos um bibliotecário que sempre verifica se a informação está atualizada antes de entregar ao leitor.

Conclusão Simples:
Para ter uma Inteligência Artificial justa, não podemos apenas "tapar buracos". Precisamos redesenhar a estrutura do pensamento dela com matemática precisa e mantê-la conectada com a realidade atual, para que ela não viva no passado preconceituoso.

Resumo técnico

Resumo Técnico: Mitigação de Vieses em LLMs via Funtores Baseados em Teoria das Categorias e Geração Aumentada por Recuperação (RAG)

Título do Artigo: LLMS MUST USE FUNCTOR-BASED AND RAG-DRIVEN BIAS MITIGATION FOR FAIRNESS
Autores: Ravi Ranjan, Utkarsh Grover e Agoritsa Polyzou
Data: 10 de março de 2026

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) exibem proficiência sem precedentes, mas perpetuam vieses demográficos e de gênero herdados de preconceitos históricos e sociais presentes em seus dados de treinamento. Esses vieses manifestam-se como distorções sistemáticas nas associações entre atributos demográficos (gênero, etnia, geografia) e papéis profissionais ou sociais.

O artigo ilustra isso através de um cenário onde um LLM recomenda empregos de alta qualificação para países desenvolvidos e trabalhos manuais para países em desenvolvimento, independentemente das qualificações individuais. As abordagens tradicionais de mitigação (curadoria de dados, treinamento adversarial, filtragem post-hoc) falham em abordar as causas estruturais profundas dos vieses, tratando apenas sintomas superficiais ou exigindo retreinamento computacionalmente proibitivo.

2. Metodologia Proposta

Os autores propõem uma abordagem dual-pronged (dupla) que integra Transformações de Teoria das Categorias (estrutura) e Geração Aumentada por Recuperação - RAG (contexto).

A. Mitigação Estrutural: Teoria das Categorias e Funtores

A metodologia utiliza a teoria das categorias para formalizar o espaço semântico do modelo:

• Categorias: O espaço semântico enviesado do LLM é modelado como uma categoria $\mathcal{C}$, onde objetos são conceitos linguísticos (ex: "mulher", "médico") e morfismos são as associações aprendidas (atenção).
• O Problema: Os vieses aparecem como morfismos indesejados (ex: uma forte associação entre "mulher" e "enfermeira" em detrimento de "cirurgiã").
• A Solução (Funtores): Propõe-se um funtor $F: \mathcal{C} \to \mathcal{U}$, que mapeia a categoria enviesada $\mathcal{C}$ para uma categoria alvo não enviesada $\mathcal{U}$.
  • Este funtor atua como uma transformação linear projetiva que preserva a integridade semântica (relações válidas entre profissões) enquanto elimina a entrelaçamento de atributos protegidos (gênero/etnia) com essas profissões.
  • Matematicamente, isso é realizado otimizando uma matriz de projeção $P$ que minimiza a dispersão intra-grupo para conceitos demográficos (tornando-os indistinguíveis no espaço projetado) enquanto preserva a dispersão inter-grupo para conceitos ocupacionais.
  • A solução ótima é encontrada através da decomposição espectral de matrizes de dispersão ($S_D + \lambda S_O$), projetando os embeddings nos autovetores correspondentes aos menores autovalores.

B. Mitigação Contextual: Geração Aumentada por Recuperação (RAG)

Para complementar a correção estrutural, o sistema integra RAG:

• Mecanismo: Durante a inferência, o modelo recupera documentos externos, atualizados e curados (ex: relatórios de trabalho recentes, dados estatísticos equilibrados) de uma base de conhecimento externa.
• Fusão: Essas informações são fundidas ao contexto do modelo via mecanismos de cross-attention.
• Objetivo: O RAG atua como um "scaffold" de justiça, injetando evidências factuais que contradizem estereótipos internos do modelo. Por exemplo, se o modelo tende a associar certas etnias a crimes, o RAG pode fornecer estatísticas reais que corrigem essa distorção em tempo real, sem necessidade de retreinamento do modelo base.

C. Integração Sinérgica

O pipeline proposto (Figura 3 no artigo) opera em sete etapas:

1. Extração da categoria semântica enviesada.
2. Definição da categoria alvo não enviesada.
3. Cálculo de matrizes de dispersão demográfica e ocupacional.
4. Otimização da projeção ótima ($P^*$).
5. Aplicação da transformação induzida pelo funtor nos embeddings internos.
6. Integração do RAG via cross-attention sobre corpora externos não enviesados.
7. Síntese da saída final, condicionada tanto nas representações internas transformadas quanto no contexto externo recuperado.

3. Contribuições Principais

1. Fundamentação Matemática Rigorosa: Introduz a teoria das categorias como uma estrutura formal para descrever e transformar vieses semânticos, superando as limitações de métodos puramente algébricos lineares que não capturam a estrutura composicional da linguagem.
2. Abordagem Híbrida Estrutura-Contexto: Demonstra que a justiça em LLMs exige tanto a reestruturação interna das representações (via funtores) quanto a ancoragem externa em conhecimento factual (via RAG).
3. Eficiência e Adaptabilidade: A proposta evita o retreinamento massivo de modelos (custoso e instável), utilizando módulos de transformação leve e atualizações dinâmicas de conhecimento via RAG.
4. Resposta a Críticas: O artigo aborda proativamente a preocupação de que o RAG possa introduzir novos vieses, propondo pipelines de recuperação conscientes de justiça e curadoria de fontes.

4. Resultados e Evidências (Baseado na Discussão Teórica e Simulações)

Embora o artigo seja uma proposta de posição com foco teórico, ele cita validações empíricas de componentes individuais e simulações esperadas:

• Redução de Estereótipos: A arquitetura baseada em funtores é projetada para reduzir estereótipos de gênero em previsões ocupacionais em 72% em comparação com métodos adversariais tradicionais, sem comprometer a fluência linguística.
• Preservação de Utilidade: A otimização da matriz de projeção garante que a distinção entre profissões seja mantida (alta utilidade), enquanto a distinção demográfica é minimizada (alta justiça).
• Correção de Alucinações Viesadas: O componente RAG demonstra capacidade de reduzir alucinações e vieses históricos ao forçar o modelo a basear suas respostas em evidências externas atualizadas, em vez de memórias paramétricas enviesadas.

5. Significado e Impacto

Este trabalho representa uma mudança de paradigma na mitigação de vieses em IA:

• Do Sintomático para o Estrutural: Move-se da correção de saída (post-hoc) para a reengenharia da representação interna do modelo.
• Justiça por Design: Em vez de tentar "limpar" dados ou penalizar gradientes, a justiça é embutida na arquitetura matemática do modelo através de restrições de funtores.
• Escalabilidade: A combinação de transformações estruturais leves com RAG oferece um caminho viável para implementar modelos justos em escala, adaptáveis a novas normas éticas sem retreinamento completo.
• Reprodutibilidade: O artigo propõe métricas padronizadas (como Desvio de Paridade Demográfica e Pontuação de Preservação Ocupacional) e um conjunto de benchmarks para avaliar futuras soluções.

Em conclusão, o artigo argumenta que a equidade em LLMs não pode ser alcançada apenas por ajustes de dados ou prompts, mas exige uma fusão de rigor matemático (teoria das categorias) e adaptabilidade contextual (RAG) para reestruturar fundamentalmente como os modelos raciocinam sobre atributos demográficos.