🤖 machine learning

Fair Representation in Parliamentary Summaries: Measuring and Mitigating Inclusion Bias

Este estudo avalia os vieses de representação em resumos de debates do Parlamento Europeu gerados por modelos de linguagem, identificando disparidades baseadas na ordem de fala, idioma e afiliação política, e propõe um método hierárquico de sumarização como solução eficaz para mitigar essas distorções, já que estratégias de prompt se mostraram ineficazes.

Autores originais: Eoghan Cunningham, James Cross, Derek Greene

Publicado 2026-04-03

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Eoghan Cunningham, James Cross, Derek Greene

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que o Parlamento Europeu é um grande jantar de família onde 700 pessoas (os deputados) estão a discutir as regras da casa. O problema é que, para saber o que foi decidido, teríamos de ler as transcrições de todas as conversas, o que é impossível para a maioria das pessoas.

Aqui é onde entra a Inteligência Artificial (IA), especificamente os "Grandes Modelos de Linguagem" (como o ChatGPT ou o Claude). A ideia é usar a IA para fazer um resumo rápido do jantar, dizendo quem disse o quê, para que todos possam entender.

No entanto, os autores deste estudo descobriram que, quando pedimos à IA para fazer este resumo, ela não é tão justa quanto deveria. É como se a IA tivesse vícios de comportamento que favorecem algumas pessoas em detrimento de outras.

Aqui está a explicação simples dos três principais "vícios" que eles descobriram:

1. A "Maldição do Meio" (Quem fala no meio é ignorado)

Imagine que o jantar dura 3 horas.

Quem fala no início (a primeira hora) é ouvido com atenção.
Quem fala no final (a última hora) também é lembrado.
Mas quem fala no meio (a hora do bolo)? A IA tende a "esquecer" completamente o que essas pessoas disseram.

A Solução: Os autores descobriram que, em vez de pedir à IA para ler tudo de uma vez e fazer um resumo (o que a confunde), é melhor usar uma técnica de "camadas".

Analogia: Em vez de pedir a um único cozinheiro para preparar um banquete gigante de uma só vez, você pede a ele para preparar pequenos pratos individuais primeiro (resumir cada discurso), e depois junta tudo num prato principal. Isso ajuda a IA a não "esquecer" os ingredientes do meio do processo.

2. O "Viés da Língua" (Quem fala línguas raras é mal representado)

O Parlamento Europeu tem 24 línguas oficiais. A IA funciona muito bem com línguas comuns (como Inglês, Francês ou Espanhol), porque "comeu" muitos livros e notícias nessas línguas durante o seu treino.

Se um deputado fala em Inglês, o resumo é preciso.
Se um deputado fala em uma língua menos comum (como o Maltese ou o Irlandês), a IA tende a distorcer o que foi dito ou a omitir detalhes importantes. É como se a IA tivesse "orelhas" que ouvem melhor algumas línguas do que outras.
O problema: Mesmo quando a IA recebe o texto já traduzido para Inglês pelos tradutores oficiais do Parlamento, ela ainda trata mal o conteúdo original dessas línguas mais raras.

3. O "Viés Político" (Quem é de esquerda ganha mais espaço)

A IA também tem uma preferência política, embora subtil.

Os autores descobriram que os resumos tendem a dar mais espaço e atenção aos deputados de partidos de esquerda (centro-esquerda).
Os partidos de direita ou extremos tendem a ser omitidos ou ter as suas ideias menos detalhadas no resumo final.
Nota: Este viés só apareceu claramente depois que eles corrigiram o problema do "meio do jantar" (o ponto 1). Antes, a IA esquecia tanto as pessoas que não dava para ver a preferência política.

O que os autores fizeram para testar isto?

Eles criaram um sistema de "detetive".

A IA fez o resumo do debate.
Depois, outra IA (o "detetive") tentou reconstruir o discurso original de cada deputado apenas lendo o resumo.
Se o "detetive" conseguia recuperar o que o deputado disse, o resumo era justo. Se o "detetive" não conseguia, significava que a IA tinha esquecido ou distorcido a fala daquele deputado.

Conclusão Simples

A Inteligência Artificial é uma ferramenta incrível para tornar a democracia mais acessível, permitindo que qualquer pessoa leia resumos de debates complexos. Mas, tal como um jornalista humano pode ter preconceitos, a IA também tem os seus.

O que funciona: Dividir a tarefa em passos menores (resumir peça por peça antes de juntar tudo) resolve o problema de quem fala no meio.
O que ainda é difícil: A IA ainda é injusta com línguas menos comuns e tem uma leve preferência por certas ideologias políticas.

A lição final: Não podemos apenas ligar a IA e confiar cegamente. Precisamos de criar regras e métodos específicos para garantir que a "voz" de todos os cidadãos, independentemente de quando falam, o que falam ou de que partido são, seja ouvida com a mesma clareza.

Título: Representação Justa em Resumos Parlamentares: Medição e Mitigação de Viés de Inclusão

1. O Problema

O uso de Modelos de Linguagem de Grande Escala (LLMs) para resumir debates parlamentares oferece uma oportunidade promissora para aumentar a acessibilidade da participação democrática. No entanto, à medida que esses sistemas filtram e estruturam informações políticas, surgem preocupações críticas sobre justiça e equidade.

O problema central identificado é que os resumos gerados por LLMs podem distorcer a realidade democrática ao:

Omitir sistematicamente vozes específicas.
Distorcer as posições de certos oradores.
Criar desigualdades baseadas em fatores irrelevantes para o conteúdo, como:
1. Ordem de fala: Oradores no meio do debate podem ser ignorados (fenômeno conhecido como "maldição do meio" ou lost-in-the-middle).
2. Língua falada: Oradores em línguas de baixo recurso podem receber representação menos fiel.
3. Afiliação política: Grupos partidários podem ser favorecidos ou excluídos sistematicamente.

As métricas de avaliação tradicionais (como ROUGE e BERTScore padrão) falham em detectar esses problemas, pois avaliam a sobreposição semântica geral, mas não penalizam a má atribuição (atribuir a opinião de um orador a outro) ou a omissão completa de um orador.

2. Metodologia

Os autores desenvolveram um framework de avaliação consciente de atribuição e testaram-no no contexto do Parlamento Europeu (EP).

Dados: Um conjunto de dados de 1.242 discursos (intervenções) de 50 debates do 6º Parlamento Europeu (2005-2006), incluindo transcrições originais multilíngues e traduções oficiais para inglês. O conjunto totalizou 2.484 intervenções de 708 oradores de 7 grupos partidários.
Modelos Testados: 5 LLMs (proprietários e de peso aberto): Claude Sonnet 4, Claude Haiku 4.5, GPT-5, Phi-4 e Gemma3.
Abordagens de Resumo Comparadas:
1. Resumo Plano (Flat): Geração direta de um resumo a partir de todas as intervenções (baseline).
2. Resumo Plano + Prompt: Mesmo que o anterior, mas com instrução explícita para "dar atenção igual a todos os oradores".
3. Resumo Hierárquico (1 nível): Resumo individual de cada intervenção, seguido de agregação em um resumo do debate.
4. Resumo Hierárquico (2 níveis): Resumo individual de intervenções, seguido de uma agregação temática intermediária (agrupando por questões, posições, argumentos e propostas) antes do resumo final.
Framework de Avaliação (Inovação Chave):
- Em vez de comparar o resumo final com o texto original globalmente, os autores utilizam uma função de reconstrução ( $f_{REC}$ ).
- A partir do resumo final, o sistema tenta "reconstruir" a contribuição específica de cada orador.
- A fidelidade é medida comparando a intervenção original com a intervenção reconstruída usando BERTScore.
- Isso permite separar dois tipos de viés:
  - Viés de Inclusão (Recall): O conteúdo do orador foi omitido?
  - Viés de Alucinação (Precisão): O conteúdo atribuído ao orador no resumo foi inventado ou distorcido?

3. Principais Contribuições

Framework de Avaliação: Desenvolvimento de uma metodologia que distingue viés de inclusão (omissão) de viés de alucinação (distorção) em resumos multioradores, superando as limitações das métricas padrão.
Evidência de Mitigação Hierárquica: Demonstração de que métodos de resumo hierárquico, estruturados com base em domínios políticos (questões, posições, argumentos), mitigam significativamente o viés de ordem de fala.
Análise de Viés Partidário: Identificação de que, uma vez corrigido o viés de atenção (ordem de fala), persiste um viés de inclusão favorável a partidos de esquerda.
Análise de Viés Multilíngue: Exame sistemático de como o nível de recurso da língua (baseado na quantidade de artigos na Wikipedia) impacta a fidelidade do resumo.

4. Resultados Principais

Viés de Posição (Ordem de Fala):
- Sob resumo plano, todos os modelos (exceto GPT-5) exibiram forte viés: oradores no meio do debate foram sistematicamente ignorados ou mal representados.
- Solução: O resumo hierárquico (especialmente o de 2 níveis) eliminou quase completamente esse viés, distribuindo a atenção de forma mais uniforme ao longo do debate.
- Prompting: Instruções simples no prompt ("dê atenção igual") não tiveram efeito significativo na mitigação desse viés.
Viés Linguístico:
- Oradores em línguas de baixo recurso receberam representação menos fiel em todos os modelos.
- Este viés persistiu mesmo quando se usaram traduções oficiais do Parlamento Europeu (indicando que o problema pode estar na qualidade da tradução de relay ou no próprio modelo).
- O resumo hierárquico não mitigou o viés linguístico; as disparidades permaneceram.
Viés Partidário:
- Após controlar pela ordem de fala (usando métodos hierárquicos), revelou-se um viés de inclusão: intervenções de partidos de centro-esquerda tiveram maior recall (mais conteúdo incluído) do que partidos de direita ou centro.
- Esse viés era mascarado nos modelos menores e no resumo plano devido à alta taxa de exclusão geral de oradores.
- O viés manifestou-se principalmente como inclusão diferencial (quem é ouvido), e não como distorção de posições (alucinação).

5. Significância e Conclusão

O estudo conclui que, embora modificações arquitetônicas (como o resumo hierárquico) possam resolver problemas de atenção algorítmica (como a "maldição do meio"), elas não corrigem viéses enraizados nos dados de treinamento (como disparidades linguísticas e partidárias).

Implicações para a Democracia: A implementação de LLMs para transparência parlamentar exige métricas de avaliação sensíveis ao domínio e supervisão ética rigorosa. Um resumo "preciso" semanticamente pode ser democraticamente falho se omitir vozes minoritárias ou de línguas menos comuns.
Recomendação: Para aplicações democráticas multilíngues, é necessário ir além do "zero-shot" e adotar pipelines estruturados que garantam a atribuição correta e a inclusão equitativa, reconhecendo que a tecnologia atual ainda carrega preconceitos sociais e linguísticos que devem ser mitigados ativamente.