Noise Steering for Controlled Text Generation: Improving Diversity and Reading-Level Fidelity in Arabic Educational Story Generation

Resumo Técnico: Direcionamento de Ruído para Geração de Texto Controlado

1. O Problema

O artigo aborda o desafio de gerar histórias narrativas diversificadas e pedagogicamente válidas para Avaliações de Leitura em Fase Inicial (EGRA) em árabe. As histórias para EGRA devem atender a restrições pedagógicas rigorosas:

• Vocabulário controlado e nível de leitura apropriado para a idade (geralmente 1ª a 3ª série).
• Estrutura narrativa clara e neutralidade cultural.
• Ausência de repetição excessiva (que invalida a avaliação).

Existe uma tensão fundamental entre diversidade (evitar histórias repetitivas) e aderência a restrições (manter o nível de leitura e a estrutura). Métodos existentes, como amostragem de alta temperatura, tendem a aumentar a diversidade, mas frequentemente violam as restrições pedagógicas, elevando o nível de leitura para além do desejado ou causando colapso modal (geração de texto incoerente/repetitivo). Além disso, o cenário favorece o uso de Modelos de Linguagem Pequenos (SLMs) de 7 a 9 bilhões de parâmetros devido a restrições de recursos, mas esses modelos são mais instáveis quando se tenta forçar a diversidade.

2. Metodologia

Os autores investigam o "Noise Steering" (Direcionamento de Ruído) como uma estratégia livre de fine-tuning. Em vez de alterar os pesos do modelo ou usar apenas amostragem estocástica na saída, eles injetam perturbações gaussianas calibradas nas representações internas do modelo durante a inferência.

Estratégias de Injeção de Ruído Testadas:

1. Ruído no Stream Residual (L-RES): Injeção de ruído após a conclusão de todo o bloco do transformador (atenção + MLP). Afeta a representação completa antes de passar para a próxima camada.
2. Ruído nos Logits de Atenção (ATTN): Injeção de ruído na saída da subcamada de auto-atenção, antes do MLP.
3. Injeção de Ruído baseada em Entropia de Atenção (AENI): Uma abordagem adaptativa. A magnitude do ruído é condicionada à "picozidade" (peakedness) da distribuição de atenção do modelo. Se a atenção estiver concentrada (alta probabilidade de repetição), mais ruído é injetado; se estiver difusa, menos ruído é aplicado.
4. Ruído em Embeddings: Injeção direta na tabela de lookup de embeddings (o ponto mais inicial).

Calibração e Decaimento:

• Calibração RMS: Como a escala das ativações internas varia entre modelos, a magnitude do ruído ($\sigma$) é calibrada usando a Raiz Média Quadrática (RMS) das ativações do stream residual de cada modelo, garantindo uma proporção relativa consistente.
• Decaimento Cosine: O ruído é aplicado com um decaimento cosenoidal ao longo da geração. É forte no início da história (para explorar criatividade) e diminui até zero no final, permitindo que o modelo retome o comportamento de seguir restrições para a conclusão.

Configuração Experimental:

• Modelos: 5 modelos SLMs centrados em árabe (Jais 8B, ALLaM 7B, Fanar 9B, AceGPT 8B, Phi-4-mini).
• Baselines: Amostragem sem ruído (T=1.0) e amostragem de alta temperatura (T=1.8) com Top-k e Top-p.
• Métricas: Diversidade (Vendi Score, Self-BLEU), Qualidade (avaliada por LLM), Aderência a Restrições (EGRA) e Nível de Leitura Estimado.

3. Principais Contribuições

1. Validação do Ruído Interno vs. Estocasticidade de Saída: Demonstram que a perturbação em nível de representação interna é superior à simples alteração da temperatura na saída para geração de conteúdo educacional restrito.
2. Método AENI Adaptativo: Propõem e validam a Attention Entropy Noise Injection, que estabiliza a injeção de ruído ao ativar perturbações apenas quando o modelo mostra sinais de repetição (atenção concentrada), evitando o colapso modal comum em métodos de ruído fixo.
3. Preservação do Nível de Leitura: Mostram que, ao contrário da alta temperatura, o direcionamento de ruído melhora a diversidade sem elevar o nível de vocabulário para além do adequado para crianças, mantendo a fidelidade pedagógica.
4. Análise de Modelos Pequenos: Fornecem um benchmark detalhado de como diferentes arquiteturas de SLMs árabes respondem a perturbações internas, identificando que modelos com representações árabes mais frágeis (como Phi-4-mini) são mais suscetíveis a colapsos com ruído em embeddings.

4. Resultados Chave

• Estabilidade e Colapso Modal:

  • Alta Temperatura: Causou colapso modal catastrófico (até 84% de histórias inutilizáveis) em modelos como AceGPT e Phi-4-mini.
  • Ruído em Embeddings: Causou colapso total (100%) no Phi-4-mini.
  • L-RES (Stream Residual): Apresentou 0% de colapso em todos os 5 modelos, sendo o método mais robusto.
  • AENI: Eliminou o colapso modal em todos os modelos (0% em ALLaM, AceGPT, Jais), superando o ruído de logits bruto que causava instabilidade.

• Diversidade e Qualidade:

  • L-RES: Aumentou consistentemente o Vendi Score (diversidade) em todos os modelos sem degradar significativamente a qualidade ou violar restrições. Para modelos de alta qualidade (Fanar, ALLaM), a qualidade foi mantida ou melhorada.
  • AENI: Ofereceu um equilíbrio ideal, recuperando a qualidade perdida pelo ruído bruto de atenção e mantendo a diversidade alta, com um custo mínimo de diversidade em comparação ao ruído bruto, mas com ganhos massivos em estabilidade.

• Nível de Leitura (Reading Grade Level):

  • A amostragem de alta temperatura elevou artificialmente o nível de leitura (ex: de 3º para 6º ano), tornando as histórias inadequadas para o público-alvo.
  • L-RES e AENI preservaram o nível de leitura original em todos os modelos (com exceção menor no Phi-4 com L-RES), provando que a diversidade narrativa não precisa vir acompanhada de vocabulário complexo.

5. Significado e Conclusão

O estudo conclui que o direcionamento de ruído em representações internas é uma estratégia superior para a geração de conteúdo educacional restrito em comparação com a estocasticidade de nível de saída.

• L-RES é identificado como o método mais confiável e geral para aumentar a diversidade sem comprometer a validade pedagógica.
• AENI é a escolha preferencial quando se deseja intervir no nível de atenção, oferecendo maior estabilidade ao adaptar-se dinamicamente ao estado do modelo.

A pesquisa destaca que a qualidade de geração basal do modelo é um preditor forte de quão bem ele absorve o ruído; o direcionamento de ruído é uma ferramenta para desbloquear diversidade latente, não um corretor para capacidades linguísticas limitadas. Este trabalho oferece um caminho viável para a produção escalável de materiais de avaliação de leitura em árabe, superando as limitações de modelos pequenos e a complexidade linguística da língua árabe.