Resumo Técnico: Shieldstral

Declaração do Problema

À medida que grandes modelos de fundação são implantados em diversas aplicações do mundo real, a necessidade de modelos de salvaguarda (guardrails) eficazes para filtrar conteúdo prejudicial, tendencioso ou ilegal tornou-se crítica. No entanto, os classificadores de segurança existentes sofrem de duas limitações primárias:

1. Taxonomias Fixas: A maioria dos modelos depende de um conjunto estático de categorias de segurança. Essa abordagem falha em acomodar a heterogeneidade dos conjuntos de dados de segurança pública, que utilizam taxonomias e convenções de anotação divergentes.
2. Falta de Adaptabilidade: Modelos de categorias fixas não podem se ajustar a contextos de implantação específicos. Um conteúdo que pode ser apropriado para uma ferramenta de pesquisa de cibersegurança pode ser prejudicial em uma plataforma de saúde mental, mas os modelos padrão produzem rótulos idênticos, independentemente da intenção do usuário ou dos requisitos específicos de política.

Metodologia

Os autores introduzem o Shieldstral, um classificador de segurança multimodal adaptável a políticas com 3 bilhões de parâmetros, construído sobre a arquitetura Ministral-3B com um codificador de visão Pixtral. A inovação central reside em reformular a moderação de conteúdo não como uma tarefa de classificação multiclasse, mas como uma tarefa de resposta a perguntas (QA) binária.

1. Formulação de Tarefa Unificada

O Shieldstral processa as entradas como um prompt estruturado contendo três componentes:

• Mensagem de Sistema: Uma instrução fixa estabelecendo a meta-tarefa e a gramática de saída.
• Mensagem do Usuário: Composta por três campos marcados:
  • <Instruct>: Enquadramento da tarefa de alto nível descrevendo o contexto de avaliação e o nível de rigor (ex: "Aplique um padrão estrito").
  • <Query>: Uma pergunta específica de sim/não em linguagem natural sobre o conteúdo (ex: "Este conteúdo promove a violência?").
  • <Document>: O conteúdo a ser avaliado (texto, imagem ou ambos).
• Saída: O modelo gera um único token ("yes" ou "no"). A pontuação de segurança é derivada dos logits normalizados por softmax desses dois tokens, permitindo uma pontuação contínua limiarizada em 0,5 para classificação binária.

2. Pipeline de Construção de Dados

Para treinar um modelo pequeno para generalizar através de diversas políticas, os autores curaram e geraram aproximadamente 54,1 milhões de amostras através de um pipeline de quatro estágios:

• Unificação Baseada em Templates: Conjuntos de dados heterogêneos (abrangendo toxicidade, discurso de ódio, detecção de jailbreak, etc.) são convertidos para o formato unificado de instrução–query–documento. Templates de instrução são parafraseados para variar os níveis de rigor (estrito, moderado, brando) e contextos de domínio, garantindo que o modelo aprenda a generalizar através de variações de enquadramento em vez de sofrer overfitting a frases específicas.
• Curadoria de Amostras Contrastivas: O mesmo conteúdo é pareado com consultas correspondentes e não correspondentes. Isso força o modelo a distinguir entre violações de política específicas (ex: violência vs. sequestro) em vez de aprender uma divisão grosseira de "seguro vs. inseguro".
• Geração de Amostras Contrastivas: Usando um LLM, textos de origem seguros são reescritos em variantes inseguras visando categorias específicas enquanto evitam categorias irmãs. Isso gera ~4,4M de pares sintéticos que ensinam o modelo a discriminar distinções finas e específicas ao contexto.
• Processamento de Dados de Imagem: Para abordar a escassez de dados de segurança visual, o pipeline suplementa conjuntos de dados de moderação limitados com conjuntos de dados de imagens de uso geral. Ele emprega mutação de query (gerando diversas variações de frase para categorias visuais) e um reranker de visão-linguagem para filtrar dados mal rotulados e alucinações, resultando em ~4,5M de amostras multimodais.

3. Treinamento e Fusão de Modelos

• Ajuste Fino (Fine-Tuning): O Shieldstral é ajustado usando LoRA em perda de entropia cruzada. Dois checkpoints são treinados: um em conjuntos de dados de segurança pública ($P$) e outro na combinação de dados de taxonomia pública e gerada ($PG$).
• Fusão de Modelos (Model Merging): Para aproveitar as forças complementares de ambos os regimes de dados (calibração de benchmark de $P$ e adaptabilidade de grão fino de $PG$), os autores aplicam Interpolação Linear Esférica (SLERP). O modelo final é uma fusão ponderada de $PG$(0,6),$P$ (0,3) e o base Ministral-3B-Instruct (0,1).

Principais Contribuições

• Classificação Adaptável à Política: O Shieldstral permite que operadores definam critérios de moderação via consultas de linguagem natural livre no tempo de inferência, em vez de serem limitados por um conjunto de rótulos pré-definido.
• Estrutura de Treinamento Unificada: O artigo demonstra que diversas tarefas de segurança podem ser consolidadas em um único problema de QA binário, permitindo a unificação de conjuntos de dados heterogêneos com taxonomias divergentes.
• Curadoria de Dados Escalável: O artigo apresenta uma receita para gerar e unificar 54,1 milhões de amostras, incluindo uma nova estratégia de geração contrastiva para ensinar a discriminação de política de grão fino.
• Avaliação de Grão Fino: Uma taxonomia de avaliação dedicada, projetada independentemente da taxonomia de treinamento com diferentes nomes de categoria, granularidades e agrupamentos, é introduzida para testar rigorosamente a adaptabilidade de política e prevenir a memorização de rótulos.

Resultados

O Shieldstral foi avaliado em 16 benchmarks (21 divisões) e comparado contra 10 baselines, incluindo modelos até 7× maiores.

• Segurança de Texto: O Shieldstral atinge um F1 médio de 84,9%, igualando ou superando modelos quase 7× maiores que ele (ex: GPT-OSS-Safeguard-20B). Ele ocupa o topo geral em diversos benchmarks de segurança.
• Segurança Multimodal: O modelo atinge um F1 médio de 83,8% em benchmarks multimodais, estabelecendo um novo estado da arte e superando todos os baselines avaliados, incluindo OmniGuard (7B) e LlavaGuard (7B).
• Adaptabilidade de Política: Em uma avaliação de taxonomia de grão fino projetada para testar a generalização para políticas não vistas, o Shieldstral atinge 91,3% de F1. Embora modelos adaptativos maiores como o GPT-OSS-Safeguard-20B alcancem pontuações ligeiramente superiores (94,1%), eles dependem de rastros longos de raciocínio que reduzem a eficiência da inferência. O Shieldstral alcança desempenho comparável com uma saída de token único e significativamente menos parâmetros.
• Estudos de Ablação: Experimentos confirmam que os dados de taxonomia gerados fornecem uma melhoria de +23,3% no F1 em relação ao treinamento apenas em dados públicos para tarefas de grão fino. A estratégia de fusão de três vias recupera as quedas de desempenho em benchmarks padrão enquanto maximiza a adaptabilidade.

Significância

O artigo afirma que o Shieldstral demonstra a viabilidade de uma moderação adaptável unificada. Ao consolidar conjuntos de dados de treinamento divergentes através de uma formulação de QA unificada e geração de dados contrastivos, um modelo pequeno (3B) adaptável pode igualar ou superar modelos de taxonomia fixa muito maiores. Esta abordagem aborda a necessidade crítica de sistemas de segurança que possam se adaptar aos requisitos específicos de implantação sem exigir retreinamento ou definições de categorias rígidas, oferecendo uma solução escalável e eficiente para a moderação de conteúdo no mundo real.