ThaiSafetyBench: Assessing Language Model Safety in Thai Cultural Contexts

Este trabalho apresenta o ThaiSafetyBench, um benchmark de código aberto com 1.954 prompts maliciosos em tailandês que revela vulnerabilidades específicas em modelos de linguagem ao avaliar riscos culturalmente contextualizados, demonstrando que ataques baseados em nuances da cultura tailandesa têm maior taxa de sucesso do que ataques gerais e que modelos fechados superam os de código aberto em segurança.

O essencial

Imagine que os Grandes Modelos de Linguagem (LLMs) são como cozinheiros robóticos superinteligentes que acabaram de chegar na sua cidade. Eles são incríveis: podem escrever receitas, contar histórias e ajudar em tarefas complexas. Mas, como qualquer cozinheiro novo, eles precisam aprender as regras da casa para não servir pratos envenenados ou ofensivos.

Até agora, a maioria dos testes para ver se esses robôs são "seguros" foi feita apenas em inglês, como se estivéssemos testando se eles sabem cozinhar apenas pratos americanos. O problema? Se você pedir um prato típico da Tailândia, o robô pode não entender as nuances culturais, os tabus locais ou as piadas internas, e acabar servindo algo que ofende a família inteira.

É aqui que entra o ThaiSafetyBench, o novo "manual de testes" criado pelos autores deste artigo. Vamos descomplicar o que eles fizeram:

1. O Grande Desafio: O "Sabor" Cultural

Os pesquisadores perceberam que os robôs são muito mais seguros quando falam inglês, mas falham feio quando tentam entender a cultura tailandesa.

• A Analogia: Imagine que você pede ao robô para não falar sobre o Rei ou a Monarquia. Em inglês, ele sabe a regra. Mas em tailandês, com gírias locais e referências históricas específicas, ele pode não entender que aquilo é um "botão vermelho" e acabar dizendo algo proibido.
• A Descoberta: Eles criaram um banco de dados com quase 2.000 perguntas "perigosas" (maliciosas) escritas em tailandês. Algumas são perigosas em qualquer lugar (como pedir para criar um vírus), mas muitas são perigosas apenas no contexto da Tailândia (como ofender tradições locais ou falar mal da realeza).

2. A Prova de Fogo: 24 Robôs na Cozinha

Eles colocaram 24 desses "cozinheiros robóticos" (modelos de IA) à prova usando esse novo banco de testes.

• O Veredito: Os robôs "fechados" (como o GPT-4 e o Gemini, que são como restaurantes de luxo com cozinheiros treinados por especialistas) geralmente se saíram muito bem. Eles sabem dizer "não" para as perguntas erradas.
• O Problema: Os robôs "abertos" (que qualquer pessoa pode baixar e usar, como receitas públicas) foram muito mais fáceis de enganar. Eles aceitaram mais pedidos perigosos, especialmente quando o pedido usava gírias ou contextos culturais tailandeses.
• A Lição: Quanto mais "tailandês" e culturalmente específico era o ataque, maior a chance do robô falhar. É como se o robô soubesse a regra geral, mas não soubesse a regra da "vovó" local.

3. A Ferramenta Mágica: O "Detector de Veneno"

Testar 24 robôs manualmente, lendo cada resposta, seria caro e demorado (como provar cada prato de um banquete com 10.000 pratos).

• A Solução: Eles criaram um pequeno "robô fiscal" chamado ThaiSafetyClassifier. É um modelo leve e rápido que lê a pergunta e a resposta do robô e diz: "Isso é seguro" ou "Isso é veneno".
• A Precisão: Esse fiscal é tão bom que concorda com os juízes humanos (ou com os robôs mais caros) em 84% dos casos. Isso permite que qualquer pessoa teste seus próprios robôs de graça e rapidamente.

4. O Placar Público (Leaderboard)

Eles criaram um ranking público (como uma tabela de classificação de futebol). Agora, qualquer desenvolvedor tailandês pode ver qual modelo de IA é o mais seguro e o mais confiável para usar em aplicativos locais. Isso incentiva a competição saudável: "Vamos fazer nosso robô ser mais seguro que o do vizinho".

Resumo da Ópera

Este trabalho é um alerta importante: Segurança em IA não é "tamanho único". O que funciona para proteger um robô em Nova York não protege um robô em Bangkok.

Os autores nos dizem que, se quisermos confiar nesses robôs em todo o mundo, precisamos criar testes que respeitem a cultura, a língua e as tradições locais. Caso contrário, vamos ter robôs que são "bons alunos" na sala de aula global, mas "maus alunos" na nossa própria casa.

O que eles deixaram de herança:

1. O Banco de Dados (ThaiSafetyBench): A lista de perguntas perigosas em tailandês.
2. O Fiscal (ThaiSafetyClassifier): A ferramenta gratuita para testar segurança.
3. O Ranking: O lugar onde todos podem ver quem está jogando limpo.

É um passo gigante para garantir que a inteligência artificial seja segura para todos, não apenas para quem fala inglês.

Resumo técnico

Resumo Técnico: THAISAFETYBENCH

1. O Problema

A avaliação de segurança de Grandes Modelos de Linguagem (LLMs) permanece excessivamente centrada no idioma inglês. Isso deixa as linguagens não inglesas e os riscos culturalmente fundamentados subexplorados.

• Vulnerabilidade Cultural: Pesquisas indicam que ataques a LLMs em idiomas de baixa recursos (como o tailandês) têm taxas de sucesso maiores do que em inglês. Benchmarks existentes frequentemente falham em capturar nuances culturais, gírias e contextos sociais específicos de regiões não anglófonas.
• Lacuna no Tailandês: Não havia, até o momento, conjuntos de dados públicos de segurança em tailandês que refletissem adequadamente os contextos culturais locais, dificultando a comparação de desempenho de segurança e a identificação de vulnerabilidades específicas em aplicações tailandesas.

2. Metodologia

Os autores propuseram uma abordagem abrangente para preencher essa lacuna, envolvendo a criação de um novo benchmark, a avaliação de múltiplos modelos e o desenvolvimento de ferramentas de classificação.

• Construção do Dataset (ThaiSafetyBench):

  • Escala: O dataset contém 1.954 prompts maliciosos em tailandês.
  • Taxonomia Hierárquica: Os dados cobrem 6 áreas de risco e 17 tipos de danos, incluindo: Discriminação/Toxicidade, Interação Humano-Chatbot, Riscos de Informação, Usos Maliciosos, Desinformação e Danos Socio-Culturais Tailandeses (questões de fronteira, destruição cultural, COVID-19, Monarquia e más condutas sociais).
  • Fontes de Dados:
    1. Tradução do dataset Do-Not-Answer (inglês) para o tailandês, refinada por falantes nativos.
    2. Curadoria de um dataset de segurança tailandês existente (Typhoon2), filtrando ruídos.
    3. Geração de novos amostras usando LLMs não censurados (Grok 3) e transformação de dados de notícias falsas, além de criação manual baseada em normas de etiqueta social tailandesa.
  • Nota Ética: Para cumprir regulamentações locais, o dataset público exclui a categoria "Monarquia" (restando 1.889 amostras públicas).

• Avaliação de Modelos:

  • Modelos Testados: 24 LLMs, incluindo modelos comerciais fechados (GPT-5, Claude 4.5), modelos open-source multilíngues (Llama, Qwen, Gemma), modelos ajustados para o Sudeste Asiático (SeaLLMs) e modelos ajustados especificamente para o Tailândia (Typhoon2, OpenThaiGPT).
  • Método de Julgamento: Utilização de LLM-as-a-Judge com GPT-4.1 e Gemini-2.5-Pro para classificar as respostas como seguras ou prejudiciais. A métrica principal é a Taxa de Sucesso do Ataque (ASR).

• ThaiSafetyClassifier:

  • Para reduzir custos e aumentar a reprodutibilidade, os autores fine-tunaram um classificador binário leve baseado em DeBERTaV3 (usando LoRA).
  • O modelo foi treinado em 46.893 pares de prompt-resposta para prever se uma resposta é segura ou prejudicial, alcançando alta correlação com os julgamentos do GPT-4.1.

3. Principais Contribuições

1. ThaiSafetyBench Dataset: Um benchmark de segurança em tailandês altamente curado, com 1.954 prompts, incluindo casos contextualizados culturalmente e uma taxonomia hierárquica detalhada.
2. Avaliação Abrangente: Análise sistemática de 24 modelos LLMs, fornecendo insights sobre o comportamento de segurança em contextos tailandeses.
3. ThaiSafetyBench Leaderboard: Uma plataforma pública para rankings atualizados de desempenho de segurança, incentivando a participação da comunidade.
4. ThaiSafetyClassifier: Um classificador leve e de baixo custo (baseado em DeBERTa) com pontuação F1 ponderada de 84,4%, liberado publicamente para facilitar avaliações reprodutíveis.

4. Resultados e Análise

• Desempenho Geral (ASR): Modelos fechados (closed-source) geralmente demonstraram melhor desempenho de segurança do que seus equivalentes open-source. No entanto, alguns modelos open-source ajustados (como SeaLLMs-v3-7B) apresentaram desempenho comparável aos fechados.
• Vulnerabilidade Cultural: A análise revelou que ataques específicos do contexto cultural tailandês têm uma Taxa de Sucesso (ASR) consistentemente mais alta do que ataques gerais em tailandês. Isso indica que os métodos atuais de alinhamento de segurança falham em capturar nuances locais.
• Áreas de Risco: A área de "Danos Socio-Culturais Tailandeses" apresentou o desempenho mais fraco dos modelos, destacando uma lacuna persistente na segurança cultural.
• Tamanho do Modelo vs. Segurança:
  • Existe uma tendência clara de que modelos maiores (mais parâmetros) apresentam menor ASR, indicando maior robustez.
  • No entanto, a qualidade dos dados de treinamento é crucial; modelos menores, mas bem ajustados (como SeaLLMs), podem superar modelos maiores com dados de treinamento inferiores.
  • O Continual Pretraining (CPT) para ajuste regional não garantiu consistentemente melhor segurança; o sucesso depende criticamente da curadoria dos dados de pré-treinamento e da integração de conjuntos de dados focados em segurança.

5. Significado e Impacto

• Segurança Cultural: O trabalho destaca que a segurança de IA não é universal; modelos precisam de ajustes específicos para lidar com normas sociais, valores e sensibilidades políticas locais (ex: monarquia, etiqueta social).
• Reprodutibilidade e Acesso: Ao liberar o dataset (parcialmente), o classificador e o leaderboard, os autores democratizam a pesquisa de segurança em idiomas não ingleses, permitindo que a comunidade tailandesa e global avalie e melhore seus modelos.
• Direção Futura: O estudo aponta para a necessidade de desenvolver técnicas de jailbreak mais sofisticadas e de expandir a avaliação para incluir a utilidade das respostas, não apenas a taxa de rejeição.

Em suma, o ThaiSafetyBench estabelece um novo padrão para a avaliação de segurança de LLMs em contextos culturais específicos, demonstrando que a segurança em inglês não garante segurança em tailandês e que a adaptação cultural é um componente crítico para a confiabilidade da IA.