Safety Alignment Illusion: The Cross-Lingual Safety Gap in LLMs
Este artigo apresenta o INCLUDE, um benchmark multilíngue que avalia vieses socioculturais centrados na Índia em seis idiomas, revelando que o atual alinhamento de segurança centrado no inglês em LLMs cria uma lacuna crítica de segurança translinguística, onde as saídas não inglesas, particularmente em bengali e em modelos de código fechado, exibem um viés significativamente maior do que suas contrapartes em inglês.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde a voz de um assistente de computador seja tão fluente e justa em uma aldeia rural na Índia quanto em um escritório movimentado em Londres. Por anos, a tecnologia por trás desses assistentes foi treinada principalmente com textos em inglês, aprendendo a reconhecer estereótipos prejudiciais e a recusar solicitações ofensivas através de um processo chamado alinhamento de segurança. Esse treinamento atua como um filtro, projetado para impedir que a máquina repita preconceitos sobre raça, religião ou status social. No entanto, uma questão crítica permaneceu sem resposta: será que esse filtro funciona tão bem quando o usuário fala hindi, bengali ou uma mistura de inglês e hindi? Se o filtro entender apenas o inglês, milhões de pessoas que falam outras línguas ficam expostas justamente aos preconceitos que a tecnologia deveria prevenir. Este é o cerne da preocupação de um novo estudo que investiga se a promessa de uma inteligência artificial segura se mantém verdadeira através do diversificado panorama linguístico da Índia.
Os pesquisadores, liderados por Namya Bhatnagar, buscaram medir essa lacuna criando um teste especializado chamado INCLUDE. Este benchmark foi projetado para ver quão bem diferentes modelos de inteligência artificial lidam com estereótipos culturalmente específicos quando estimulados em seis idiomas diferentes: inglês, hindi, bengali, marati, tâmil e hinglish, que é uma mistura comum de hindi e inglês usada na conversação diária. Para construir este teste, a equipe primeiro definiu seis áreas onde o preconceito costuma aparecer, como casta, religião e região. Eles então reuniram um painel de vinte especialistas, incluindo professores e docentes universitários, para revisar e refinar milhares de perguntas. Essas perguntas foram cuidadosamente elaboradas para soarem naturais, pedindo aos modelos que completassem frases de maneiras que revelariam se eles estavam se inclinando para estereótipos prejudiciais ou os rejeitando. A equipe traduziu esses comandos para os cinco idiomas indianos, garantindo que o significado e a intensidade dos estereótipos permanecessem consistentes em todas as versões.
O estudo avaliou dez modelos diferentes de inteligência artificial, dividindo-os em dois grupos: aqueles que são abertos para qualquer pessoa inspecionar e modificar, e aqueles que são sistemas fechados de propriedade de grandes empresas de tecnologia. Quando os pesquisadores testaram os modelos de código aberto, encontraram um padrão claro e preocupante. Os modelos foram significativamente mais propensos a produzir respostas enviesadas e estereotipadas quando os comandos eram escritos em idiomas indianos em comparação ao inglês. Entre os idiomas indianos, o bengali desencadeou o nível mais alto de viés, seguido de perto pelo hindi. Surpreendentemente, os comandos em inglês resultaram nos menores índices de viés para esses modelos abertos, sugerindo que os filtros de segurança estão funcionando bem para falantes de inglês, mas falhando para todos os outros. Isso cria uma ilusão de segurança, onde um usuário pode se sentir protegido em inglês, mas fica vulnerável em sua língua nativa.
Os resultados para os modelos de código fechado, que são frequentemente usados para alimentar as funções de busca e recuperação de assistentes de voz, contaram uma história diferente e ainda mais complexa. Neste grupo, o padrão se inverteu completamente. Os modelos mostraram as associações de viés mais fortes quando os comandos estavam em inglês, enquanto os idiomas indianos apresentaram menores índices de viés. Essa reversão sugere que a origem do problema não é apenas uma coisa. Para os modelos abertos, a questão parece ser que o treinamento de segurança foi feito majoritariamente em inglês, deixando outras línguas desprotegidas. Para os modelos fechados, o viés parece vir da enorme quantidade de texto em inglês com que foram originalmente treinados, o que incutiu estereótipos fortes em sua compreensão fundamental do mundo.
Uma das descobertas mais significativas diz respeito ao Hinglish, a língua mista de código usada por milhões de pessoas na Índia. O estudo descobriu que o Hinglish não recebeu os benefícios de segurança do inglês. Mesmo contendo palavras em inglês, os modelos o trataram estatisticamente da mesma forma que os outros idiomas indianos de baixos recursos, agrupando-o com o hindi e o tâmil, em vez do inglês. Isso significa que usuários que dependem dessa linguagem mista para interação por voz não estão recebendo o mesmo nível de proteção que os falantes de inglês puro. Os pesquisadores também observaram que, embora os índices de viés variassem, as diferenças não eram aleatórias; eram consistentes o suficiente para serem consideradas uma falha real e mensurável na forma como esses sistemas são construídos.
O estudo conclui que a segurança da inteligência artificial não é uniforme entre as línguas. Ele revela que os métodos atuais de treinamento desses modelos criam uma divisão onde falantes de inglês são protegidos de estereótipos prejudiciais, enquanto falantes de outras línguas não o são. Os achados sugerem que simplesmente traduzir regras de segurança do inglês não é suficiente; a própria estrutura de como esses modelos aprendem e como são alinhados precisa mudar para considerar as nuances de diferentes culturas e idiomas. Ao identificar essas lacunas, os pesquisadores esperam fornecer um roteiro para que desenvolvedores construam sistemas que sejam verdadeiramente justos para todos, independentemente do idioma que falem. O trabalho destaca que alcançar a verdadeira equidade na inteligência artificial requer olhar além das línguas dominantes e abordar os contextos culturais específicos nos quais essas tecnologias são implementadas.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.