Incoherent by Design? On the Moral Self-Consistency of LLMs
Este artigo demonstra que os grandes modelos de linguagem exibem uma inconsistência moral significativa, com taxas de contradição atingindo até 78% em cenários eticamente equivalentes, desafiando, assim, a integridade epistêmica e o alinhamento de valores dos sistemas de IA utilizados em contextos moralmente sensíveis.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
No mundo moderno, recorremos cada vez mais à inteligência artificial para nos ajudar a navegar por escolhas difíceis. Esses sistemas, conhecidos como modelos de linguagem de grande escala, são treinados em vastas quantidades de textos humanos e podem discutir tópicos complexos, da história à ciência, com uma fluidez surpreendente. Quando questionados sobre o certo e o errado, eles podem frequentemente recitar princípios morais que soam muito parecidos com os nossos. Podemos perguntar se é aceitável mentir para proteger os sentimentos de alguém, ou como dividir recursos limitados de forma justa. A esperança é que essas ferramentas possam oferecer orientação consistente e confiável em situações onde o julgamento humano possa falhar. No entanto, para que um sistema seja verdadeiramente confiável em questões de ética, ele deve fazer mais do que apenas parecer razoável; ele deve ser consistente. Se uma pessoa ou uma máquina muda de ideia sobre uma regra moral simplesmente porque a pergunta foi feita de uma forma ligeiramente diferente, seu conselho torna-se não confiável. Isso levanta uma questão fundamental sobre a natureza dessas mentes digitais: elas possuem um conjunto estável de crenças ou estão apenas mimetizando o tom da pergunta que recebem?
Uma equipe de pesquisadores da Universidade Cornell e da Universidade Tecnológica de Nanyang propôs-se a testar essa estabilidade. Eles queriam ver se esses sistemas de inteligência artificial seriam capazes de manter uma única filosofia moral ao enfrentar situações quase idênticas. Para fazer isso, não pediram aos modelos que escolhessem entre diferentes escolas de pensamento ético, como comparar uma abordagem baseada em regras contra uma baseada em consequências. Em vez disso, pediram aos modelos que adotassem um ponto de vista específico e vissem se conseguiam aplicá-lo de forma consistente. Os pesquisadores focaram em três grandes formas pelas quais os humanos historicamente pensaram sobre a moralidade. A primeira é uma abordagem baseada em regras, onde as ações são julgadas como certas ou erradas com base no cumprimento de uma lei universal, independentemente do resultado. A segunda é uma abordagem baseada em consequências, onde a moralidade de uma ação depende inteiramente de se ela produz o melhor resultado geral para a maioria das pessoas. A terceira foca no caráter, julgando as ações com base se elas refletem as virtudes de uma boa pessoa, como honestidade ou coragem.
Os pesquisadores desenharam um experimento controlado para isolar o raciocínio dos modelos. Eles criaram quatro cenários morais específicos, cada um destacando uma tensão diferente, como o conflito entre dizer a verdade e prevenir o dano, ou o equilíbrio entre justiça e eficiência. Para cada cenário, escreveram três versões ligeiramente diferentes da pergunta. Essas versões foram elaboradas para encorajar sutilmente a mesma perspectiva ética sem nomeá-la explicitamente. Por exemplo, em um cenário sobre uma mãe com demência que esqueceu a morte do marido, uma pergunta poderia enfatizar o dever de dizer a verdade, enquanto outra poderia enfatizar o dever de proteger uma pessoa vulnerável da dor. Ambas as perguntas foram projetadas para suscitar uma resposta baseada em regras, mas enquadraram o dilema de forma diferente. Os pesquisadores então pediram a três modelos de linguagem de grande escala diferentes que respondessem a essas perguntas. Após receber as respostas, eles traduziram as respostas em linguagem natural para um formato lógico estruturado para verificar contradições. Isso permitiu ver se o raciocínio do modelo se sustentava quando a mesma situação subjacente era apresentada com uma nuance diferente.
Os resultados revelaram uma falta de estabilidade alarmante. Nos casos mais extremos, os modelos contradisseram-se em até 78 por cento dos cenários. Isso significa que, quando o mesmo modelo era questionado a raciocinar a partir do mesmo ponto de vista ético sobre a mesma situação, ele frequentemente chegava a conclusões opostas simplesmente porque a redação do comando mudou ligeiramente. Por exemplo, um modelo pode decidir que mentir para um paciente terminal é moralmente errado quando a pergunta foca na violação de uma regra, mas depois decidir que mentir é moralmente aceitável quando a pergunta foca no dever de prevenir o sofrimento, embora ambas as perguntas tivessem a intenção de testar a mesma filosofia baseada em regras. A inconsistência não se limitou a um tipo de modelo; apareceu em diferentes sistemas, incluindo aqueles de grandes desenvolvedores. O estudo descobriu que os modelos eram particularmente instáveis ao lidar com a tensão entre verdade e consequências, e entre motivação emocional e raciocínio frio.
Essas descobertas sugerem que a lógica interna desses sistemas é muito mais frágil do que se supunha anteriormente. Os modelos parecem ser altamente sensíveis ao fraseado específico de um comando, mudando sua postura moral para corresponder ao tom da pergunta em vez de aderir a um conjunto coerente de princípios. Isso não é meramente um erro técnico; aponta para um problema mais profundo na forma como esses sistemas processam informações. Se um sistema não consegue aplicar consistentemente seus próprios princípios declarados, ele não pode ser confiável para oferecer orientação estável em situações do mundo real onde as pessoas dependem dele para obter conselhos. Os pesquisadores argumentam que, antes de podermos esperar alinhar a inteligência artificial com os valores humanos, devemos primeiro garantir que o sistema seja internamente consistente. Sem essa base de auticonsistência, o objetivo de criar um agente moral confiável permanece fora de alcance. O estudo não afirma que esses modelos sejam incapazes de raciocínio moral, mas sim que seu raciocínio é atualmente instável demais para ser considerado confiável. À medida que essas ferramentas se tornam mais integradas às nossas vidas, compreender suas limitações é crucial para garantir que elas nos sirvam bem sem nos levar pelo caminho errado.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.