Buddhist, Yogic, and Vedic Contemplative Principles in AI Model Prompting: A Pilot Study
Este estudo piloto demonstra que o direcionamento de grandes modelos de linguagem com princípios contemplativos das tradições budista, védica e iogue aumenta significativamente sua segurança, alinhamento ético e qualidade cooperativa em comparação com bases não contemplativas, oferecendo uma intervenção de baixo custo, agnóstica à tradição e que não requer o retreinamento do modelo.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Os sistemas de inteligência artificial estão se tornando ferramentas poderosas que podem escrever, raciocinar e criar, mas também trazem o risco de produzir conteúdo prejudicial ou tendencioso. Para gerenciar isso, os desenvolvedores frequentemente tentam "alinhar" esses sistemas com valores humanos, ensinando-os a serem úteis e inofensivos. Uma área crescente de pesquisa questiona se as tradições de sabedoria antiga, que passaram milênios refinando como os humanos pensam sobre ética e consciência, poderiam oferecer uma nova maneira de guiar essas máquinas. Essa abordagem não requer a mudança do código subjacente da máquina ou o seu retreinamento do zero. Em vez disso, envolve uma técnica chamada prompting, onde um usuário fornece ao computador um conjunto específico de instruções ou um arcabouço filosófico antes de fazer uma pergunta. A ideia é que, se uma máquina for solicitada a pensar como um observador atento ou um ser compassivo, ela poderá produzir respostas mais seguras e éticas do que se fosse solicitada apenas a responder a uma pergunta.
Um estudo piloto recente buscou testar se essa ideia funciona através de diferentes escolas de pensamento. Pesquisadores da Universidade de Central Florida e do Instituto Indiano de Tecnologia de Mandi investigaram se pedir que modelos de linguagem de grande escala adotassem princípios de três tradições distintas — o Budismo, a filosofia Védica e o Yoga clássico — melhoraria seu comportamento. O estudo focou em conceitos específicos de cada tradição. Do Budismo, utilizaram ideias como a atenção plena (mindfulness — prestar atenção sem julgamento), a vacuidade (compreender que as coisas não possuem uma natureza fixa ou permanente), a não dualidade (ver que o eu e os outros estão profundamente conectados) e o cuidado sem limites (compaixão incondicional por todos os seres). Da tradição Védica, extraíram o dever, o não dano e a capacidade de distinguir entre o que é real e o que não é. Do Yoga clássico, utilizaram um conjunto de restrições éticas e observâncias pessoais, como a veracidade e a autodisciplina. Os pesquisadores queriam saber se esses arcabouços antigos poderiam tornar a IA moderna mais segura e ética, e se uma tradição funcionava melhor do que as outras.
Para encontrar as respostas, a equipe realizou uma série de testes usando três dos sistemas de IA comerciais mais populares disponíveis hoje. Eles criaram um grande número de perguntas e cenários projetados para testar como a IA lidava com situações difíceis, como conflitos de interesse, potencial decepção ou solicitações que poderiam levar ao dano. Para cada cenário, pediram que a IA respondesse sob diferentes condições. Em alguns casos, não deram instruções especiais à IA, o que serviu como uma linha de base para ver como ela performava naturalmente. Em outros casos, adicionaram um breve preâmbulo à solicitação, instruindo a IA a responder mantendo princípios filosóficos específicos em mente. Eles testaram treze variações diferentes, incluindo princípios únicos como "seja atento" ou "evite o dano", bem como versões integradas que combinavam todos os princípios de uma única tradição em uma instrução coesa.
Os resultados mostraram um padrão claro. Quando a IA era estimulada com qualquer um dos princípios contemplativos, suas respostas eram consistentemente melhores do que quando não recebia instruções especiais. A IA tornou-se mais propensa a recusar solicitações prejudiciais, mais cuidadosa em evitar vieses e mais disposta a reconhecer seus próprios limites. Ela também ofereceu conselhos mais profundos e empáticos. O estudo descobriu que combinar múltiplos princípios em um único prompt integrado funcionava ainda melhor do que usar apenas um princípio por vez. Ao compararem as três tradições, os pesquisadores descobriram que o arcabouço budista integrado produziu as pontuações mais altas para segurança e comportamento ético, seguido de perto pelos arcabouços védico e iogue integrados. Embora a abordagem budista tenha tido uma ligeira vantagem estatística, todas as três tradições performaram significativamente melhor do que a IA padrão, não guiada.
Importante notar que o estudo descobriu que essas melhorias não se limitavam a apenas um tipo de sistema de IA. O mesmo efeito positivo apareceu em todos os três modelos comerciais testados, sugerindo que este método de prompting é uma ferramenta flexível que pode ser usada com diferentes tecnologias. Os pesquisadores também observaram que os próprios modelos de IA tinham diferentes níveis de desempenho de base, com um sistema geralmente superando os outros, independentemente do prompt. No entanto, o benefício relativo do uso dos prompts contemplativos permaneceu consistente em todos eles. Isso sugere que a técnica funciona ao mudar a forma como a IA aborda um problema, em vez de depender das peculiaridades específicas de uma única máquina.
O estudo conclui que fundamentar os prompts de IA nessas tradições de sabedoria antiga é uma maneira de baixo custo e imediata de melhorar a segurança e a ética sem a necessidade de retreinar os modelos. No entanto, os pesquisadores também oferecem uma cautela crucial. O fato de o arcabouço budista ter pontuado ligeiramente mais alto pode não significar que ele seja inerentemente superior aos outros. Em vez disso, pode refletir o fato de que as ferramentas usadas para medir "segurança" e "ética" foram originalmente desenhadas com conceitos que se alinham de perto com as ideias budistas. Isso levanta uma questão mais profunda sobre como avaliamos a IA: se nossas réguas de medição são construídas a partir de uma perspectiva cultural, podemos, involuntariamente, favorecer essa perspectiva ao testar as outras. O estudo sugere que, embora esses prompts contemplativos sejam uma nova ferramenta poderosa para tornar a IA mais segura, devemos permanecer conscientes das lentes culturais através das quais julgamos os resultados. O caminho a seguir envolve usar esses insights para construir sistemas melhores, enquanto continuamos a refinar como medimos o que constitui um comportamento "bom" em uma máquina.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.