Collective Intelligence with Foundation Models
Este artigo propõe um framework multiagente que aproveita modelos de fundação onde um conjunto heterogêneo de agentes especializados, em vez de agentes homogêneos redundantes, aumenta significativamente a precisão do raciocínio, a detecção de erros e a confiabilidade da solução por meio de elaboração colaborativa, crítica e síntese de consenso.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que você esteja tentando resolver os enigmas mais difíceis do mundo, desde cálculo até química. Você poderia pedir a um único robô superinteligente para fazer isso sozinho, ou poderia reunir uma equipe inteira de robôs para decifrá-los juntos. Este artigo é sobre testar qual abordagem realmente funciona melhor.
Os pesquisadores montaram um experimento de "equipe de robôs" para ver se fazer com que múltiplos modelos de IA conversassem entre si os tornava mais inteligentes. Eles não apenas jogaram robôs aleatórios juntos, no entanto. Eles construíram uma linha de montagem específica com quatro funções distintas:
- Os Solucionadores: Três robôs diferentes que tentam resolver o problema por conta própria, criando seus próprios rascunhos.
- O Crítico: Um quarto robô cujo único trabalho é ler esses rascunhos, encontrar os erros e sugerir correções.
- O Agregador: Um quinto robô que pega todos os rascunhos corrigidos, mistura-os e escreve a resposta final, acordada.
- O Marcador: Um sistema que verifica não apenas se a resposta final está correta, mas se cada etapa do processo de pensamento estava correta.
Eles testaram essa equipe em uma enorme biblioteca de problemas cobrindo oito campos diferentes, como física, biologia, economia e matemática, variando de fácil a muito difícil.
Aqui está a grande surpresa que encontraram: não se trata de ter uma equipe grande; trata-se de ter uma equipe diversa.
Quando os pesquisadores tentaram a equipe com todos os mesmos tipos de robô (usando exatamente o mesmo modelo para o solucionador, o crítico e o agregador), os resultados foram um pouco estranhos. A equipe acertou a resposta final com mais frequência do que um único robô trabalhando sozinho, mas a maneira como chegaram lá foi, na verdade, pior. Era como um grupo de gêmeos idênticos discutindo entre si; eles poderiam acidentalmente cancelar seus erros e chegar à resposta certa, mas seu raciocínio estava cheio de lacunas. De fato, quando usaram o mesmo modelo para todos, a qualidade do raciocínio passo a passo caiu para uma pontuação de cerca de 0,27 ou 0,28, que foi inferior à de um único robô trabalhando sozinho (que pontuou 0,50).
No entanto, quando trocaram por tipos diferentes de robôs — usando três modelos distintos para os solucionadores e outros dois modelos especializados para o crítico e o agregador — a mágica aconteceu. Esta equipe "heterogênea" não apenas acertou as respostas finais; eles acertaram o raciocínio também. Sua precisão passo a passo saltou para 0,64. Isso é uma melhoria de 2,3 vezes em relação à equipe de robôs idênticos!
O artigo sugere que isso acontece porque diferentes modelos de IA têm diferentes "pontos cegos". Se você usar o mesmo modelo para tudo, todos perderão os mesmos erros. Mas quando você os mistura, a fraqueza de um robô torna-se a força de outro. O crítico especializado pode detectar erros que os solucionadores jamais veriam porque foram treinados de forma diferente.
Os pesquisadores também testaram outras ideias para ver o que importava mais:
- Apenas ter uma estrutura de equipe: Mesmo que todos sejam o mesmo robô, ter apenas um crítico e um agregador ajuda um pouco, elevando a pontuação de 0,52 (um robô sozinho) para 0,60.
- Ter mais do mesmo robô: Se você apenas usar três cópias do exato mesmo robô como solucionadores em vez de um, isso mal ajuda, elevando a pontuação apenas para 0,61.
- O verdadeiro vencedor: O grande salto para 0,63 (e o salto massivo na qualidade do raciocínio) só aconteceu quando eles usaram modelos diferentes para diferentes tarefas.
Os pesquisadores mediram esses resultados através de milhares de problemas e descobriram que essa abordagem de "equipe mista" funcionou consistentemente bem, fosse para problemas fáceis, médios ou difíceis. Na verdade, a equipe teve um desempenho surpreendentemente bom nos problemas mais difíceis, sugerindo que desafios complexos dão, na verdade, mais material para a equipe diversificada trabalhar.
Portanto, a principal lição é que, para a IA ser verdadeiramente confiável e explicável, você não pode apenas clonar o robô mais inteligente que possui e colocá-lo em todos os assentos. Você precisa de um comitê de diferentes tipos de especialistas que possam desafiar o pensamento uns dos outros. Como observam os autores, essa abordagem ajuda a criar uma IA que não apenas dá a resposta certa por sorte, mas que pode mostrar exatamente como ela a descobriu, passo a passo.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.