Architecture-Dependent Causal Transfer of Activation States Across Large Language Models
Este artigo demonstra que, embora os estados de ativação interna possam ser projetados entre diferentes arquiteturas de grandes modelos de linguagem com um alinhamento representacional mensurável, a transferência causal bem-sucedida de ponta a ponta desses estados durante a geração é estritamente dependente da arquitetura, funcionando de forma confiável apenas para pares específicos de decodificadores (decoder-only), em vez de servir como um mecanismo universal.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine duas pessoas tentando conversar uma com a outra, mas sendo forçadas a falar através de um tradutor que fala uma terceira língua. A primeira pessoa sussurra um pensamento, o tradutor o escreve, a segunda pessoa lê e, então, o tradutor escreve uma resposta. Esse processo leva tempo, custa dinheiro e corre o risco de perder o significado original na tradução. Hoje, sistemas de inteligência artificial comunicam-se exatamente desta forma. Quando um programa de computador precisa enviar informações para outro, ele converte seus pensamentos internos em texto legível por humanos, envia esse texto, e o programa receptor lê o texto e o converte de volta em seus próprios pensamentos internos. Esta camada intermediária de texto é a única maneira pela qual eles conhecem atualmente como conversar. Mas e se eles pudessem pular o texto inteiramente? E se uma máquina pudesse simplesmente entregar seu estado interno diretamente a outra, como passar um bilhete sem nunca escrevê-lo? Esta é a questão que pesquisadores se propuseram a responder: diferentes tipos de inteligência artificial, construídos por diferentes empresas e treinados em diferentes dados, conseguem entender os sinais internos uns dos outros sem precisar traduzi-los em palavras primeiro?
Para entender o experimento, ajuda saber que esses programas, conhecidos como grandes modelos de linguagem, não pensam em palavras da mesma forma que os humanos. Em vez disso, eles processam informações como vastos e mutáveis padrões de números chamados estados de ativação. Você pode pensar nesses padrões como o disparo elétrico específico de um céreimo em um único momento. Quando um modelo lê uma pergunta, um padrão único de atividade se acende dentro dele. O pesquisador queria saber se o padrão para um conceito específico em um modelo era semelhante o suficiente ao padrão para o mesmo conceito em um modelo diferente para que uma ponte pudesse ser construída entre eles. Se os padrões fossem suficientemente semelhantes, um computador poderia aprender a traduzir o sinal interno do primeiro modelo diretamente para o sinal interno do segundo, contornando a necessidade de texto inteiramente.
Um pesquisador decidiu testar essa ideia usando quatro modelos diferentes de inteligência artificial. Esses modelos foram escolhidos cuidadosamente para representar diferentes famílias de tecnologia e diferentes históricos de treinamento. Três deles foram construídos para gerar texto palavra por palavra, enquanto o quarto foi construído para compreender o texto de ambas as direções simultaneamente. O pesquisador primeiro verificou se os padrões internos desses modelos eram sequer semelhantes o suficiente para serem comparados. Eles observaram como os modelos reagiam a pares de conceitos relacionados, como palavras que são sinônimos ou palavras que são frequentemente encontradas juntas em livros. Eles descobriram que, para os três modelos construídos da mesma forma, os padrões internos eram, de fato, semelhantes. No entanto, o modelo construído de forma diferente não mostrou tal semelhança. Isso sugeriu que a maneira como um modelo é construído importa mais do que quem o construiu ou em quais dados ele foi treinado.
Em seguida, o pesquisador tentou construir uma ponte. Eles treinaram um programa de computador pequeno e simples para atuar como um tradutor, aprendendo a converter o sinal interno de um modelo no sinal interno de outro. Eles testaram essa ponte mostrando-lhe uma pergunta, convertendo a reação do primeiro modelo a essa pergunta e vendo se o segundo modelo conseguiria reconhecê-la como a resposta correã entre uma lista de vinte possibilidades. Para os três modelos que foram construídos de forma semelhante, essa ponte funcionou surpreendentemente bem. O segundo modelo identificou corretamente a origem do sinal sobre a questão cerca de metade das vezes, o que é muito melhor do que o acaso. Mas para o modelo construído de forma diferente, a ponte falhou completamente; o segundo modelo não conseguiu reconhecer o sinal de forma alguma. Isso confirmou que, embora uma camada de tradução seja possível, ela só funciona entre modelos que compartilham uma família arquitetônica específica.
O teste final e mais difícil foi ver se essa tradução poderia realmente mudar o comportamento do modelo receptor em tempo real. O pesquisador pegou o sinal traduzido do primeiro modelo e o injetou diretamente no segundo modelo enquanto este estava no meio da escrita de uma nova resposta. Eles queriam ver se essa injeção direcionaria a saída do segundo modelo em direção ao tópico da pergunta original. Os resultados foram mistos e revelaram uma limitação crucial. Quando tentaram isso entre dois modelos específicos, a injeção funcionou. A saída do segundo modelo mudou visivelmente em direção ao tópico da pergunta do primeiro modelo, provando que o sinal fora recebido e teve um efeito causal. No entanto, quando tentaram o mesmo truque com um terceiro modelo, falhou completamente. Mesmo que os padrões internos parecessem semelhantes no papel, a injeção do sinal não alterou a saída de forma alguma.
O pesquisador concluiu que, embora seja possível transferir o portador físico de um pensamento — o padrão específico de atividade elétrica — de uma máquina para outra, isso não significa que as máquinas estejam compartilhando um entendimento profundo ou um significado comum. Nos casos de sucesso, o segundo modelo não necessariamente deu a resposta correta à pergunta original. Em vez disso, ele produziu um texto tematicamente relacionado, como falar sobre triângulos quando a pergunta original era sobre quadrados. O sinal foi transferido, mas o significado não foi perfeitamente preservado. O estudo mostra que a comunicação direta entre inteligências artificiais é tecnicamente possível, mas não é uma linguagem universal. Ela depende inteiramente do design específico das máquinas envolvidas. Se os designs não coincidirem, o sinal não pode ser compreendido e a transferência falha. Isso significa que, no futuro, se quisermos que diferentes sistemas de IA falem diretamente entre si, não podemos assumir que eles simplesmente funcionarão; devemos garantir que sejam construídos de maneiras compatíveis, ou precisaremos construir um tradutor específico para cada par de sistemas que quisermos conectar.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.