Reading Why: Born-Measured Attention with Exact Word Evidence on Light and Qubits

Quando um programa de computador lê uma frase e decide o seu significado, muitas vezes temos que adivinhar por que ele fez essa escolha. Podemos observar os números que o programa usa para ponderar diferentes palavras, mas esses números são apenas estimativas; eles não nos dizem exatamente quais palavras causaram a resposta final. Este é um problema para a inteligência artificial, especialmente quando precisamos confiar na decisão de uma máquina. Cientistas há muito tempo tentam construir modelos que não sejam apenas precisos, mas também transparentes, para que possamos ver o caminho exato das palavras na tela até a conclusão que a máquina alcança. O desafio é que o tipo mais comum de modelo de linguagem depende de um truque matemático para suavizar suas escolhas, um truque que torna muito difícil rastrear a influência de qualquer palavra individual. Se quisermos saber por que uma máquina acha que uma história é verdadeira ou falsa, precisamos de uma maneira de medir a contribuição de cada palavra sem perder o fio da meada em uma nuvem de aproximações.

Uma equipe de pesquisadores construiu um novo tipo de modelo de linguagem que resolve este problema mudando a forma como a máquina pensa. Em vez de usar os truques matemáticos padrão que escondem o raciocínio, eles construíram um sistema onde cada etapa do processo de pensamento é uma medição direta de luz ou partículas quânticas. Neste novo design, a máquina não adivinha o quanto uma palavra importa; ela a mede. Os pesquisadores substituíram os passos de suavização usuais por uma regra física que eleva ao quadrado a força de um sinal, uma regra que é conhecida há um século na física. Ao fazer isso, criaram um modelo onde a resposta final é uma soma precisa das contribuições de cada uma das palavras. Quando testaram este sistema em uma tarefa que pergunta se uma frase decorre de outra, a máquina teve o mesmo desempenho dos melhores modelos padrão, mas com uma diferença crucial: ela podia dizer exatamente quais palavras decidiram o resultado, e essas explicações somavam-se perfeitamente à pontuação final.

Os pesquisadores testaram sua criação em um conjunto de dados de quase dez mil pares de frases, onde anotadores humanos já haviam destacado as palavras específicas que faziam a diferença entre uma frase ser verdadeira, falsa ou não relacionada. Eles compararam seu novo modelo contra um modelo padrão que utiliza os truques de suavização usuais. Ambos os modelos obtiveram a resposta correta cerca de 77 por cento das vezes, mostrando que o novo design não sacrificou a precisão pela clareza. No entanto, quando os pesquisadores pediram aos modelos que explicassem seus motivos, a diferença foi gritante. No modelo padrão, as palavras que ele alegava serem mais importantes nem sempre alteravam a resposta quando removidas. No novo modelo, remover a palavra que o sistema disse ser a mais importante mudou a resposta em 45 por cento dos casos, um sinal muito mais forte de que a explicação estava realmente impulsionando a decisão. Além disso, as palavras que o novo modelo apontou coincidiram mais de perto com as palavras que os humanos haviam destacado do que o modelo padrão.

O que torna este trabalho único é que a explicação não é um pensamento posterior adicionado depois; ela é construída na própria estrutura da máquina. Os pesquisadores projetaram o modelo para que a matemática que descreve a resposta seja um polinômio simples, um tipo de equação onde as variáveis são os sinais das palavras. Por causa disso, eles podem calcular a contribuição exata de cada palavra somando pequenas partes do cálculo, um processo que não deixa margem para erro. Eles verificaram isso executando o modelo em um computador quântico, uma máquina que utiliza as propriedades estranhas de partículas subatômicas para processar informações. Eles não executaram o modelo inteiro no computador quântico, o que seria muito difícil com a tecnologia atual, mas executaram as partes que medem como as palavras se relacionam entre si. O computador quântico deu as mesmas respostas que o modelo matemático perfeito e, quando removeram uma palavra-chave, a máquina quântica mudou de ideia exatamente como o modelo perfeito fez. Isso provou que o design funciona não apenas na teoria, mas em hardware real.

Os pesquisadores também mostraram que este mesmo conjunto de números poderia ser usado para construir uma máquina que funcione com luz. Eles mapearam os pesos do modelo em um design que poderia ser construído com espelhos e lasers, onde as palavras são representadas por feixes de luz e as relações entre elas são medidas por como as ondas de luz interferem umas nas outras. Embora tenham simulado esta versão óptica em um computador, a matemática mostrou que funcionaria exatamente da mesma forma que a versão quântica. Esta possibilidade dupla sugere que o modelo não está preso a um tipo específico de hardware; é um design que pode rodar em luz, em partículas quânticas ou em computadores clássicos, mantendo sempre a mesma explicação clara e exata para suas respostas.

Uma das descobertas mais impressionantes foi que a maneira padrão de olhar para esses modelos, verificando para quais palavras a máquina prestava mais atenção, era enganosa. No novo modelo, as palavras que receberam mais atenção nem sempre explicavam a resposta tão bem quanto as palavras que o modelo identificou como evidência. De fato, remover a palavra com a maior pontuação de atenção mudou a resposta com menos frequência do que remover a palavra com a maior pontuação de evidência. Isso sugere que os pesos de atenção, que são frequentemente usados para explicar como um modelo funciona, podem parecer o raciocínio de um humano, mas falham em realmente impulsionar a decisão. A evidência do novo modelo, por outro lado, era um acerto de contas verdadeiro.

O trabalho não afirma ter resolvido todos os problemas da inteligência artificial, e os pesquisadores são cuidadosos ao notar os limites de seus experimentos atuais. Os testes do computador quântico foram feitos em apenas duas frases curtas, e a versão óptica foi apenas simulada, não construída. O sistema também requer muitas medições para funcionar em um computador quântico, que atualmente é lento e caro. No entanto, o estudo prova que é possível construir um modelo de linguagem que seja ao mesmo tempo preciso e perfeitamente explicável. Ao substituir os truques matemáticos ocultos por medições físicas diretas, os pesquisadores criaram uma máquina que não apenas dá uma resposta, mas mostra seu trabalho de uma forma que é exata, verificável e compreensível. Isso abre um caminho para uma inteligência artificial em que podemos confiar não porque seja uma caixa preta que funciona, mas porque podemos ver exatamente como ela funciona.