Perspective on AI and quantum open-source software

A ciência da informação quântica é um campo em rápido crescimento que busca aproveitar as regras estranhas do mundo subatômico para resolver problemas que são impossíveis para os computadores de hoje. Esta ciência depende fortemente de software para construir circuitos, executar simulações e controlar o delicado hardware que abriga os bits quânticos. Durante anos, este software foi construído e compartilhado abertamente por uma comunidade global de pesquisadores, permitindo que qualquer pessoa inspecione, melhore e construa sobre o trabalho realizado. Recentemente, a inteligência artificial começou a remodelar este cenário. Estas ferramentas inteligentes podem escrever código, sugerir novas formas de calibrar máquinas e até ajudar a descobrir novos métodos para corrigir erros. No entanto, assim como um novo motor precisa de um novo conjunto de verificações de segurança, a introdução da inteligência artificial neste ambiente de alto risco levantou uma questão crítica: como sabemos que o código que estas ferramentas escrevem é realmente correto, e quem é responsável por verificá-lo?

Uma equipe de pesquisadores da Unitary Foundation e do Centre for Quantum Technologies analisou de perto esta realidade emergente. Eles examinaram como a inteligência artificial está sendo usada atualmente para escrever e manter software quântico e analisaram o fardo que isso coloca sobre os voluntários humanos que mantêm esses projetos funcionando. Ao estudar repositórios públicos de código, registros de cinco eventos anuais de hacking e pesquisar mais de 1.600 membros da comunidade, os pesquisadores descobriram que, embora a inteligência artificial seja uma ajudante poderosa, ela também está criando um gargalo oculto. O estudo revela que, sem novas regras estritas de verificação, as próprias pessoas que mantêm o software quântico seguro estão sendo sobrecarregadas pela necessidade de verificar trabalhos que elas não escreveram, uma situação que ameaça desacelerar o progresso científico e erodir a confiança necessária para a colaboração aberta.

Os pesquisadores começaram mapeando exatamente onde a inteligência artificial está sendo usada na pilha de software quântico. Eles descobriram que estas ferramentas já estão ajudando em tudo, desde a escrita de código básico e otimização de como os circuitos são compilados até o design de pulsos de controle para o hardware e até mesmo a descoberta de novas formas de corrigir erros. Em alguns casos, agentes de inteligência artificial estão trabalhando em loops, propondo soluções, testando-as e refinando sua abordagem para alcançar um objetivo científico. Esta abordagem de "auto-pesquisa" promete muito para acelerar a descoberta. No entanto, a equipe observou uma lacuna significativa: enquanto as ferramentas estão ficando melhores em gerar ideias e código, os métodos para verificar se esses resultados são cientificamente válidos não acompanharam esse ritmo. Para o software quântico, a verificação é excepcionalmente difícil porque verificar a resposta muitas vezes exige simular todo o sistema, uma tarefa que se torna impossível para computadores clássicos à medida que o sistema cresce além de algumas dezenas de partículas.

Para entender o impacto no mundo real desta lacuna, a equipe analisou os dados. Eles analisaram milhares de arquivos de repositórios públicos e descobriram que a comunidade de software quântico é muito menor e menos estável do que as comunidades de software convencionais. Enquanto bibliotecas convencionais são baixadas milhões de vezes por mês, as bibliotecas quânticas recebem muito menos downloads, e o código que as utiliza é frequentemente menos visível. Mais importante ainda, eles descobriram que os testes usados para verificar este código são quase sempre executados em versões minúsculas e simplificadas dos problemas. Nas suítes de teste dos principais frameworks quânticos, o número mediano de partículas usado em um teste é de apenas duas, e quase todos os testes envolvem vinte ou menos partículas. Isso significa que as redes de segurança atualmente em vigor são projetadas para problemas pequenos e gerenciáveis e podem falhar ao detectar erros que só aparecem quando o sistema escala para os tamanhos necessários para o trabalho científico real.

O elemento humano desta história é talvez o mais urgente. Os pesquisadores pesquisaram a comunidade e descobriram que, quando a inteligência artificial gera código, o fardo de verificá-lo recai pesadamente sobre os mantenedores do projeto. Em uma pesquisa recente, 79 por cento dos respondentes disseram que dependiam de revisão manual para verificar o código escrito por inteligência artificial, enquanto apenas 60 por cento usavam testes automatizados. Essa dependência dos olhos humanos está criando uma mudança na forma como os eventos comunitários são realizados. Organizadores de hackathons anuais relataram que o tempo gasto mentorando novos colaboradores está sendo substituído pelo tempo gasto revisando submissões que podem ter sido geradas por inteligência artificial. Um mantenedor descreveu a experiência como conversar com uma ferramenta de inteligência artificial através da interface, em vez de guiar um aprendiz humano. Os dados sugerem que, embora a inteligência artificial possa acelerar a conclusão de tarefas, ela não ajuda necessariamente os novos colaboradores a adquirir as habilidades necessárias para se tornarem futuros mantenedores, e corre o risco de transformar o processo de revisão em um gargalo que retarda todo o campo.

O artigo argumenta que a solução reside no estabelecimento de novos padrões para como as contribuições são feitas e verificadas. Os pesquisadores propõem que qualquer pessoa que submeta código, seja escrito por um humano ou por uma inteligência artificial, deve fornecer evidências reproduzíveis de que suas alterações funcionam. Isso significa que, em vez de apenas submeter uma correção, os colaboradores devem incluir os testes e dados específicos que provam que a correção é correta. Eles sugerem que os projetos utilizem ferramentas especializadas que possam verificar a lógica de um circuito sem a necessidade de simular o sistema inteiro, e que essas ferramentas façam parte do processo de revisão padrão. A equipe também recomenda que os projetos criem limites claros para agentes de inteligência artificial, garantindo que eles não possam gastar dinheiro em hardware ou instalar software perigoso sem aprovação humana. Ao tornar a verificação uma parte rotineira do fluxo de trabalho, a comunidade pode garantir que os resultados produzidos pela inteligência artificial sejam confiáveis e possam ser confiados por outros cientistas.

Em última análise, este trabalho trata de preservar a integridade da descoberta científica em uma era de assistência automatizada. Os pesquisadores mantêm um repositório companheiro de código aberto para ajudar os projetos a adotarem essas novas práticas, fornecendo modelos e ferramentas para facilitar a verificação. Eles vislumbram um futuro onde as contribuições de software sejam tratadas com o mesmo rigor que artigos científicos, onde a evidência que sustenta uma afirmação é tão importante quanto a própria afirmação. Ao combinar a velocidade da inteligência artificial com o rigor da verificação independente, a comunidade quântica pode continuar a expandir os limites do que é possível sem perder a confiança e a colaboração que fazem a ciência aberta funcionar. O estudo conclui que, embora a inteligência artificial seja uma ferramenta poderosa para a exploração, é o compromisso humano com a verificação que determinará se as descobertas que ela ajuda a fazer são reais.