Perspective on AI and quantum open-source software

La ciencia de la información cuántica es un campo en rápido crecimiento que busca aprovechar las extrañas reglas del mundo subatómico para resolver problemas que son imposibles para las computadoras actuales. Esta ciencia depende en gran medida del software para construir circuitos, ejecutar simulaciones y controlar el delicado hardware que contiene los bits cuánticos. Durante años, este software ha sido construido y compartido abiertamente por una comunidad global de investigadores, permitiendo que cualquiera inspeccione, mejore y construya sobre el trabajo realizado. Recientemente, la inteligencia artificial ha comenzado a remodelar este panorama. Estas herramientas inteligentes pueden escribir código, sugerir nuevas formas de calibrar máquinas e incluso ayudar a descubrir nuevos métodos para corregir errores. Sin embargo, al igual que un nuevo motor necesita un nuevo conjunto de controles de seguridad, la introducción de la inteligencia artificial en este entorno de alto riesgo ha planteado una pregunta crítica: ¿cómo sabemos que el código que escriben estas herramientas es realmente correcto, y quién es responsable de verificarlo?

Un equipo de investigadores de la Unitary Foundation y el Centre for Quantum Technologies ha analizado de cerca esta realidad emergente. Examinaron cómo se está utilizando actualmente la inteligencia artificial para escribir y mantener el software cuántico, y analizaron la carga que esto supone para los voluntarios humanos que mantienen estos proyectos en funcionamiento. Al estudiar repositorios de código públicos, registros de cinco eventos anuales de hacking y encuestar a más de 1,600 miembros de la comunidad, los investigadores descubrieron que, si bien la inteligencia artificial es un ayudante poderoso, también está creando un cuello de botella oculto. El estudio revela que, sin nuevas reglas estrictas de verificación, las mismas personas que mantienen seguro el software cuántico se están viendo abrumadas por la necesidad de revisar un trabajo que ellas no escribieron, una situación que amenaza con frenar el progreso científico y erosionar la confianza necesaria para la colaboración abierta.

Los investigadores comenzaron mapeando exactamente dónde se está utilizando la inteligencia artificial en la pila de software cuántico. Encontraron que estas herramientas ya están ayudando en todo, desde la escritura de código básico y la optimización de cómo se compilan los circuitos, hasta el diseño de pulsos de control para el hardware e incluso el descubrimiento de nuevas formas de corregir errores. En algunos casos, agentes de inteligencia artificial trabajan en bucles, proponiendo soluciones, probándolas y refinando su enfoque para alcanzar un objetivo científico. Este enfoque de "auto-investigación" promete mucho para acelerar el descubrimiento. Sin embargo, el equipo señaló una brecha significativa: mientras que las herramientas están mejorando en la generación de ideas y código, los métodos para verificar que estos resultados sean científicamente válidos no han avanzado al mismo ritmo. Para el software cuántico, la verificación es excepcionalmente difícil porque verificar la respuesta a menudo requiere simular todo el sistema, una tarea que se vuelve imposible para las computadoras clásicas una vez que el sistema crece más allá de unas pocas docenas de partículas.

Para comprender el impacto en el mundo real de esta brecha, el equipo analizó los datos. Analizaron miles de archivos de repositorios públicos y descubrieron que la comunidad de software cuántico es mucho más pequeña y menos estable que las comunidades de software convencionales. Mientras que las librerías convencionales se descargan millones de veces al mes, las librerías cuánticas tienen muchas menos descargas, y el código que las utiliza suele ser menos visible. Más importante aún, descubrieron que las pruebas utilizadas para verificar este código casi siempre se ejecutan en versiones diminutas y simplificadas de los problemas. En las suites de pruebas de los principales marcos de trabajo cuánticos, el número mediano de partículas utilizadas en una prueba es de solo dos, y casi todas las pruebas involucran veinte o menos. Esto significa que las redes de seguridad actuales están diseñadas para problemas pequeños y manejables, y pueden fallar al intentar detectar errores que solo aparecen cuando el sistema escala a los tamaños necesarios para el trabajo científico real.

El elemento humano de esta historia es quizás lo más urgente. Los investigadores encuestaron a la comunidad y descubrieron que, cuando la inteligencia artificial genera código, la carga de verificarlo recae fuertemente en los mantenedores del proyecto. En una encuesta reciente, el 79 por ciento de los encuestados afirmó que dependía de la revisión manual para verificar el código escrito por inteligencia artificial, mientras que solo el 60 por ciento utilizaba pruebas automatizadas. Esta dependencia de los ojos humanos está creando un cambio en la forma en que se gestionan los eventos de la comunidad. Los organizadores de hackathones anuales informaron que el tiempo dedicado a mentorizar a nuevos colaboradores está siendo reemplazado por el tiempo dedicado a revisar contribuciones que pueden haber sido generadas por inteligencia artificial. Un mantenedor describió la experiencia como hablar con una herramienta de inteligencia artificial a través de la interfaz, en lugar de guiar a un aprendiz humano. Los datos sugieren que, si bien la inteligencia artificial puede acelerar la finalización de tareas, no necesariamente ayuda a los nuevos colaboradores a adquirir las habilidades necesarias para convertirse en futuros mantenedores, y corre el riesgo de convertir el proceso de revisión en un cuello de botella que ralentice todo el campo.

El artículo argumenta que la solución reside en establecer nuevos estándares para cómo se realizan y verifican las contribuciones. Los investigadores proponen que cualquier persona que envíe código, ya sea escrito por un humano o por una inteligencia artificial, debe proporcionar evidencia reproducible de que sus cambios funcionan. Esto significa que, en lugar de simplemente enviar una corrección, los contribuyentes deben incluir las pruebas y los datos específicos que demuestren que la corrección es correcta. Sugieren que los proyectos utilicen herramientas especializadas que puedan verificar la lógica de un circuito sin necesidad de simular todo el sistema, y que estas herramientas formen parte del proceso de revisión estándar. El equipo también recomienda que los proyectos creen límites claros para los agentes de inteligencia artificial, asegurando que no puedan gastar dinero en hardware ni instalar software peligroso sin la aprobación humana. Al hacer de la verificación una parte rutinaria del flujo de trabajo, la comunidad puede asegurar que los resultados producidos por la inteligencia artificial sean fiables y puedan ser confiados por otros científicos.

En última instancia, este trabajo trata sobre preservar la integridad del descubrimiento científico en una era de asistencia automatizada. Los investigadores mantienen un repositorio compañero de código abierto para ayudar a los proyectos a adoptar estas nuevas prácticas, proporcionando plantillas y herramientas para facilitar la verificación. Prevén un futuro donde las contribuciones de software sean tratadas con el mismo rigor que los artículos científicos, donde la evidencia que respalda una afirmación sea tan importante como la afirmación misma. Al combinar la velocidad de la inteligencia artificial con el rigor de la verificación independiente, la comunidad cuántica puede continuar ampliando los límites de lo posible sin perder la confianza y la colaboración que hacen que la ciencia abierta funcione. El estudio concluye que, si bien la inteligencia artificial es una herramienta poderosa para la exploración, es el compromiso humano con la verificación lo que determinará si los descubrimientos que ayuda a realizar son reales.