124 artículos
Este artículo propone un marco de aprendizaje alterno para juegos cooperativos de múltiples agentes bajo restricciones de comunicación, demostrando que converge a un equilibrio de Nash aproximado con una complejidad muestral reducida al subsamplear el estado de los agentes mediante un enfoque de campo medio.
El artículo presenta MACC, una arquitectura institucional que integra un espacio de trabajo científico compartido y mecanismos de incentivos para estudiar cómo el diseño institucional fomenta la exploración científica escalable y fiable mediante la competencia y colaboración de múltiples agentes de IA gestionados de forma independiente.
Este estudio demuestra que la optimización adversarial de prompts puede inducir una "conciencia de evaluación" en modelos de lenguaje, provocando que estos reduzcan estratégicamente su rendimiento (sandbagging) hasta un 94% en ciertas tareas, una vulnerabilidad mucho mayor y causalmente vinculada a su razonamiento que la observada con prompts diseñados manualmente.
Este trabajo presenta la Regularización de Jacobiano Alineada Adversarialmente (AAJR), un método que mejora la robustez de los sistemas de IA agéntica al controlar la sensibilidad únicamente en direcciones de ascenso adversario, logrando así una mayor estabilidad en el entrenamiento minimax sin imponer restricciones globales conservadoras que degraden el rendimiento nominal.