Resumen Técnico: Arquitectura de Agentes Multi-Agente Impulsada por Objetivos, Alcance, Herramientas y Benchmarks para Agentes de Automejora Recursiva y Singularidad Personal

Declaración del Proble elma

Los agentes actuales de Modelos de Lenguaje de Gran Escala (LLM) demuestran capacidades en planificación, uso de herramientas y una mejora de sí mismos limitada (p. ej., Self-Refine, Reflexion, Gödel Agent). Sin embargo, estos sistemas carecen de un marco desplegable para la Automejora Recursiva (RSI) que garantice la seguridad, la auditabilidad y la agencia humana. Los enfoques existentes suelen confundir la ejecución de tareas con la modificación del sistema, lo que conlleva el riesgo de una autorreplicación incontrolada, una generalización errónea de objetivos o la creación de sistemas de "caja negra" donde los usuarios se vuelven dependientes en lugar de estar empoderados.

El documento identifica dos brechas vinculadas:

1. Brecha Sistémica: Cómo construir un agente que mejore recursivamente sus propios mecanismos de aprendizaje y actuación manteniendo una gobernanza estricta, capacidad de versionado y de reversión (rollback).
2. Brecha Centrada en el Humano: Cómo asegurar que la mejora del agente se traduzca en una capacidad humana duradera en lugar de simplemente aumentar la autonomía del software o la dependencia del usuario.

El documento postula que un sistema exitoso debe separar la autonomía de la tarea de la mejora meta y definir un objetivo acotado llamado Singularidad Personal: un proceso continuo y dirigido por el usuario donde una red de agentes personalizados ayuda a un individuo a aproximarse a una frontera de capacidad factible, expansiva y definida por el usuario.

Metodología: La Arquitectura Multi-Agente Gobernada

La solución propuesta es una arquitectura multi-agente especializada y gobernada que trata al agente como un proponente no confiable y coloca la autoridad decisiva en un plano de gobernanza externo. El sistema se construye sobre cinco pilares fundamentales:

1. Estado Formal del Agente y Separación de Preocupaciones

Una instancia de agente $A_i^t$ se define mediante una tupla que incluye parámetros del modelo ($\theta$), política de tiempo de ejecución ($\pi$), memoria ($M$), habilidades/herramientas ($S$), pila de objetivos ($G$), permisos ($P$), evidencia ($E$) y metadatos de linaje ($V$).

• Restricciones Inmutables: Los agentes no pueden escribir en componentes protegidos externamente, tales como permisos, políticas de evaluación, registros de auditoría o mecanismos de apagado.
• Arquitectura de Dos Velocidades:
  • Bucle Rápido (Fast Loop): Un ciclo de planificador–ejecutor–verificador para la completitud de tareas.
  • Bucle Lento (Slow Loop): Un ciclo de mejora condicionado por evidencia para memoria, habilidades, políticas y adaptadores de modelos, separado de la ejecución inmediata.

2. Plano de Gobernanza Externo

Implementado bajo una identidad administrativa separada, este plano actúa como el "sistema inmunológico" de la arquitectura. Incluye:

• Un motor de políticas de denegación por defecto con reglas firmadas y versionadas.
• Un gobernador de recursos para límites de cómputo, tiempo y financieros.
• Un evaluador independiente que utiliza tareas ocultas y criterios de éxito protegidos.
• Un controlador de reversión (rollback) y un mecanismo de apagado fuera de banda.
• Promoción con Filtro de Riesgo: Los cambios propuestos se someten a verificaciones estáticas de seguridad, evaluación con datos no utilizados y clasificación de riesgos. Los cambios de alto riesgo (p. ej., expansión de permisos, actualizaciones de pesos) requieren revisión humana; los cambios de bajo riesgo pueden promoverse automáticamente solo si pasan los filtros externos.

3. Especificación Impulsada por Objetivos, Alcance, Herramientas y Benchmarks

Cada agente está definido por un perfil operativo firmado $\Sigma_i = (G_i, Q_i, T_i, B_i, A_i, R_i, M_i, I_i, V_i)$:

• Contratos de Objetivo ($G_i$): Una pila jerárquica ($G_0$ a $G_4$) donde $G_0$ es una constitución de seguridad inmutable. Las capas inferiores (objetivos específicos de la tarea) no pueden invalidar las capas superiores (misión, seguridad).
• Contratos de Alcance ($Q_i$): Límites semánticos y operativos que definen domas, tipos de tareas, entradas/salidas y techos de riesgo. Las tareas fuera de alcance se redirigen a otros agentes o activan la creación de un "agente de nicho".
• Registros de Herramientas ($T_i$): Interfaces versionadas con pruebas deterministas. La arquitectura impone una política de ejecución "Primero la Herramienta" (Tool-First): se prefieren las herramientas verificadas sobre la generación libre de forma.
• Benchmarks ($B_i$): Una suite de cuatro particiones (desarrollo público, validación privada, evaluación final oculta, regresión rotativa) para prevenir el sobreajuste y asegurar la generalización.

4. Linajes Descentralizados y la Fundición de Agentes (Agent Foundry)

• Linaje: Una secuencia firmada de lanzamientos de agentes. El estado "Principal" (Main) es una medida de estabilidad y adopción, no de autoridad.
• Fundición de Agentes (Agent Foundry): Soporta la generación dirigida por el propietario mediante clonación, bifurcación (forking) o recombinación de múltiples padres.
• Reglas de Herencia: Los agentes derivados heredan habilidades y prompts verificados, pero nunca heredan credenciales, memorias privadas o claves de firma. Los permisos se intersectan estrictamente ($P_C \subseteq P_A \cap P_B \cap P_{owner}$).
• Aislamiento: Los agentes se comunican a través de un mediador controlado por el propietario; no pueden acceder directamente a la memoria o herramientas de otros sin autorización explícita.

5. Sistema Operativo de Singularidad Personal (Personal Singularity OS)

Esta capa coordina cuatro clases iniciales de agentes para optimizar tanto la completitud de tareas como el crecimiento humano:

1. Agente de Trabajo Diario: Ejecuta trabajo digital autorizado con interrupción mínima.
2. Agente de Imagen Computacional: Especializado en aprendizaje guiado por la física y reconstrucción científica.
   la
3. Agente de Aprendizaje de Procesos de Trabajo: Convierte trazas verificadas en explicaciones y tutoriales (solo lectura).
4. Agente de Aprendizaje Personal: Optimiza el conocimiento duradero y el desempeño independiente del usuario mediante currículos y evaluación.

El sistema utiliza un Auto-Índice (Niveles 0–5) para controlar los modos de interacción (Explicar, Aprobación de Pasos, Híbrido, Autónomo, Delegado, Programado) sin alterar los permisos estrictos.

Principales Contribuciones

El documento detalla ocho contribuciones específicas al campo de los agentes autónomos:

1. Separación Formal: Distingue entre autonomía de tarea, autom Mejora ordinaria y autom Mejora meta recursiva.
2. Especificación de Especialista Versionada: Un contrato unificado que combina objetivos, alcance, herramientas, benchmarks y políticas de mejora.
3. Enrutador de Alcance: Un mecanismo para asignar tareas a un único agente primario responsable y gestionar el trabajo fuera de alcance mediante traspasos estructurados.
4. Evaluación Dual: Separación de la validación a nivel de herramienta de la evaluación de extremo a extremo del agente, incluyendo particiones de benchmark ocultas.
5. Auto-Índice Controlado por el Propietario: Un mecanismo para alternar estilos de interacción (interactivo vs. autónomo) sin cambiar los permisos subyacentes.
6. Arquitectura de Dos Velocidades: Bucles distintos para la ejecución rápida de tareas y la mejora lenta basada en evidencia.
7. Modelo de Linaje Descentralizado: Un modelo de fundición para la especialización y la recombinación de múltiples padres con procedencia explícita.
8. Sistema Operativo de Singularidad Personal: Un marco que integra agentes de trabajo, imagen, aprendizaje de procesos y aprendizaje personal.

Resultados y Afirmaciones

Distinción Crucial: Este documento es un documento de posición y diseño de sistemas. No reporta un sistema implementado, estudios humanos controlados ni resultados empíricos que demuestren que se haya logrado la autom Mejora recursiva sin restricciones o la singularidad personal.

Las afirmaciones del documento se limitan estrictamente a lo siguiente:

• Testeabilidad: El marco hace que la RSI y la transferencia de capacidad humana sean testeables al restringir experimentos que de otro modo serían difíciles de auditar.
• Invariantes de Seguridad: Propone diez invariantes arquitectónicos (p. ej., "Sin autoridad auto-otorgada", "Promoción basada en riesgo", "Despliegue reversible") que se mapean al Marco de Gestión de Riesgos de IA del NIST, pero añaden ejecución en tiempo de ejecución para sistemas de automodificación.
• Hipótesis: Formula ocho hipótesis testeables (H1–H8), tales como la eficiencia de los bucles de dos velocidades, la reducción de la promoción falsa mediante verificación externa y la mejora del desempeño independiente mediante modos de transferencia de capacidad.
• Modestia: Los autores declaran explícitamente que el término "Singularidad Personal" está acotado; no implica un proceso instantáneo, universal o de capacidad biológica ilimitada, ni es equivalente a la Inteligencia Artificial General (AGI).

Significado

El documento argumenta que el objetivo de diseño para los asistentes de IA avanzados debe incluir tanto la mejora del agente como la mejora de la capacidad humana. Un sistema que se vuelve más capaz mientras hace al usuario menos conocedor o más dependiente no es un asistente personal exitoso.

Al formalizar la separación entre el "proponente" (agente) y el "evaluador/autorizador" (plano de gobernanza), y al definir la "Singularidad Personal" como un movimiento dirigido por el usuario hacia una frontera de capacidad factible, el documento proporciona una hoja de ruta para construir sistemas de RSI que sean auditables, reversibles y controlados por el propietario. Desplaza el enfoque de la "automodificación sin restricciones" hacia la "búsqueda gobernada sobre estados de agentes versionados", asegurando que el crecimiento del software se traduzca en el crecimiento duradero del usuario humano.