Definitional alignment before capability alignment: a Design-Science framework for adjudicating claims about AGI

Resumen Técnico: Alineación Deficional antes de la Alineación de Capacidades (DAF-AGI)

Planteamiento del Problema
El campo de la Inteligencia Artificial General (AGI) sufre de una subespecificación crítica: el término carece de un referente único, compartido y estable. Las distintas operacionalizaciones de la AGI producen veredictos divergentes sobre los mismos sistemas, no debido a una falta de evidencia de capacidad, sino porque las definiciones codifican compromisos incompatibles sobre lo que constituye la "inteligencia". El artículo argumenta que esta indeterminación no es meramente una inmadurez científica, sino un problema de gobernanza. La ausencia de una regla de adjudicación compartida permite que los actores promuevan umbrales alineados con intereses científicos, comerciales y regulatorios específicos. En consecuencia, las afirmaciones de que la AGI ha "llegado" son a menudo indefendibles bajo un escrutinio estricto porque las definiciones utilizadas para realizar tales afirmaciones son contestadas, están cargadas de valores y carecen de certificación independiente. El problema central es que la comunidad está debatiendo cómo gobernar la llegada de la AGI sin antes alinearse sobre qué es la AGI, lo que conduce a una situación en la que los veredictos de "llegada", los disparadores regulatorios y los derechos contractuales se adjudican contra categorías que son, en sí mismas, informales e interesadas.

Metodología
El artículo emplea la Metodología de Investigación de Ciencia del Diseño (DSRM) para construir un artefacto conceptual de segundo orden, el Marco de Alineación Deficional para la AGI (DAF-AGI). La metodología se estructura en torno a seis actividades de DSRM: identificación del problema, definición de objetivos, diseño/desarrollo, demostración, evaluación y comunicación.

El diseño integra tres técnicas integradas:

1. Selección de Definiciones Documentadas: Se construye un corpus de definiciones a partir de publicaciones revisadas por pares, informes técnicos y posiciones de laboratorios principales. Las definiciones se agrupan en "familias de medición" basadas en su unidad de logro (por ejemplo, desempeño de tareas, sustitución económica, ontología de capacidades) en lugar de su redacción.
2. Ingeniería Conceptual: Basándose en la explicitación de Carnap, el marco trata a la "AGI" como un concepto defectuoso que requiere un rediseño para una función específica: la adjudicación pública. Los criterios se diseñan para evaluar la idoneidad para esta función en lugar de buscar una verdad esencial sobre la inteligencia.
3. Lente de Estudios de Ciencia y Tecnología (STS): El marco incorpora una auditoría de gobernanza, reconociendo que los parámetros de referencia (benchmarks) y las definiciones codifican valores y distribuyen ventajas. Este lente trata la autoría y los intereses materiales detrás de una definición como variables críticas para su idoneidad como estándar público.

El artefacto se evalúa mediante medios formativos y artificiales (congruencia interna y plausibilidad comparativa) en lugar de un despliegue de campo naturalista, de acuerdo con el diseño de los artefactos conceptuales.

Contribuciones Clave: El Artefacto DAF-AGI
La contribución principal es el marco DAF-AGI, que consta de dos componentes acoplados:

1. Cinco Criterios de Calificación Ordinal (C1–C5): Estos evalúan la "idoneidad adjudicativa" de una definición candidata.

   • C1 (Operacionalizabilidad): ¿Puede la definición convertirse en una prueba con condiciones de fallo acordadas?
   • C2 (Generalidad): ¿Requiere la definición amplitud a través de dominios materialmente diferentes o transferencia a condiciones no preparadas?
   • C3 (Explicitud sobre la Autonomía): ¿Establece la definición explícitamente si se requiere, se excluye o se gradúa la fijación de objetivos autónomos?
   • C4 (Estándar de Referencia): ¿Está la clase de comparación (por ejemplo, "humano") especificada con la precisión suficiente para ser testeada?
   • C5 (Estabilidad Procedimental): ¿Produce la regla interpretaciones comparables a lo largo del tiempo sin alteraciones retrospectivas?

2. Una Auditoría de Gobernanza (C6): No es una puntuación ordinal, sino una lectura estructurada de las condiciones institucionales de la definición. Audita:

   • Autoría: ¿Quién escribió el criterio?
   • Interés Material: ¿Qué intereses se adhieren al veredicto?
   • Certificación: ¿Quién declara que el criterio se ha cumplido?
   • Verificación Externa/Apelación: ¿Existe una revisión independiente?
   • Autoridad de Revisión: ¿Quién puede revisar la regla y bajo qué requisitos de divulgación?

El marco introduce el constructo de Soberanía Deficional: la capacidad institucional de un ente político "receptor de definiciones" para contestar, certificar contra y dar cuenta de las categorías tecnológicas importadas. Esto es distinto de la soberanía algorítmica (control sobre los sistemas) y la soberanía de datos (control sobre los datos); se refiere a las categorías utilizadas para evaluar dichos sistemas.

Demostración y Resultados
El marco se demuestra en un corpus de cinco familias de medición prominentes y una posición de frontera deflacionaria:

• Superioridad de Desempeño: Califica bajo en Generalidad (C2) y Estándar de Referencia (C4) porque depende de conjuntos de tareas seleccionables por el reclamante y deja al "humano" sin especificar.
• Sustitución Económica: Califica parcialmente en la mayoría de los criterios; vincula la AGI a los mercados laborales pero confunde la capacidad con la economía del despliegue.
• Ontología de Capacidades (ej. Niveles de DeepMind): Califica alto en Generalidad y Autonomía, pero parcialmente en Operacionalizabilidad y Estabilidad Procedimental, ya que la selección de los benchmarks sigue ligada a la institución autora.
• Paridad Psicométrica (ej. Teoría CHC): Califica alto en Operacionalizabilidad y Estándar de Referencia, pero parcialmente en Autonomía y Estabilidad respecto a la adaptación de pruebas humanas a máquinas.
• Eficiencia de Adquisición de Habilidades (ej. ARC-AGI): Califica alto en Operacionalizabilidad y Generalidad, pero parcialmente en Autonomía y Estabilidad (debido al versionado de los benchmarks).
• Posición Deflacionaria: Rechaza la operacionalización, sirviendo como una crítica de gobernanza en lugar de un candidato a estándar.

Prueba de Estrés de una Afirmación Fuerte de Llegada:
El marco se aplicó a la afirmación: "Los sistemas generativos actuales constituyen AGI porque superan a un adulto bien educado en muchas tareas cognitivas".

• Resultado: La afirmación no es públicamente adjudicable tal como está planteada.
• Análisis: La afirmación empareja una unidad de logro permisiva (producción de tareas) con una clase de referencia exigente ("adulto bien educado"). Bajo una operacionalización de Desempeño, la afirmación podría pasar si el conjunto de tareas es favorable. Sin embargo, bajo operacionalizaciones Psicométricas o de Adquisición de Habilidades (que utilizan la misma clase de referencia pero requieren paridad de perfil completo o eficiencia en tareas novedosas), la afirmación falla. Los sistemas exhiben perfiles "dentados" (fuertes en conocimiento, débiles en memoria/razonamiento) y fallan en los benchmarks de razonamiento novedoso.
• Conclusión: La fuerza persuasiva de la afirmación reside en una asimetría no declarada: combinar una unidad permisiva con una clase de referencia cuyas operacionalizaciones exigentes nunca son confrontadas. El marco expone esto como una elección de gobernanza, no como un hecho empírico.

Significancia y Alcance
El artículo limita explícitamente sus afirmaciones para evitar extralimitaciones:

• No es una Validación Empírica: La demostración fue realizada por el autor sobre un corpus seleccionado por el autor. El artículo no afirma que se haya logrado la fiabilidad inter-evaluador o la validación externa; estas son los siguientes pasos necesarios.
• No es una Nueva Definición: El DAF-AGI no propone una definición "verdadera" de AGI. Es un instrumento para evaluar definiciones y exponer las condiciones de gobernanza de su adopción.
• La Alineación Deficional Precede a la Alineación de Capacidades: El artículo argumenta que la alineación definicional es lógicamente anterior a la alineación de capacidades solo para el propósito de adjudicar afirmaciones de llegada y activar consecuencias de gobernanza (regulación, contratos, asignación de capital). No bloquea ni disminuye la investigación sobre el comportamiento de los sistemas, la corregibilidad o el riesgo que procede sin decidir si un sistema es AGI.
• Reflexividad Modesta: El autor reconoce que el propio marco incorpora elecciones de valor (la elección de los criterios). Sin embargo, argumenta que el marco pasa su propia prueba de gobernanza (C6) porque es inspeccionable, su autoría es divulgada y permite la contestación y revisión, a diferencia de las definiciones "capturadas" que evalúa.

El artículo concluye que el poder de fijar la definición de AGI es una capacidad soberana. Para los estados dependientes de la importación y para el público en general, la dependencia crítica no es meramente de los modelos o los datos, sino de las categorías utilizadas para evaluarlos. El marco proporciona un mecanismo para hacer que esta dependencia sea legible y contestable.